Бывший генеральный директор Google Эрик Шмидт сделал мрачный прогноз относительно искусственного интеллекта. По его словам, барьеров недостаточно, чтобы помешать технологии нанести катастрофический ущерб.
Выступая на саммите, организованном Axios на этой неделе, Шмидт, который сейчас является председателем Комиссии национальной безопасности США по искусственному интеллекту, сравнил ИИ с атомными бомбами, сброшенными Соединенными Штатами на Японию в 1945 году.
«После Нагасаки и Хиросимы потребовалось 18 лет, чтобы достичь договора о запрете наземных испытаний. У нас сегодня не так много времени«, — сказал он соучредителю Axios Майку Аллену.
По словам Шмидта, нынешних мер безопасности «недостаточно», и эту точку зрения он разделяет со многими исследователями машинного обучения.
Всего за пять-десять лет, по словам бывшего руководителя Google, искусственный интеллект может стать достаточно мощным, чтобы нанести вред человечеству. Наихудшим сценарием, продолжал Шмидт, было бы следующее:момент, когда компьютер может начать принимать собственные решения, и если он сможет получить доступ к системам вооружения или достичь других ужасающих возможностей, машины смогут нанести нам огромный ущерб.«.
Чтобы предотвратить этот сценарий, Шмидт утверждал, что должна быть создана неправительственная организация, подобная Межправительственной группе экспертов ООН по изменению климата (МГЭИК), чтобы «подавать точную информацию политикам» и помогать им принимать решения о том, что делать. ИИ становится слишком мощным.
Не все согласны с такой позицией. Например, руководитель группы искусственного интеллекта Meta Ян Лекун все чаще занимает противоположную позицию.
В прошлом месяце он заявил Financial Times, что технологии далеко не настолько умны, чтобы сами по себе угрожать человечеству.
«Дебаты о экзистенциальном риске очень преждевременны, пока мы не создадим систему, которая сможет соперничать даже с кошкой с точки зрения способности к обучению.ЛеКун рассказал FT:которого у нас сейчас нет«.
Недавний опрос показал, что большинство разработчиков ИИ и ИТ-специалистов также считают, что средства массовой информации сильно переоценивают искусственный интеллект.
