Билл Гейтс, сооснователь Microsoft, заявил, что искусственный интеллект способен вызвать события, ведущие к «миллиарду смертей». Об этом он сказал в интервью программе NBC «Meet the Press».
По словам Гейтса, отрасли необходимо государственное регулирование: «Нужно, чтобы правоохранительные органы и политики включились в обсуждение того, какие меры защиты и контроля должны применяться».

Его слова перекликаются с заявлением главы Anthropic Дарио Амодеи, который в сентябрьском эссе призвал ведущие ИИ-компании замедлить темпы разработки, назвав регулирование «самым эффективным способом» сдерживания.

В опубликованном в четверг отрывке интервью Гейтс сказал, что его беспокоит возможность получения продвинутых ИИ-инструментов злоумышленниками. Ранее Anthropic опубликовала отчёт, в котором описала случаи, когда государственные и негосударственные группы использовали Claude для планирования атак дронами и опасных биологических исследований.

Эссе Амодеи о необходимости замедления ИИ поддержали Илон Маск и Сэм Альтман. Оно вышло после публикации бывшего исследователя Anthropic Джейкоба Коксона, который в резонансном посте о своём увольнении написал, что ИИ-лаборатории «играют нашими жизнями».

Предупреждения о безопасности ИИ пока не убедили Вашингтон в необходимости приостановить или замедлить разработку технологии. Президент Дональд Трамп раскритиковал Амодеи, обвинив его в том, что тот «строит из себя идеального маленького ангела». Трамп демонстрирует явное нежелание регулировать ИИ, хотя на прошлой неделе пообещал создать «ИИ-силы», которые будут «присматривать» за компаниями отрасли.

Сдержанную позицию занимает и глава и председатель совета директоров Microsoft Сатья Наделла: по его мнению, ИИ-компании должны справляться своими силами. Выступая на подкасте All-In, он заявил: «Если видишь стоп-сигнал» — имея в виду сбои в коде, способные привести к появлению неконтролируемых ИИ-агентов, — «останови процесс».

Несмотря на широкое согласие в Кремниевой долине о необходимости более надёжной защиты от подобных инцидентов, таких как взлом Hugging Face со стороны OpenAI, руководители компаний расходятся во мнениях о том, как эти меры должны обеспечиваться.

В этом месяце Наделла в служебной записке сотрудникам Microsoft, с которой ознакомилось издание Business Insider, предупредил, что компаниям нужно время, чтобы сделать технологию безопасной.

Сам Гейтс, ныне технологический советник Наделлы и других топ-менеджеров Microsoft, ранее был одним из главных оптимистов в сфере ИИ, но летом сменил позицию. В опубликованном в августе эссе он написал, что у мира нет плана безопасного внедрения ИИ.

«Я считаю, что нам нужно время, чтобы подготовиться к периоду социальных, политических и экономических потрясений, в который мы вступаем, - сказал он. - Если бы у кого-то был убедительный план по глобальному замедлению развития ИИ, я бы, скорее всего, его поддержал».

Источник: centralasia.media