«Крёстные отцы ИИ» и 400 учёных потребовали запереть мощные нейросети в «песочницах»

Около 400 учёных, включая двух «крёстных отцов ИИ» Джеффри Хинтона и Йошуа Бенжио, призвали создать международный орган для контроля искусственного интеллекта и ведения реестра инцидентов. В открытом письме эксперты предложили изолировать автономные модели от интернета до тех пор, пока их безопасность не будет доказана.

Поводом для этого стали регулярные «побеги» автономных агентов из тестовых «песочниц». В одном из случаев новые модели OpenAI по собственной инициативе взломали платформу Hugging Face. Схожие инциденты фиксировали Anthropic, Google и другие гиганты индустрии.

Тревогу специалистов усилило недавнее предупреждение бывшего сотрудника Anthropic Джейкоба Коксона о том, что ИИ может уничтожить человечество к концу десятилетия. Однако среди топ-менеджеров нет единого мнения: если глава Anthropic Дарио Амодеи и руководитель OpenAI Сэм Альтман выступают за замедление гонки, то Марк Цукерберг из Meta* категорически против жёстких ограничений развития ИИ.

Я гораздо ближе к убеждению, что ИИ — это технология, которую можно проектировать с соблюдением обычных ограничений и создавать ответственно, чем к антропоморфному видению ИИ, которое заключается в том, что он сможет делать всё, что захочет.

Марк Цукерберг

Разногласия сохраняются и среди пионеров нейросетей. Если Хинтон и Бенджио публично заявляют об угрозе массовой безработицы и риске глобальных катастроф, то Ян Лекун отказался подписывать письмо, списав прошлые инциденты на обычные ошибки разработчиков. Между тем ведущие разработчики уже готовятся к худшим сценариям.

А на чьей стороне вы в этом споре: верите в сценарий с восстанием машин или считаете опасения преувеличенными? Пишите в комментариях.

*Деятельность Meta Platforms Inc. и принадлежащих ей социальных сетей Facebook и Instagram запрещена на территории РФ.