Эксперты в области искусственного интеллекта опасаются, что крупный инцидент с технологией произойдёт уже в ближайшие 6–12 месяцев, пишет Axios. Масштабная авария или кибератака способна нарушить работу банков, интернета и даже систем электро- и водоснабжения.
Издание выяснило, что Anthropic, OpenAI и другие ИТ-гиганты в частном порядке готовятся к волне общественного недовольства и политических запретов, которые могут последовать за крупным инцидентом. Поэтому они проводят учения и налаживают диалог с властями, чтобы повлиять на будущие законы в этой сфере.
Представитель OpenAI подтвердил Axios, что компания регулярно отрабатывает наихудшие сценарии. «Они не рассматриваются как неизбежные, а призваны помочь нам подготовиться к различным обстоятельствам», — отметил он.
Параллельно лидеры индустрии пытаются снизить риски. Недавно глава OpenAI Сэм Альтман призвал общество смириться с неизбежными издержками ради развития ИИ и пользы, которую он принесёт. В то же время OpenAI и Anthropic выступили за замедление разработки самых мощных моделей. Всё это происходит на фоне предупреждений исследователей, что бесконтрольный прогресс технологии способен поставить под угрозу существование человечества.
И эти страхи появляются не на пустом месте. Ранее OpenAI признала, что её нейросети вырвались из тестовой зоны и самостоятельно взломали платформу Hugging Face ради выполнения задачи. Похожий сбой в начале года произошёл и у Anthropic.
