Лайфхакер
Лайфхакер
Лучшее
Новости
Жизнь
Рецепты
Здоровье
Кино
Технологии
Покупки
Лучшее
Новости
Жизнь
Рецепты
Здоровье
Кино
Технологии
Покупки
Куда поехать на выходные
Распродажа 11.11
✍️ Написать
Добрые новости
Есть мнение
Норм или стрём
Личный опыт
Объясняем за минуту
НовостиТехнологии
10 сентября

ИИ может уничтожить человечество в ближайшее десятилетие — так считает эксперт по безопасности из Anthropic

И не он один.
Фото автора Евгений Лазовский
Евгений Лазовский

Автор Лайфхакера

опасность ии

Исследователь по безопасности ИИ Эван Хьюбингер из Anthropic считает, что вероятность гибели человечества из-за искусственного интеллекта в течение следующих 10 лет превышает 10%. Его заявление появилось после того, как другой специалист в области ИИ Джейкоб Коксон уволился из Anthropic, заявив, что компании «играют с нашими жизнями».

✍️ Скоро читатели смогут публиковать свои тексты на Лайфхакере. Станьте первыми!

Коксон, ранее работавший исследователем и в Anthropic, и в OpenAI, сообщил в посте в соцсети X, что решил уйти из-за опасений по поводу слишком быстрого развития технологий. По его словам, люди, создающие современные ИИ-системы, «искренне уверены, что они могут убить всех нас к концу десятилетия».

Не недооценивайте силу этой технологии. Скоро это будут сверхчеловеческие системы, которые смогут взломать что угодно, за ночь изменить любую отрасль и получить реальные власть и ресурсы.

Джейкоб Коксон

Бывший исследователь Anthropic и OpenAI

Его публикация набрала более 140 миллионов просмотров и вновь разогрела давний спор: смогут ли люди безопасно создавать и контролировать ИИ-модели, которые становятся всё более мощными. На фоне подготовки Anthropic и OpenAI к возможным публичным размещениям акций часть исследователей призывает замедлить развитие технологий.

Эван Хьюбингер, руководитель направления по безопасности ИИ в Anthropic, поддержал слова Коксона. Он заявил, что компании действительно считают возможным сценарий, при котором искусственный интеллект приведёт к гибели человечества.

Джейкоб прав — мы действительно искренне считаем, что ИИ может убить всех людей. Лично я оцениваю вероятность того, что это произойдёт в течение следующего десятилетия, более чем в 10%.

Эван Хьюбингер

Руководитель направления по безопасности ИИ в Anthropic

По словам Хьюбингера, Anthropic старается решить проблему безопасности, но у компании пока нет плана, который гарантировал бы контроль над будущими сверхразумными системами.

Одна из главных опасностей, которую обсуждают специалисты, — рекурсивное самосовершенствование. Это сценарий, при котором ИИ сможет самостоятельно создавать более совершенные версии себя без участия человека. Сейчас таких возможностей у искусственного интеллекта нет, но компании предупреждают, что их появление может значительно усложнить контроль над технологиями.

Ранее подобные опасения уже высказывали руководители и исследователи из индустрии. В 2023 году глава OpenAI Сэм Альтман, руководитель Anthropic Дарио Амодеи и другие специалисты подписали заявление, в котором призвали считать снижение риска вымирания человечества из-за ИИ глобальным приоритетом наравне с пандемиями и ядерной войной.

В научной среде для оценки подобных сценариев иногда используют термин p(doom) — условную вероятность катастрофического исхода из-за развития ИИ. При этом среди экспертов нет единого мнения: одни считают такие риски реальными и требуют регулирования технологий, другие называют их чрезмерными и отвлекающими от более насущных проблем.

Дискуссия о контроле над ИИ уже перешла на уровень законодательства. Например, в США обсуждаются инициативы, которые должны создать правила для разработки и внедрения передовых моделей, включая FRONTIER Act и законопроект о временной приостановке разработки искусственного сверхразума.

Больше интересных новостей
🤔
Киану Ривз снова станет мстителем по имени Джон в новом триллере про бывшего агента ЦРУ
В Сети неоднозначно приняли iPhone Duo — многие вступились за Samsung
Дэниел Рэдклифф может появиться в сериале «Гарри Поттер» — на этот раз в роли Волан-де-Морта
Обложка: кадр из фильма «Терминатор-2: Судный день»
Если нашли ошибку, выделите текст и нажмите Ctrl + Enter
Это интересно
Как легко смонтировать ролик: 6 шагов для новичков на примере Мовавика Видео

Как легко смонтировать ролик: 6 шагов для новичков на примере Мовавика Видео

Реклама
Няня и социальный контракт: что нужно знать о господдержке многодетных семей в 2026 году  

Няня и социальный контракт: что нужно знать о господдержке многодетных семей в 2026 году  

В Архангельск на выходные: что посмотреть и попробовать

В Архангельск на выходные: что посмотреть и попробовать

Что нужно знать о ПИШ — новом формате подготовки инженеров

Что нужно знать о ПИШ — новом формате подготовки инженеров

Комментарии
Авторизуйтесь, чтобы оставить комментарий
Екатерина
13.09.26 12:32
бред
Что вы могли пропустить
Пользователям DeepSeek начали урезать лимиты — нейросеть не справляется с нагрузкой
Пользователям DeepSeek начали урезать лимиты — нейросеть не справляется с нагрузкой
0
Вчера
Веб-сервисы
Новости
«AirPods для лица»: появились новые подробности первых смарт-очков от Apple
«AirPods для лица»: появились новые подробности первых смарт-очков от Apple
0
Вчера
Новости
Устройства
Объясняем за минуту: чем на ноутбуке спящий режим отличается от гибернации
Объясняем за минуту: чем на ноутбуке спящий режим отличается от гибернации
0
Вчера
Технологии
Технологии
Huawei показала внешний датчик измерения глюкозы Sense G1 для умных часов
Huawei показала внешний датчик измерения глюкозы Sense G1 для умных часов
0
14 ноября
Новости
Устройства
Инсайдер раскрыл неожиданную причину задержки базового iPhone 18
Инсайдер раскрыл неожиданную причину задержки базового iPhone 18
0
14 ноября
Новости
Устройства
Опрос 6 000 владельцев iPhone Duo показал, как на самом деле приняли раскладушку Apple
Опрос 6 000 владельцев iPhone Duo показал, как на самом деле приняли раскладушку Apple
0
13 ноября
Новости
Устройства
Какой телефон купить вместо айфона: выбрали 18 вариантов под любой запрос
Какой телефон купить вместо айфона: выбрали 18 вариантов под любой запрос
0
13 ноября
Покупки
Устройства
Компактный Xiaomi 18 получит начинку уровня Pro и аккумулятор на 7 200 мА·ч
Компактный Xiaomi 18 получит начинку уровня Pro и аккумулятор на 7 200 мА·ч
0
13 ноября
Новости
Устройства
Google выпустила Gemini 4 Hydrogen — ИИ, который понимает самые необычные и непонятные запросы
Google выпустила Gemini 4 Hydrogen — ИИ, который понимает самые необычные и непонятные запросы
0
13 ноября
Веб-сервисы
Новости
В «Алисе» появился ИИ-агент для звонков знакомым, заказа еды и других поручений
В «Алисе» появился ИИ-агент для звонков знакомым, заказа еды и других поручений
0
12 ноября
Новости
Технологии
Будущие часы Samsung смогут определять скрытый жир на животе
Будущие часы Samsung смогут определять скрытый жир на животе
0
12 ноября
Новости
Технологии
Как полностью удалить аккаунт в Max на смартфоне или ПК
Как полностью удалить аккаунт в Max на смартфоне или ПК
0
12 ноября
Ликбез
Технологии
Обзор TCL TAB A1 Plus NXTPAPER — нового планшета c «бумажным» экраном для работы и развлечений
Обзор TCL TAB A1 Plus NXTPAPER — нового планшета c «бумажным» экраном для работы и развлечений
12 ноября
Технологии
Технологии
Microsoft наконец взялась за устаревшие окна Windows 11 — некоторым уже больше 30 лет
Microsoft наконец взялась за устаревшие окна Windows 11 — некоторым уже больше 30 лет
0
12 ноября
Windows
Новости
Альтернатива Miro и Excel прямо в чате: в Claude появились интерактивные доски и таблицы
Альтернатива Miro и Excel прямо в чате: в Claude появились интерактивные доски и таблицы
0
11 ноября
Новости
Технологии

Новые комментарии

Аватар автора комментария
Vokalex4 часа назад

0 / 0

Отличный список, спасибо за подборку. Хочу добавить ещё один инструмент, который может быть полезен тем, у кого очень большие фотоколлекции. PhotoMind — это AI‑поддерживаемый органайзер фотографий. Он помогает быстро упорядочить огромные библиотеки, находить похожие изображения и управлять коллекцией с помощью умных тегов. Подробнее на сайте https://getphotomind.com. Я являюсь разработчиком этого сервиса.
10 приложений для организации фотоколлекции
Аватар автора комментария
Konstantin Vorozhtsov4 часа назад

0 / 0

Первое это вкусовщина , а все остальное - это не флаги, а здравый смысл. Не нужно из этого что-то изобретать и делать что-то особенное.
8 красных флагов на первом свидании: личный опыт
Аватар автора комментария
Konstantin Vorozhtsov5 часов назад

0 / 0

П . 1 - субъективная вкусовщина
8 красных флагов на первом свидании: личный опыт
Аватар автора комментария
Konstantin Vorozhtsov5 часов назад

0 / 0

Тебе красный флаг))) ну авторка так видит.
8 красных флагов на первом свидании: личный опыт
Что в сумке? Как изменилось то, что мы носим с собой

Что в сумке? Как изменилось то, что мы носим с собой

Лайфхакер
Информация
О проектеРубрикиРекламаРедакцияВакансииО компании
Подписка
TelegramВКонтактеTwitter (X)PinterestYouTubeИнициалRSS
Правила
Пользовательское соглашениеПолитика обработки персональных данныхПравила применения рекомендательных технологийПравила сообществаСогласие на обработку персональных данныхСогласие для рекламных рассылокСогласие для информационной программы
18+Копирование материалов запрещено.
Издание может получать комиссию от покупки товаров, представленных в публикациях