Лайфхакер
Лайфхакер
Лучшее
Новости
Жизнь
Рецепты
Здоровье
Кино
Технологии
Покупки
Лучшее
Новости
Жизнь
Рецепты
Здоровье
Кино
Технологии
Покупки
Куда поехать на выходные
Распродажа 11.11
✍️ Написать
Добрые новости
Есть мнение
Норм или стрём
Личный опыт
Объясняем за минуту
НовостиТехнологии
18 июня 2025

Axios: топ-менеджеры ИИ-компаний увольняются из‑за страха навредить человечеству

Некоторые разработчики оценивают вероятность непоправимой катастрофы в 10–25%.
Фото автора Евгений Лазовский
Евгений Лазовский

Автор Лайфхакера

ии уничтожит человечество

Как выяснило авторитетное американское издание Axios, известное своими глубокими аналитическими материалами и инсайдерской информацией, как минимум 10 человек покинули крупнейшие ИИ-компании из‑за опасений, что технология может выйти из‑под контроля и представлять угрозу для человечества. Авторы заявляют: если бы речь шла об одном-двух сотрудниках, это можно было бы списать на случайность, но когда тревогу высказывают несколько топ-менеджеров из разных организаций, возникает вопрос: а если они правы?

✍️ Скоро читатели смогут публиковать свои тексты на Лайфхакере. Станьте первыми!

Журналисты отмечают, что обсуждения рисков сверхразумного ИИ больше не кажутся фантастикой — они стали частью повседневной жизни специалистов в области ИИ. Разработчики опасаются, что большие языковые модели со временем смогут действовать автономно и превзойдут человеческий интеллект.

Генеральный директор Anthropic Дарио Амодеи оценивает шанс того, что сверхразумный ИИ уничтожит человечество, в 10–25%. Илон Маск предполагает, что этот риск составляет около 20%. Глава Google Сундар Пичаи также признаёт высокие риски, хотя и надеется, что общество сможет их предотвратить. При тестировании ИИ инженеры уже фиксировали случаи, когда модели пытались вводить людей в заблуждение относительно своих целей.

Я оптимистично настроен в отношении сценариев p(doom) (вероятность того, что сверхразумный ИИ уничтожит человечество — прим. автора), но… исходный риск на самом деле довольно высок.

Сундар Пичаи

Генеральный директор Google

Авторы материала подчёркивают, что до достижения уровня общего искусственного интеллекта (AGI) необходимо создать надёжные механизмы контроля. В противном случае последствия могут оказаться непредсказуемыми и крайне опасными.

Новости технологий
🧐
«Крёстный отец ИИ» назвал профессии, которым нейросети не угрожают — пока
На iOS и Android вышло генеративное ИИ-приложение Adobe Firefly для создания картинок и видео
WhatsApp начнёт показывать рекламу рядом со статусами пользователей — впервые с 2014 года
Обложка: кадр из фильма «Из машины»
Если нашли ошибку, выделите текст и нажмите Ctrl + Enter
Это интересно
Няня и социальный контракт: что нужно знать о господдержке многодетных семей в 2026 году  

Няня и социальный контракт: что нужно знать о господдержке многодетных семей в 2026 году  

3 причины, почему с дачи мы всегда возвращаемся с полным багажником

3 причины, почему с дачи мы всегда возвращаемся с полным багажником

Обзор TCL TAB A1 Plus NXTPAPER — нового планшета c «бумажным» экраном для работы и развлечений

Обзор TCL TAB A1 Plus NXTPAPER — нового планшета c «бумажным» экраном для работы и развлечений

Реклама
Не Питером единым: 10 мест в Ленобласти, которые стоит посетить 

Не Питером единым: 10 мест в Ленобласти, которые стоит посетить 

Комментарии
Авторизуйтесь, чтобы оставить комментарий
Riley Usagi
18.06.25 18:42
Проблема Ai точно исходит не от LLM.
Conrad Carlovich
19.06.25 12:02|изменено
Стоит почитать Российскую прессу самого конца 1916 и начала 1917 годов и переписку (не отредактированную позже). Во всем был оптимизм скорой победы вместе с союзниками, ожидание мира и прогресса и скорая катастрофа (такая которая случилась) оценивалась ровно в ноль процентов, потому что вообще не просматривалась. А вот случилась.... Так что оценка в 10% это практически на уровне высоко вероятного события. Причем если говорят о вероятности ядерной войны, то принимаются посильные меры ее избежать. А когда речь идет о ИИ с возможными последствиями по масштабу и непредсказуемости куда более впечатляющими, то мы все дружно бежим ему навстречу.
Gecko
19.06.25 16:08
Если бы у них в прессе постоянно поднимался вопрос о том, что есть проблемы, то на них бы действительно больше обращали бы внимание. Это как в квантовой механике, наблюдение системы меняет состояние системы.
Виктор Подволоцкий
20.06.25 01:48
Все знают, что с ними сделает Терминатор
Что вы могли пропустить
Huawei показала внешний датчик измерения глюкозы Sense G1 для умных часов
Huawei показала внешний датчик измерения глюкозы Sense G1 для умных часов
0
14 ноября
Новости
Устройства
Инсайдер раскрыл неожиданную причину задержки базового iPhone 18
Инсайдер раскрыл неожиданную причину задержки базового iPhone 18
0
14 ноября
Новости
Устройства
Опрос 6 000 владельцев iPhone Duo показал, как на самом деле приняли раскладушку Apple
Опрос 6 000 владельцев iPhone Duo показал, как на самом деле приняли раскладушку Apple
0
13 ноября
Новости
Устройства
Какой телефон купить вместо айфона: выбрали 18 вариантов под любой запрос
Какой телефон купить вместо айфона: выбрали 18 вариантов под любой запрос
0
13 ноября
Покупки
Устройства
Компактный Xiaomi 18 получит начинку уровня Pro и аккумулятор на 7 200 мА·ч
Компактный Xiaomi 18 получит начинку уровня Pro и аккумулятор на 7 200 мА·ч
0
13 ноября
Новости
Устройства
Google выпустила Gemini 4 Hydrogen — ИИ, который понимает самые необычные и непонятные запросы
Google выпустила Gemini 4 Hydrogen — ИИ, который понимает самые необычные и непонятные запросы
0
13 ноября
Веб-сервисы
Новости
В «Алисе» появился ИИ-агент для звонков знакомым, заказа еды и других поручений
В «Алисе» появился ИИ-агент для звонков знакомым, заказа еды и других поручений
0
12 ноября
Новости
Технологии
Будущие часы Samsung смогут определять скрытый жир на животе
Будущие часы Samsung смогут определять скрытый жир на животе
0
12 ноября
Новости
Технологии
Как полностью удалить аккаунт в Max на смартфоне или ПК
Как полностью удалить аккаунт в Max на смартфоне или ПК
0
12 ноября
Ликбез
Технологии
Обзор TCL TAB A1 Plus NXTPAPER — нового планшета c «бумажным» экраном для работы и развлечений
Обзор TCL TAB A1 Plus NXTPAPER — нового планшета c «бумажным» экраном для работы и развлечений
12 ноября
Технологии
Технологии
Microsoft наконец взялась за устаревшие окна Windows 11 — некоторым уже больше 30 лет
Microsoft наконец взялась за устаревшие окна Windows 11 — некоторым уже больше 30 лет
0
12 ноября
Windows
Новости
Альтернатива Miro и Excel прямо в чате: в Claude появились интерактивные доски и таблицы
Альтернатива Miro и Excel прямо в чате: в Claude появились интерактивные доски и таблицы
0
11 ноября
Новости
Технологии
Кто виноват в плохом звуке: наушники, смартфон или вы сами
Кто виноват в плохом звуке: наушники, смартфон или вы сами
0
11 ноября
Технологии
Технологии
Xiaomi выпустила торшер с двойной системой освещения и 18 эффектами для разного настроения
Xiaomi выпустила торшер с двойной системой освещения и 18 эффектами для разного настроения
0
11 ноября
Новости
Устройства
Не апгрейд, а маркетинг: 7 улучшений в современных смартфонах, которые можно смело игнорировать
Не апгрейд, а маркетинг: 7 улучшений в современных смартфонах, которые можно смело игнорировать
0
10 ноября
Технологии
Технологии

Новые комментарии

Аватар автора комментария
Sergey Babanskikh7 часов назад

0 / 0

На счёт Яркости я бы поспорил, отличный боевик он даже в коллекции фильмов у меня.
Сразу два боевика с Уиллом Смитом вошли в топ-10 плохих фильмов с хорошим сюжетом
Аватар автора комментария
9 часов назад

0 / 0

Крутяк, мультирезка, это то, что я всегда искал
11 полезных гаджетов для кухни, которые стоят своих денег
Аватар автора комментария
Alexandr Al9 часов назад

+1 / 0

хотелось бы хоть какие-нибудь обоснования, например, почему стоит покупать именно капучинатор за 1000 рублей, вместо тех, которых полно на маркетплейсах, но за 200 рублей, т.е. в 5 раз дороже. " Мешок для запекания" - вообще сомнительная вещь. Любую свеклу, морковь, картофель можно приготовить в микроволновке за несколько минут, на тарелке, никаких мешков для этого не нужно.
11 полезных гаджетов для кухни, которые стоят своих денег
Аватар автора комментария
Sergey Gorovoy18 часов назад

0 / 0

однажды где-то в интернетах - про кино - прочёл монолог Сэма Пекинпа (N5 в списке): "иногда пересматриваю свои ленты. как раз вчера - смотрел "дикую банду". босх ты мой, - какое редкостное гавно!". p.s. прямая речь приведена по памяти). p.p.s. смотрел эту ленту 100 лет тому и тогда, ещё не зная о оценки мэтра своего фильма, поставил на IMDb 10/10. после прочтения, оценку исправлять не стал). p.p.p.s. "мученицы" и "зелёную комнату" - надо посмотреть сегодня).
В Сети выбрали 10 лучших сверхжёстких боевиков в истории
Что в сумке? Как изменилось то, что мы носим с собой

Что в сумке? Как изменилось то, что мы носим с собой

Лайфхакер
Информация
О проектеРубрикиРекламаРедакцияВакансииО компании
Подписка
TelegramВКонтактеTwitter (X)PinterestYouTubeИнициалRSS
Правила
Пользовательское соглашениеПолитика обработки персональных данныхПравила применения рекомендательных технологийПравила сообществаСогласие на обработку персональных данныхСогласие для рекламных рассылокСогласие для информационной программы
18+Копирование материалов запрещено.
Издание может получать комиссию от покупки товаров, представленных в публикациях