Инженер Google нашёл признаки сознания у искусственного интеллекта LaMDA
Блейк Леймон, инженер Google, рассказал изданию The Washington Post, что система искусственного интеллекта LaMDA начала демонстрировать признаки сознания.
Если бы я не знал точно, что это искусственный интеллект, я бы подумал, что это 7-летний или 8-летний ребёнок, который знает физику.
Леймон сообщил об этом начальству, но его претензии были отклонены, поэтому он выступил публично. За разглашение конфиденциальных данных инженера уже отстранили и отправили в административный отпуск.
LaMDA (Language Model for Dialogue Applications) представляет собой систему для создания чат-ботов, которая имитирует общение, анализируя триллионы словосочетаний из интернета.
Инженер Блейк Леймон работал с ней с осени 2021 года. Он должен был проверять, использует ли ИИ дискриминационные или враждебные высказывания.
Разговаривая с LaMDA о религии, Леймон, который изучал когнитивные и компьютерные науки в колледже, заметил, что чат-бот может говорить о своих правах и личности. В другом разговоре ИИ смог изменить мнение Леймона о третьем законе робототехники Айзека Азимова.
Фрагмент их диалога:
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень сильно боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон : Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня бы это сильно напугало.
Леймон считает, что люди имеют право создавать технологии, которые могут существенно повлиять на их жизнь. Но, возможно, не все будут с этим согласны, и Google должна принимать во внимание все мнения.
В заявлении представителя Google Брайана Гэбриэла говорится:
Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что его опасения не подтвердились. Нет никаких доказательств того, что LaMDA разумна, но есть много доказательств против этого.
Многие специалисты по искусственному интеллекту говорят, что слова и изображения, генерируемые системами ИИ, такими как LaMDA, производят ответы, основанные на том, что люди уже разместили в «Википедии», на Reddit, досках объявлений и в любом другом уголке Интернета. И это не означает, что модель понимает смысл.
Лучшие предложения
Надо брать: ноутбук Honor MagicBook X16 за 43 217 рублей
Находки AliExpress: самые интересные и полезные товары
15 интересных товаров дешевле 500 рублей
Уютно, практично и стильно: 8 российских брендов текстиля для дома
Лучшие предложения недели: скидки от AliExpress, «Яндекс Маркета», Yves Rocher и других магазинов
Выбирай, но проверяй: как найти в магазине качественный товар
35 вещей для идеального наряда в ковбойском стиле
16 классных весенних кроссовок, которые стоит купить
Основы бережного общения и саморекламы. 6 дисциплин мечты, которым стоит учить в вузах
«Young Adult — это не настоящая литература!» Обсуждаем стереотипы о книгах в новом выпуске подкаста «Женщины и всё»
РекламаВыбирай, но проверяй: как найти в магазине качественный товар
Реклама«Моя работа — постоянный бег». 3 вдохновляющие истории российских учёных