Лайфхакер
Лайфхакер
Лучшее
Новости
Жизнь
Рецепты
Здоровье
Кино
Технологии
Покупки
Лучшее
Новости
Жизнь
Рецепты
Здоровье
Кино
Технологии
Покупки
Реши за меня
Добрые новости
Стыдные вопросы
Есть мнение
Норм или стрём
Личный опыт
Объясняем за минуту
Сервисы
Технологии
15 апреля

Противное мнение: ИИ-копии умерших — не милота, а тихий ужас и контент из «Чёрного зеркала»

Хороши ли такие технологии для кого-то, кроме создающих их компаний?
Фото автора Дарья Громова
Дарья Громова

Автор Лайфхакера

ИИ копии умерших

Последние годы об ИИ кричат из каждого утюга — в том числе в контексте всевозможных применений в реальной жизни. Регулярно всплывают истории, связанные с копированием личности и воспоминаний реальных людей. То корейский телеканал предлагает матери погибшей девочки пообщаться с её VR-аватаром и делает из этого YouTube-документалку на 37 миллионов просмотров. То ИИ-аватар погибшего под колёсами выступает в суде с речью при вынесении приговора виновнику ДТП. То цифрового клона умершего 70 лет назад актёра одобряют на роль в новом фильме.

⚡ Новости из мира гаджетов, обзоры, гайды и не только — в телеграм-канале «Технологии | Лайфхакер».

Все эти истории собирают лайки и тысячи комментариев. И если одни восхищаются тем, что безутешные родственники получают шанс ещё раз встретиться и поговорить с ушедшими близкими, то другие называют таких аватаров и клонов «грифботы» (от англ. griefbot, буквально — «боты горести»). А создателей таких ИИ-поделок обвиняют в паразитировании на боли и утрате людей.

Буквально сейчас в соцсетях активно обсуждают историю 80-летней женщины из Китая, сын которой год назад погиб в автокатастрофе. Беспокоясь, что женщина с больным сердцем не перенесёт эту новость, её семья решила скрыть происшествие и связалась с компанией, которая создаёт ИИ-аватары мёртвых людей. За две недели специалисты сделали 3D-модель, в точности воспроизводящую внешность погибшего и его речь — вплоть до особенностей тона и темпа, а также привычных для него фраз и выражений. 

ИИ-копии умерших: этот мужчина — ИИ-аватар
Этот мужчина — ИИ-аватар

Этот мужчина — ИИ-аватар. Кадры: Weibo

Когда всё было готово, клон созвонился с женщиной по видеосвязи и объяснил, что ему пришлось срочно уехать в другой город на заработки. С тех пор уже на протяжении года пожилая женщина ежедневно разговаривает со своим «сыном», советует ему одеваться потеплее и заботиться о здоровье. 

В интернете мнения разделились. Одни считают, что это ложь во спасение и подделка поддерживает в женщине стремление к жизни и оказывает эмоциональную поддержку. Другие же говорят, что ИИ может осквернять память о реальном человеке и приписывать ему мысли, которых тот никогда не придерживался, — а ещё не даёт живым двигаться дальше.

Такие истории напоминают эпизод «Я скоро вернусь» из второго сезона «Чёрного зеркала» — который вышел, на минуточку, ещё в 2013 году. И ещё тогда, задолго до повсеместного ИИ-фицирования, создатели вывели чёткую мысль: компьютер не заменит человека, даже если скопирует его внешность и манеры. Глупо делать вид, что обученная на реальных воспоминаниях и данных о человеке, но всё же в первую очередь компьютерная модель сможет дать окружающим опыт, схожий с общением с близким. Это даже хуже, чем отрицание произошедшего, потому что не даёт возможности пережить боль и запирает в иллюзии.

А что думаете вы? Могут ли такие технологии быть благом или всё это — паразитирование на эмоциях и выкачивание денег под предлогом эмоциональной поддержки? Делитесь мнением в комментариях.

О нейросетях
🤔
Почему нейросетям не место в каждом сервисе и приложении
Почему раздевать людей на фото с помощью ИИ как минимум неэтично, как максимум — незаконно
Как распознать нейросетевые фейки: 17 полезных методов
Нужно ли благодарить нейросети за ответы
Обложка: кадр из игры Dead Space / Лайфхакер / Gemini
Если нашли ошибку, выделите текст и нажмите Ctrl + Enter
Это интересно
Как поддержать близкого, который бросает курить, и не испортить отношения

Как поддержать близкого, который бросает курить, и не испортить отношения

ТЕСТ: Какой вы путешественник? 

ТЕСТ: Какой вы путешественник? 

Как сделать жизнь в своём районе комфортнее: 6 простых способов

Как сделать жизнь в своём районе комфортнее: 6 простых способов

4 вещества в организме, дисбаланс которых может помешать сбросить вес

4 вещества в организме, дисбаланс которых может помешать сбросить вес

Комментарии
Виктор Подволоцкий
15.04.26 20:57|изменено
В фильме «Удачи, веселья, не сдохни» тоже неплохо эту тему подсветили. Это ужасно, это обман, часто самого себя
Виктор Медведев
15.04.26 21:49
Придётся поддерживать эту реальность вокруг бабули до конца теперь, потому что такоооой обман никто не выдержит
Дарья Громова
16.04.26 10:05
Ещё и эту историю так широко осветили, что вопрос времени, когда ей об этом расскажут знакомые(
Igor Chizhikov
15.04.26 22:39
Я уверен, что скоро откроется немало бюро оцифровки, где можно скопировать голос, мимику, жесты, походку человека и далее использовать для цифровой ИИ образ в интернет мемориале человека и его семьи. Странно что ужас общения с цифровой ИИ образом обсуждается только вокруг ближайших родственников - дети и родители. Но и тут для большого количества людей познавших утрату близких это психотерапия. У меня умер папа, его портрет висит на даче. Каждый раз приезжая на дачу я здороваюсь с отцом и рассказываю ему об обновлениях на даче, которую он строил. А теперь представьте что вы создали генеалогическое древо, например в Famiry.ru или аналогичном сервисе. Внук смотрит своих дедушек и бабушек, а карточка их это не только фото и текстовый комментарий, но и прямое общение с цифровым ИИ образом. Внук может спросить кем дедушка работал, что ему нравилось в детстве, как он познакомился с бабушкой и прочее. Происходит живое общение. А теперь берем еще дальше - правнук, праправнук. Для них вообще нет даже намека в чем то ужасном при общении с родственником. А теперь поговорим о захоронениях. Сколько поколений ухаживает за могилами своих близких? Я вижу что уже начиная с внуков могилы начинают зарастать. А с правнуков уже значительно чаще. И как наверно знаете, бесхозные захоронения могут быть освобождены и использованы другими. Иными словами память о родственнике исчезает на корню. И только цифровой ИИ образ покинувшего мир человека остается и может быть востребован не только прямыми родственниками, но и семьями боковых ветвей генеалогического древа. Например у меня собрано 240 персон, а у боковой ветви семья сумела собрать более 1.5 тысячи персон.
Виктор Подволоцкий
15.04.26 23:30
Напоминает стену с фото и картинами в Гарри Поттере. Проходишь так мимо, а там дед ругается с зятем через две рамки, и тебе прилетает до кучи). Но вообще проблема захоронений и попытка увековечить могут идти порознь. Две разные задачи со своими нюансами и болями.
Дарья Громова
16.04.26 10:04
А что вы имеете в виду под персонами? Просто известные родственники, или оцифровка уже пошла дальше?
Avan Soulse
16.04.26 00:08
Проблема ещё в том, что человек может утратить свою личность и при жизни(после физической ли травмы мозга, или от старческого слабоумия) И тогда-то возникает тот философский вопрос: что делает человека "реальным", когда воспоминания со временем искажаются(тут к слову, о приписываемых якобы неестественных мыслях) и даже здоровые люди описывают одни и те же события из прошлого по-разному, а вкусы их со временем могут меняться. К тому же если не отбрасывать теорию обо всём мире как симуляции, то вовсе станет незачем столь рьяно протестовать против цифровых клонов, в то время как учёные умы бьются над доказательством виртуальности всей вселенной как таковой. По-моему(о чём уже было сказано другим комментатором), общение с цифровыми двойниками ничуть не большая и вроде такая же безобидная иллюзия, как и разговоры с усопшими перед их фотографиями, только с той разницей, что боты куда вероятнее будут отвечать мыслями "оригинала", нежели сам близкий, который станет вспоминать, как бы тот ответил.
Виктор Подволоцкий
16.04.26 09:09
Тогда встаёт вопрос, а где-то самое состояние, тот возраст, который нужно запечатлеть в ИИ-клоне?
Avan Soulse
16.04.26 14:44
Всё индивидуально. Примерно как с завещанием. Кто-то наживает имущество и заботится об его судьбе на случай внезапной своей смерти в 30-40 лет, а кто-то и в 80 либо не имеет ничего, либо считает себя бессмертным, не задумываясь о наследстве. Так же и с клонированием. Если есть желание и возможность создать такого бота, которого можно будет и обновлять время от времени, то почему б этого не сделать.
Igor Chizhikov
16.04.26 17:08
бывая на захоронениях невольно этим вопросом задаешься всегда. видишь актеров, деятелей науки, обычных людей, где фото установлено в соотвествии с возрастом. но я не раз спрашивал людей старше себя, какое возраст должен быть увековечен, чтобы потомки могли хранить образ. и многие говорили, что для женщины это 30, а для мужчины 40 (разумеется с возможным отклонением в обе стороны), ведь это пик красоты, мудрости и стати
Виктор Подволоцкий
18.04.26 10:34
Тоже задумывался об этом. Многих деятелей культуры знают по ярким образом на пике славы, но уходят многие их них совсем другими людьми...
Kremlina Nova
16.04.26 10:55
Я считаю, что это не честно. Каждый должен знать правду. Нельзя жить иллюзиями. Лучше бы совсем не было этого ИИ, он больше вредит, чем помогает.
Igor Chizhikov
16.04.26 17:24
в чем нечестность по отношению к внуку, правнуку? представьте что вы листая альбом увидели фото прадеда и можете задать ему вопрос - например, почему он так странно одет или чем любил заниматься, кто были его дети? поколению 40х и 70х достался единственный шанс запечатлеть голос своих родственников, в их памяти он еще хранится. а еще наречия на которых говорили родственники. видение писателей и режиссеров не должно запрещать продажу топоров, из-за того, что кто-то старушку тюкнул им. ведь этим инструментом без единого гвоздя храмы воздвигали на Руси
Kremlina Nova
17.04.26 17:58
По отношению к людям и их чувствам. Например любимы человек умер, а ты не знаешь об этом, он звонит и общается с тобой, и ты в надеждах, что он вернется и будет рядом с тобой. Время идет, а ты стоишь на месте. Хотя за это время, ты можешь познакомиться с другим человеком, который не хуже того.
Артём Козориз
16.04.26 11:06
Это очень жестоко по отношению к этой женщине. Очень. Но если посмотреть с другой стороны, например, когда условные правнуки, которые не застали дедов, смогут вместо фоток и видео пообщаться с аватаром предка — возможно это и будет нормально. То есть исключительно для тех, кто человека не знал при жизни и не будет воспринимать ИИ-клон как замену умершего.
Дарья Громова
16.04.26 16:49
Вот вопрос, насколько это вообще имеет смысл, если соответствие клона реальному человеку в таком случае никак не проверить
Igor Chizhikov
16.04.26 17:29
если я воссоздам образ матери, отца, деда и бабушки, тети и дяди, то последующим поколениям реализацию придется лишь принять, потому как их память вообще не имеет никаких воспоминаний об этих людях. а в образ предка будут добавлены характерные осообенности, о чем я писал выше. и они уникальные, как и сами эти люди были.
Дарья Громова
16.04.26 18:05
Тут мы утыкаемся в то, на чём обучать. С интерфейсами компьютер-мозг ещё можно думать о каком-то реальном извлечении (в теории), всё остальное, что берётся не напрямую, не объективно. Если обучать по соцсетям, перепискам и прочему контенту, который создавал сам человек, то надо понимать, что самого человека из этого не получить: все так или иначе фильтруют, что говорят или пишут на разную аудиторию, а о людях, умерших до цифровизации, информации даже для сбора такого субъективного образа может быть слишком мало Конечно, можно условно обучить ИИ на всех существующих переписках, голосовых и видео конкретно с вами, и получить образ, приближенный к тому, как человек себя вёл в общении с вами. Но такой образ не будет релевантным для любого другого человека, а ещё в какой-то момент материала обучения не будет хватать, чтобы симулировать реакцию или мысли, и результатом будет обычная ИИ-галлюцинация. Условно, вы не знали, где служил ваш дед в молодости, а бот, обученный на ваших ограниченных знаниях о нём, будет на голубом глазу заполнять пробелы. Если вы не отловите эту ошибку при жизни, то после вашей смерти следующие поколения будут принимать такие галлюцинации за правду. В итоге ценность выходит какая-то сомнительная - полезнее и проще оцифровать старые фото и письма и собирать цифровой семейный архив, который переживёт деградацию носителей
Артём Козориз
16.04.26 18:26
Всё так. Вопросов пока больше, чем ответов. К сожалению.
Василий Степанович
17.04.26 12:53|изменено
> Если вы не отловите эту ошибку при жизни, > то после вашей смерти следующие поколения > будут принимать такие галлюцинации за правду Таким цифровым двойникам вместо выдумывания фактов надо честно говорить, что этой информации у него нет. Те, кто знают, что общаются не с настоящим человеком, не будут удивлстья тому, что информации у двойника нет о самых тривиальных фактах. Таким двойникам можно разрешать только генерацию нового "контента" типа "что я об этом думаю", "как бы я в этой ситуации поступил" и так далее. Ну и получателю ответов (рассматриваем вариант, когда известно, что общение идёт с клоном), конечно, надо будет просто самостоятельно анализировать ответы о том, как бы клон поступил, что он сделал бы и так далее и самому уже серьёзно решать - что он с такими ответами будет делать. Ответы двойников могут быть интересными и местами полезными, а в случае с копиями реально существовавших людей ещё и отчасти как-то связанными с тем, как действительно мог бы поступить или что мог бы сделать человек, явившийся источником для своей копии. Но только, ещё раз эту мысль сообщу, как поступать с ответами двойника, настоящий человек должен очень серьёзно решать самостоятельно (ну точнее - самостоятельно в том смысле, что не оставаться только с мнением двойника, а можно посоветоваться с людьми настоящими, а не склонированными людьми или прочими искусственными системами создания мыслей да "контента" там всякого).
Дарья Громова
17.04.26 15:38
Если смотреть на актуальные большие языковые модели, то их даже с жёстким файнтюном почти нереально заставить признаваться, что они чего-то не знают, если полностью не отрезать им возможность чего-то додумывать (да и даже в таком случае тоже сомнительно). Так что в современном мире такая модель - скорее утопия, реалистично получится ваш добрый сосед чатгпт и его весёлые галлюцинации. Ну ладно, скорее не чатгпт, а Character AI, но идею вы поняли В конце концов всё упирается в вопрос: а зачем такая поделка вообще нужна и чем она ценна?
Артём Козориз
16.04.26 18:28
Это да. Сама идея подобного вроде бы кажется хорошей, но всё упрётся в реализацию как всегда.
Skubacok
16.04.26 17:58
Ну, если это только так рассматривать, то это интересно. Так можно и историю изучать. Главное, что бы все было написано верно, а не так, как кому-то выгодно. А как поступили с жениной, это не правильно. Она будет ждать, верить, что он жив. Так и мошенники могут воспользоваться и попросить её перевести ему денег.
Alexandr Al
16.04.26 20:59
не касаясь описанного конкретного частного случая, имеющего мало отношения к общему, я не вижу проблемы. Она примерно такая же, как картина кого-либо, или фотография, или видеосъемка. Следующий уровень, который скоро станет обычным.
Василий Степанович
17.04.26 13:00
В целом верно. Но только это следующий уровень воздействия на человека настоящего. Воздействие цифровых двойников более сильное, чем воздействие двойников с просто картин, и по этой причине не каждый, на кого так воздействуют, сможет адекватно такое воздействие на себя обработать, переварить. Картины художественные, письменные и прочие тоже воздействуют на людей. Но воздействие "цифровых клонов", думаю, пока самое максимальное из всех известных нам методов такого типа из ряда - картина, фотография, хужожественный сюжет и т.п.
Alexandr Al
17.04.26 15:14
есть легенда, что при первом просмотре "Прибытия поезда" люди от страха выбегали из зала естественно, что всё непривычное оказывает большее воздействие, чем обыденное
Василий Степанович
17.04.26 21:39
Ага. И вот хороший тому пример: https://www.youtube.com/watch?v=cu47nX8nDLA
Что вы могли пропустить
Блогер показал полностью прозрачный iPhone 6 Plus — «внутренности» видны даже через экран
Блогер показал полностью прозрачный iPhone 6 Plus — «внутренности» видны даже через экран
0
17:14
Новости
Технологии
Microsoft готовит крупное обновление Windows 11 с более глубокой интеграцией смартфонов
Microsoft готовит крупное обновление Windows 11 с более глубокой интеграцией смартфонов
0
14:22
Windows
Новости
9 бесплатных программ для работы c PDF
9 бесплатных программ для работы c PDF
0
13:01
Ликбез
Технологии
Представлен концепт гидравлического дома, который опускается под землю во время стихийных бедствий
Представлен концепт гидравлического дома, который опускается под землю во время стихийных бедствий
0
10:48
Новости
Технологии
Объясняем за минуту: можно ли зарядить iPhone от iPhone
Объясняем за минуту: можно ли зарядить iPhone от iPhone
0
Вчера
Технологии
Технологии
Bigme представила двухсторонний смартфон HiBreak Dual 2 — у него два больших дисплея
Bigme представила двухсторонний смартфон HiBreak Dual 2 — у него два больших дисплея
0
11 июля
Новости
Устройства
12 игр, похожих на The Elder Scrolls V: Skyrim
12 игр, похожих на The Elder Scrolls V: Skyrim
0
11 июля
Ликбез
Технологии
Большой скандал: Apple обвинила OpenAI в краже технологий будущих продуктов
Большой скандал: Apple обвинила OpenAI в краже технологий будущих продуктов
0
11 июля
Новости
Технологии
В «2ГИС» появилась карта бензина, охватывающая почти все заправки в стране
В «2ГИС» появилась карта бензина, охватывающая почти все заправки в стране
0
11 июля
Новости
Технологии
Представлен Moodi — пульт для перелистывания страниц на смартфонах, планшетах и читалках
Представлен Moodi — пульт для перелистывания страниц на смартфонах, планшетах и читалках
0
10 июля
Новости
Устройства
Выбираем бюджетный игровой смартфон: 10 лучших моделей
Выбираем бюджетный игровой смартфон: 10 лучших моделей
0
10 июля
Ликбез
Устройства
OpenAI закрывает браузер Atlas — вместо него будет ИИ-агент для всех ChatGPT Work
OpenAI закрывает браузер Atlas — вместо него будет ИИ-агент для всех ChatGPT Work
0
10 июля
Новости
Технологии
6 гаджетов с моего рабочего стола — и на что я бы их заменила
6 гаджетов с моего рабочего стола — и на что я бы их заменила
0
9 июля
Технологии
Технологии
Как вернуть уведомления от VK, MAX и «Авито», если у вас iPhone
Как вернуть уведомления от VK, MAX и «Авито», если у вас iPhone
0
9 июля
iOS
Ликбез
Голубиная почта: вышел мессенджер Roost, в котором сообщения доставляют виртуальные птицы с реальной скоростью
Голубиная почта: вышел мессенджер Roost, в котором сообщения доставляют виртуальные птицы с реальной скоростью
0
9 июля
Новости
Технологии

Новые комментарии

Аватар автора комментария
Олег Залялов1 минуту назад

0 / 0

к 9 еще такой момент, что где народу много, продукты быстрее оборачиваются, не успевают портиться. И заказывать поэтому лучше еду из популярных продуктов, чтобы уменьшить вероятность того, что из (поза)вчерашнего приготовят
Пляжный чек-лист: 15 рабочих советов для спокойного отпуска
Аватар автора комментария
Алексей Хромов41 минуту назад

+1 / 0

Логично, что женщины рассказывают о проблемах женщин, а мужчины — о проблемах мужчин.
Как кино задаёт нереалистичные стандарты мужской внешности: колонка Алексея Хромова
Аватар автора комментария
Петя Иванов50 минут назад

0 / 0

Какая безграмотная чушь) Худеем только при дефиците калорий, не важно как и когда есть, важен дефицит как таковой. Как его достичь? Не голоданием, ни в коем случае! Заменой калорийных продуктов низкокалорийными. Есть нужно много, но не все подряд!
Интервальное голодание оказалось комфортнее подсчёта калорий при похудении — и не менее эффективным
Аватар автора комментария
Alexey Babarin51 минуту назад

0 / 0

Бокс просто под столом стоит, на полке. СтимДек стоит за монитором Ноут стоит рядом на крутящейся подставке. Периодически перед монитором возникает планшет, когда работаю или играю, и там что-то фоном воспроизводится 😁
6 гаджетов с моего рабочего стола — и на что я бы их заменила
ТЕСТ: Какой вы путешественник? 

ТЕСТ: Какой вы путешественник? 

Лайфхакер
Информация
О проектеРубрикиРекламаРедакцияВакансииО компании
Подписка
TelegramВКонтактеTwitter (X)PinterestYouTubeИнициалRSS
Правила
Пользовательское соглашениеПолитика обработки персональных данныхПравила применения рекомендательных технологийПравила сообществаСогласие на обработку персональных данныхСогласие для рекламных рассылокСогласие для информационной программы
18+Копирование материалов запрещено.
Издание может получать комиссию от покупки товаров, представленных в публикациях