Противное мнение: ИИ-копии умерших — не милота, а тихий ужас и контент из «Чёрного зеркала»

Последние годы об ИИ кричат из каждого утюга — в том числе в контексте всевозможных применений в реальной жизни. Регулярно всплывают истории, связанные с копированием личности и воспоминаний реальных людей. То корейский телеканал предлагает матери погибшей девочки пообщаться с её VR-аватаром и делает из этого YouTube-документалку на 37 миллионов просмотров. То ИИ-аватар погибшего под колёсами выступает в суде с речью при вынесении приговора виновнику ДТП. То цифрового клона умершего 70 лет назад актёра одобряют на роль в новом фильме.

Все эти истории собирают лайки и тысячи комментариев. И если одни восхищаются тем, что безутешные родственники получают шанс ещё раз встретиться и поговорить с ушедшими близкими, то другие называют таких аватаров и клонов «грифботы» (от англ. griefbot, буквально — «боты горести»). А создателей таких ИИ-поделок обвиняют в паразитировании на боли и утрате людей.

Буквально сейчас в соцсетях активно обсуждают историю 80-летней женщины из Китая, сын которой год назад погиб в автокатастрофе. Беспокоясь, что женщина с больным сердцем не перенесёт эту новость, её семья решила скрыть происшествие и связалась с компанией, которая создаёт ИИ-аватары мёртвых людей. За две недели специалисты сделали 3D-модель, в точности воспроизводящую внешность погибшего и его речь — вплоть до особенностей тона и темпа, а также привычных для него фраз и выражений. 

Этот мужчина — ИИ-аватар. Кадры: Weibo

Когда всё было готово, клон созвонился с женщиной по видеосвязи и объяснил, что ему пришлось срочно уехать в другой город на заработки. С тех пор уже на протяжении года пожилая женщина ежедневно разговаривает со своим «сыном», советует ему одеваться потеплее и заботиться о здоровье. 

В интернете мнения разделились. Одни считают, что это ложь во спасение и подделка поддерживает в женщине стремление к жизни и оказывает эмоциональную поддержку. Другие же говорят, что ИИ может осквернять память о реальном человеке и приписывать ему мысли, которых тот никогда не придерживался, — а ещё не даёт живым двигаться дальше.

Такие истории напоминают эпизод «Я скоро вернусь» из второго сезона «Чёрного зеркала» — который вышел, на минуточку, ещё в 2013 году. И ещё тогда, задолго до повсеместного ИИ-фицирования, создатели вывели чёткую мысль: компьютер не заменит человека, даже если скопирует его внешность и манеры. Глупо делать вид, что обученная на реальных воспоминаниях и данных о человеке, но всё же в первую очередь компьютерная модель сможет дать окружающим опыт, схожий с общением с близким. Это даже хуже, чем отрицание произошедшего, потому что не даёт возможности пережить боль и запирает в иллюзии.

А что думаете вы? Могут ли такие технологии быть благом или всё это — паразитирование на эмоциях и выкачивание денег под предлогом эмоциональной поддержки? Делитесь мнением в комментариях.