6 ноября в техасской церкви произошла стрельба, в результате которой погибли по меньшей мере 26 человек. Вскоре после этого Google начала продвигать в поиске результаты с информацией о том, что подозреваемый — это радикальный коммунист, имеющий непосредственное отношение к антифашистскому движению. Информация появилась в модуле «Популярное в Twitter», поэтому не заметить её было трудно, хоть она и не появилась в самом верху списка.

Это была далеко не первая ошибка поиска Google. Как обычно, компания пообещала исправить проблему и улучшить алгоритм отбора результатов.

Но это обещание не решает главную проблему: монополию калифорнийского гиганта на правду.

Согласно исследованиямKey trends in social and digital news media. , очень мало людей безоговорочно верят новостям в социальных сетях. Но этого нельзя сказать о поисковых движках, в области которых Google долгое время лидирует. Маркетинговая компания Edelman в ходе проведённого в 2017 году исследования выяснила, что 64% пользователей верят информации из поисковых сервисов. При этом лишь 57% людей доверяют новостям из традиционных СМИ.

Исследователь Дана Бойд (Danah Boyd) говоритDid Media Literacy Backfire? , что, вместо того чтобы учиться оценивать достоверность источников информации, студенты «просто считают Google надёжным сервисом, а „Википедию“ — нет». Google поддерживает такое видение — так же, как Amazon и Apple, продукты которых всё чаще используют виртуальных помощников.

Благодаря Google Assistant поисковый сервис становится надёжным компаньоном, у которого можно спросить что угодно. Одна из главных идей заключается в том, что людям не обязательно знать какие-то особые команды, чтобы «разговаривать» с компьютером. Демонстрации устройств вроде Google Home показывают, что Assistant очень неплохо анализирует контекст простых вопросов и угадывает, что именно хотел спросить пользователь. Когда помощник озвучивает лживую информацию, то это ещё хуже, чем читать её с экрана.

Даже если результаты Google в подавляющем большинстве случаев правдивы, всего несколько неверных утверждений на тему вроде массовой стрельбы могут стать большой проблемой. Особенно если учесть, что люди верят во всё, что Google им говорит.

Даже если просто публично указывать компании на то, что результаты в её поисковике неверны, это может заставить её тщательнее следить за тем, чтобы такого больше не повторялось. Google должна делать всё возможное, чтобы не показывать фальшивые новости и порождения теорий заговора рядом с серьёзными трудами компетентных журналистов. Мы, в свою очередь, не должны считать поисковые системы источниками безоговорочной правды.

Мы должны не только заставить Google перестать показывать фальшивые новости, но и искать способы ограничить доверие к самим поисковым алгоритмам. Нам следует вручную составлять для своих детей списки видеороликов, а не просто включать им YouTube Kids, в котором то и дело появляется контент, совершенно не подходящий для юных зрителей. Нам нужно восстановить доверие к новостям, которые курируют люди, а не компьютерные системы. Почему Google обязательно должна именно улучшать функции, из-за которых в Сети всплывает лживая информация? Почему компания не может от них избавиться?