Дроны и беспилотные автомобили как оружие: почему нам нужно бояться хакеров

Никто не станет отрицать, что искусственный интеллект может вывести нашу жизнь на новый уровень. ИИ в состоянии решить множество проблем, которые не под силу человеку.

Однако многие считают, что сверхразум обязательно захочет уничтожить нас, как SkyNet, или начнёт проводить опыты над людьми, как GLADoS из игры Portal. Ирония в том, что сделать искусственный интеллект добрым или злым могут только люди.

Исследователи из Йельского университета, Оксфорда, Кембриджа и компании OpenAI опубликовали отчёт на тему злоупотребления искусственным интеллектом. В нём говорится, что реальная опасность исходит от хакеров. С помощью вредоносного кода они могут нарушить работу автоматизированных систем под управлением ИИ.

Исследователи опасаются того, что технологии, созданные с благими намерениями, будут использоваться во вред. Например, средства наблюдения могут применять не только для поимки террористов, но и для слежки за простыми гражданами. У исследователей также вызывают беспокойство коммерческие дроны, которые доставляют продукты питания. Их легко перехватить и подложить что-нибудь взрывоопасное.

Ещё один сценарий разрушительного использования ИИ — беспилотные автомобили. Достаточно изменить несколько строчек кода, и машины начнут игнорировать правила безопасности.

Учёные считают, что угроза может быть цифровой, физической и политической.

• Искусственный интеллект уже используется для изучения уязвимостей различных программных кодов. В будущем хакеры могут создать такого бота, который обойдёт любую защиту.
• С помощью ИИ человек может автоматизировать многие процессы: например, управлять роем беспилотников или группой автомобилей.
• С помощью таких технологий, как DeepFake, можно влиять на политическую жизнь государства, распространяя ложную информацию о мировых лидерах с помощью ботов в интернете.

Эти пугающие примеры пока существуют только в качестве гипотезы. Авторы исследования не предлагают полного отказа от технологий. Вместо этого, они считают, что правительства стран и крупные компании должны позаботиться о безопасности, пока индустрия искусственного интеллекта только зарождается.

Разработчики, в свою очередь, должны оценивать опасность, исходящую от высоких технологий, предвидеть худшие последствия и предупреждать о них мировых руководителей. В докладе содержится призыв к разработчикам ИИ: объединиться с экспертами по безопасности в других областях и выяснить, можно ли использовать принципы, обеспечивающие безопасность этих технологий, для защиты искусственного интеллекта.

Полный отчёт описывает проблему более подробно, но суть в том, что ИИ — мощный инструмент. Все заинтересованные стороны должны изучить новую технологию и убедиться, что она не используется в преступных целях.