Дроны и беспилотные автомобили как оружие: почему нам нужно бояться хакеров
Никто не станет отрицать, что искусственный интеллект может вывести нашу жизнь на новый уровень. ИИ в состоянии решить множество проблем, которые не под силу человеку.
Однако многие считают, что сверхразум обязательно захочет уничтожить нас, как SkyNet, или начнёт проводить опыты над людьми, как GLADoS из игры Portal. Ирония в том, что сделать искусственный интеллект добрым или злым могут только люди.
Исследователи из Йельского университета, Оксфорда, Кембриджа и компании OpenAI опубликовали отчёт на тему злоупотребления искусственным интеллектом. В нём говорится, что реальная опасность исходит от хакеров. С помощью вредоносного кода они могут нарушить работу автоматизированных систем под управлением ИИ.
Исследователи опасаются того, что технологии, созданные с благими намерениями, будут использоваться во вред. Например, средства наблюдения могут применять не только для поимки террористов, но и для слежки за простыми гражданами. У исследователей также вызывают беспокойство коммерческие дроны, которые доставляют продукты питания. Их легко перехватить и подложить что-нибудь взрывоопасное.
Ещё один сценарий разрушительного использования ИИ — беспилотные автомобили. Достаточно изменить несколько строчек кода, и машины начнут игнорировать правила безопасности.
Учёные считают, что угроза может быть цифровой, физической и политической.
- Искусственный интеллект уже используется для изучения уязвимостей различных программных кодов. В будущем хакеры могут создать такого бота, который обойдёт любую защиту.
- С помощью ИИ человек может автоматизировать многие процессы: например, управлять роем беспилотников или группой автомобилей.
- С помощью таких технологий, как DeepFake, можно влиять на политическую жизнь государства, распространяя ложную информацию о мировых лидерах с помощью ботов в интернете.
Эти пугающие примеры пока существуют только в качестве гипотезы. Авторы исследования не предлагают полного отказа от технологий. Вместо этого, они считают, что правительства стран и крупные компании должны позаботиться о безопасности, пока индустрия искусственного интеллекта только зарождается.
Политики должны изучать технологию и работать вместе с экспертами в этой области, чтобы эффективно регулировать создание и использование искусственного интеллекта.
Разработчики, в свою очередь, должны оценивать опасность, исходящую от высоких технологий, предвидеть худшие последствия и предупреждать о них мировых руководителей. В докладе содержится призыв к разработчикам ИИ: объединиться с экспертами по безопасности в других областях и выяснить, можно ли использовать принципы, обеспечивающие безопасность этих технологий, для защиты искусственного интеллекта.
Полный отчёт описывает проблему более подробно, но суть в том, что ИИ — мощный инструмент. Все заинтересованные стороны должны изучить новую технологию и убедиться, что она не используется в преступных целях.
Лучшие предложения
Лучшие предложения недели: скидки от AliExpress, «Яндекс Маркета», Yves Rocher и других магазинов
Выбирай, но проверяй: как найти в магазине качественный товар
35 вещей для идеального наряда в ковбойском стиле
16 классных весенних кроссовок, которые стоит купить
Надо брать: зарядная станция Baseus за 2 998 рублей
10 полезных товаров, которые отдают со скидками на распродаже «Оу, май!» от AliExpress
9 паровых швабр для качественной весенней уборки
Находки AliExpress: самые интересные и полезные товары
Обзор Honor Magic6 Pro — смартфона с отличной камерой и очень ярким экраном
Как ускорить работу ноутбука: 7 действенных способов
Реклама7 удивительных мест в России, про которые не пишут в популярных путеводителях
Основы бережного общения и саморекламы. 6 дисциплин мечты, которым стоит учить в вузах