Искусственный интеллект создаёт фишинговые письма лучше, чем человек

Нейросети продолжают показывать удивительные результаты в самых разных задачах. Правда, на сей раз работа им предстояла совсем не благородная: с помощью ИИ сингапурские исследователи создатели фишинговые письма, которые показали себя убедительнее написанных настоящими людьми.

В частности, на конференциях по кибербезопасности Black Hat и Defcon, которые прошли в Лас-Вегасе на прошлой неделе, эксперты из Government Technology Agency (Сингапур) рассказали о результатах необычного эксперимента.

Они самостоятельно написали сотню фишинговых писем, а затем создали ещё столько же с помощью алгоритма обработки естественного языка GPT‑3 и других технологий искусственного интеллекта. Затем они разослали эти письма 200 коллегам, чтобы проверить, какие покажутся им более убедительными.

В обоих случаях письма содержали ссылки-трекеры — они не загружали вирус на устройство, а просто отправляли отчёт о клике исследователям. Результат оказался удивительным: люди “значительно чаще” кликали по ссылкам писем, составленных искусственным интеллектом, нежели написанных другими людьми. К сожалению, точная статистика не приводятся.

Авторы отмечают, что написанные ИИ письма звучали “удивительно человечно”, и что платформа автоматически добавляла неожиданные элементы, чтобы делать текст убедительнее — например, цитировала сингапурские законы, поскольку в вводных данных было указано, что получатели из Сингапура.

Эксперты уже давно обсуждают, есть ли смысл мошенникам тренировать нейросети для создания фишинговых писем — в конце концов, массовые рассылки остаются крайне эффективными и не требуют больших затрат. Но если нужны именно таргетированные письма, составление которых требует дополнительного труда, нейросети действительно могут быть полезны.

Хотя это может звучать пугающе, есть и хорошая новость: качественное обучение ИИ стоит миллионы долларов — вероятно, не стоит ожидать, что в ближайшее время мошенники массово решат раскошелиться для улучшения системы, которая и без того отлично работает.