«Google Поиск» научится отличать настоящие снимки от фейков, созданных ИИ

В «Google Поиске» появится технология определения происхождения изображений. Она сможет отличать настоящие снимки от творчества искусственного интеллекта. Специальный алгоритм даже позволит ей выявлять, были ли они отредактированы с помощью ИИ.

В ближайшие месяцы в результатах поиска появится обновлённая вкладка «Об этом изображении», где и будет находиться дополнительная информация.

Система Google была создана в рамках коалиции Coalition for Content Provenance and Authenticity (C2PA), которая разрабатывает стандарты проверки подлинности и происхождения цифрового контента. В неё входят многие технологические гиганты.

C2PA уже считается техническим стандартом цифрового следа. Такую аутентификацию поддерживают Amazon, Microsoft, Adobe, OpenAI, Intel и многие другие, но её внедрение идёт медленно. Интеграция в поисковую выдачу станет первым большим шагом для инициативы. Она будет использоваться вместе с готовящимся к выпуску списком доверия, который позволит подтверждать происхождение контента.

Например, если данные показывают, что изображение было снято определённой моделью камеры, список доверия поможет подтвердить, что эта информация точна. Установление происхождения контента остаётся сложной задачей, требующей ряда соображений, основанных на продукте или услуге. И хотя мы знаем, что не существует универсального решения для всего контента в интернете, сотрудничество с другими представителями отрасли имеет решающее значение в этом вопросе.

Лори Ричардсон

Топ-менеджер Google

Реализация плана также затрудняется тем, что лишь немногие камеры Leica и Sony поддерживают открытый технический стандарт C2PA. Nikon и Canon пока только обещают включиться в инициативу. Кроме того, нет единого мнения о способе просмотра данных после их добавления на фотографию.

Однако Google сохраняет оптимизм. Компания планирует интегрировать метаданные C2PA в свои рекламные системы и изучает способы их использования на YouTube.