Google выпустила приложение для запуска ИИ-моделей с Hugging Face прямо на смартфоне и без интернета

Google представила экспериментальное приложение Google AI Edge Gallery для локального использования ИИ-моделей на мобильных устройствах. Оно уже доступно на Android и вскоре появится на iOS. С помощью программы пользователи могут находить, загружать и запускать модели с платформы Hugging Face прямо на своих смартфонах. Приложение работает без подключения к интернету — оно использует процессор устройства для выполнения задач вроде генерации изображений, написания и редактирования кода, а также ответа на вопросы.

В интерфейсе доступны готовые шаблоны задач, а также раздел Prompt Lab, позволяющий настраивать команды вроде переформулировки текста с помощью гибких параметров. Для каждой задачи предлагаются подходящие модели, включая, например, Google Gemma 3n.

Производительность напрямую зависит от мощности устройства и размера выбранной модели: чем она больше, тем дольше выполняется задача. Google отмечает, что на современных смартфонах с мощным железом процесс будет ощутимо быстрее.

Приложение выпущено как альфа-версия и распространяется под лицензией Apache 2.0. Скачать его можно с GitHub — в том числе в виде APK-файла.