Google AI Edge Gallery: локальный ИИ прямо на смартфоне — без облака, без интернета

[Собака]

Тест-драйв локального искусственного интеллекта, который работает даже в авиарежиме. И умеет распознавать списки покупок.
Google тихонько выкатил AI Edge Gallery — экспериментальное Android-приложение, которое позволяет запускать ИИ-модели прямо на смартфоне, без интернета и всяких VPN. Всё крутится локально, на вашем устройстве. Модели подтягиваются с Hugging Face (например, Gemma от Google - "младшая сестра" Gemini) и работают либо на CPU, либо на GPU — в зависимости от того, насколько сильно вы готовы разогревать свой телефон.

Зачем оно вообще, если есть ChatGPT?​

Да, моделей сейчас как блогеров . Но Edge Gallery не про "вау-ответы". У неё другие плюсы:

1. Полная приватность
   Данные не уходят в облако — подходит для всего конфиденциального: от кипрской налоговый отчётности до рецепта бабушкиного печенья, которой вы поклялись никому их не выдавать.
2. Работает вообще без интернета
   Летите в самолете без wi-fi и параллельно пишете этот пост - пожалуйста, ИИ все еще работает. Едете к той же бабушке, чтоб поделиться, что усовершенствовали ее рецепт, но интернет туда не заглядывал - и вот, пожалуйста, магия вне Хогвартса.
3. Не боится блокировок и VPN
   Не требует VPN, прокси, хитрых плясок с DNS или настройки Tor на телефоне Вам не нужно шаманить с DNS, VPN или строить туннели через Tor. Можно использовать ИИ даже в тех странах и сетях, где ChatGPT не доступен.
4. Бесплатная ИИ-песочница
   Разработчики могут экспериментировать с моделями, а простые смертные — поиграться с текстами, картинками (пока только на чтение) и получить ответы без подписок.

Как это работает?​

Установка:​

• Скачиваете APK с GitHub (в Google Play пока не нет).
• Требуется Android 8+ и включение установки из «неизвестных источников».
• На iOS ещё не доступен.

Загрузка моделей:​

• Подключаете аккаунт Hugging Face.
• Выбираете модель (например, Gemma-3n-E4B-it-int4),размером от 500 МБ до 4+ ГБ.
• Модель скачивается и живёт прямо в памяти устройства.

Как работает в реальности?​

1. Модель: Gemma-3n-E2B-it-int4 (3.1 ГБ)

• Скорость ответа: ~1 минута на экран текста.
• Качество: на уровне deepseek R1 или OpenAI 4o, но без облака. Неплохо.
• История: увы, все, что вы получили, доступно вам только здесь и сейчас. Поддержки истории предыдущих диалогов пока не предусмотрено. Есть кнопка «Input history», но это история именно для input (а не диалога) причем только текстового. Отправляли картинку и промт для нее, вели диалог 10 минут с интеллектом — пожалуйста, ваш исходный промт, но уже без картинки, сохранен — остальное заруинено. Закрыли приложение, случайно нажали кнопку назад — вам нужно начинать диалог заново. Не самая удобная фича
  
  

2. Попытка с Gemma-3n-E4B-it-int4 (4.4 ГБ):
Поскольку интерфейс общий, то сложности с историей сохранились. Но возникла ещё одна проблемка - оказалось, что настройки телефона позволяют загружать в ОЗУ только файлы менее 4 Гб. Что автоматически привело к фиаско: приложение вылетает при попытке обращения к модели

Ну и конечно пример конфиденциального характера​

Была у меня одна записка, которую я не мог допустить, чтобы попала в плохие руки корпораций...

Список покупок: молоко, конфеты, сосисы и греча
Что выдал AI Edge:

Список покупок: молоко, конфеты, сосисы и хлеб
И вроде все по делу, бытовой челлендж решен. Одни углеводы правда заменились другими. Погрешности? Да. Но для конфиденциальных данных можно потерпеть.
Но конечно, даже у ИИ бывает температура (она то и отвечает за фантазию) и важно проверить, что все как у Блока - повторится всё, как встарь. Поэтому - новый чат, старый запрос

О чудо, теперь мы отказались от сладкого. А наш список теперь "Базовый", и соответствует необходимым в жизни.

Вывод​

Google AI Edge Gallery — это как швейцарский нож с ИИ: умеет много, но чтобы открыть штопор, нужно немного попотеть.
Для приватных задач —
Для переписки с ИИ в самолёте —
Для динамичных задач — пока нет, GPT всё ещё удобнее
Но если вам хочется, то Edge Gallery вполне может стать вашим ИИ-другом в полевых условиях.

Для просмотра ссылки необходимо нажать Вход или Регистрация