Google представила застосунок, який дає можливість користувачам знаходити, завантажувати й запускати моделі штучного інтелекту локально — без підключення до інтернету. Про це повідомляє Tech Crunch.
Застосунок називається Google AI Edge Gallery і вже доступний для Android. Версія для iOS очікується найближчим часом.
Він дає змогу запускати різні відкриті моделі з платформи Hugging Face. Наприклад, для генерації зображень, відповідей на запитання, написання й редагування коду тощо. Всі обчислення виконуються на пристрої, без потреби в підключенні до хмари.
Локальні моделі замість хмари
Хмарні ШІ-моделі зазвичай продуктивніші, проте мають низку обмежень:
• передавання персональних або чутливих даних на сервер може викликати побоювання щодо конфіденційності;
• доступ до моделі залежить від наявності Wi-Fi або мобільного зв’язку.
AI Edge Gallery усуває ці проблеми, використовуючи ресурси процесора смартфона, щоб працювати автономно.
Що вміє Google AI Edge Gallery
Google називає новий застосунок експериментальним релізом Alpha, який можна завантажити з GitHub за інструкцією. На головному екрані — швидкий доступ до завдань ШІ, зокрема Ask Image й AI Chat.
Після вибору завдання користувач бачить перелік моделей, які його підтримують (наприклад, Google Gemma 3n).
У застосунку також є Prompt Lab — інструмент для запуску одноразових завдань (single-turn), таких як підсумовування чи переписування текстів. Prompt Lab має шаблони та параметри для точного налаштування поведінки моделі.
Google застерігає, що продуктивність залежить від моделі пристрою та обсягу обчислень. Потужніші смартфони працюють швидше, але й розмір моделі впливає на час виконання: більші моделі потребують більше ресурсів і часу, зокрема під час роботи із зображеннями.
Google запрошує розробників тестувати застосунок і надавати відгуки. Проєкт поширюється під ліцензією Apache 2.0, що дає можливість використовувати його без обмежень, зокрема в комерційних цілях.
Читайте також на ProIT: Google оновить мобільний Gemini: текст можна буде копіювати звичним способом.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
