Google представив AI Edge Gallery, що дозволяє користувачам запускати моделі Gemma локально на своїх Mac. Також компанія анонсувала модель Gemma 4 12B та додаток Google AI Edge Eloquent для Mac.
Більшість користувачів, які покладаються на LLM для повсякденних завдань, зазвичай використовують ChatGPT, Claude або Gemini, які працюють на серверах OpenAI, Anthropic та Google.
Інший спосіб взаємодії з LLM – це локальні моделі. Вони зазвичай менші та менш потужні, ніж трильйонні моделі, що працюють у хмарі, але мають свої переваги.
По-перше, менша потужність не означає, що вони погані. Вони не потребують активного інтернет-з’єднання, оскільки працюють на обчислювальній потужності комп’ютера. Чим кращий комп’ютер, тим швидше відповіді та більші моделі він може обробляти. І, нарешті, оскільки все працює локально, ці моделі є більш приватними, оскільки дані розмов не залишають пристрій.
Існує кілька способів встановлення локальних моделей на Mac. Вам потрібно встановити платформи, такі як Ollama та LM Studio, а потім встановити модель, яка може працювати на апаратному забезпеченні вашого Mac.
Google AI Edge Gallery дозволяє запускати моделі AI локально. Раніше Google вже пропонував AI Edge Gallery для Android та iOS, а тепер випустив його для macOS.
Google AI Edge Gallery та Gemma 4 12B
На даний момент Google AI Edge Gallery для Mac пропонує доступ лише до 5 моделей Google, які можна налаштувати для виконання інструкцій користувача:
- Gemma-4-12B-it
- Gemma-4-E2B-it
- Gemma-4-E4B-it
- Gemma-3n-E2B-it
- Gemma-3n-E4B-it
Gemma 4 12B була розроблена для забезпечення агентного, мультимодального інтелекту безпосередньо на вашому ноутбуці.
Gemma 4 12B також мультимодальна, що означає, що вона може обробляти текст, зображення та аудіо. Google стверджує, що модель також має хороші можливості кодування, що дозволяє отримувати значущі інсайти з ваших даних безпосередньо на вашому пристрої.
Google AI Edge Eloquent
Разом з Gemma 12B Google також запустив додаток Google AI Edge Eloquent для Mac, який дозволяє користувачам записувати свої слова та транскрибувати їх, покращуючи текст.
Додаток також дозволяє вибирати між різними стилями написання та додавати власні слова, такі як імена, жаргон та інші терміни, які вони часто використовують.
Цікавий факт
Локальні моделі AI стають все більш популярними, оскільки вони забезпечують більшу конфіденційність і швидкість, оскільки обробка даних відбувається безпосередньо на пристрої користувача.
