Google

Обзор Gemma 4 4B: Запуск на Mac Mini

Крошечная, но невероятно производительная модель от Google. С ее помощью можно решать задачи, где критична скорость. Gemma 4B без проблем помещается в память 8 ГБ Mac Mini, оставляя место для работы ОС и браузера.

ПАРАМЕТРЫ 4B
МИНИМУМ RAM 8 ГБ
РЕКОМЕНДУЕТСЯ 8 ГБ Unified
ЛУЧШЕЕ ПРИМЕНЕНИЕ
Быстрые ответы Встраиваемые системы Анализ небольших текстов

В этой статье мы рассмотрим, как локально запустить ИИ-модель Gemma 4 4B на вашем Mac Mini.

Требования к памяти

Модель имеет размер 4B параметров. Для комфортной работы без свопинга (использования SSD вместо RAM) рекомендуется минимум 8 ГБ объединенной памяти, однако идеальный объем — 8 ГБ.

Программное обеспечение (Apple Silicon)

Самый простой способ запустить Gemma 4 4B — использовать Ollama или LM Studio. Эти инструменты поддерживают акселерацию Apple Metal «из коробки», перекладывая вычисления на графический процессор (GPU ядра), встроенные в процессоры серии M1, M2, M3 и M4.

Для установки выполните:

ollama run gemma-4-4b

Это всё! Модель автоматически загрузится, заквантуется до оптимального размера 4-бита (Q4_0) и вы сможете начать общение прямо в терминале.

Работа с LLM на процессорах Intel (Mac Mini 2018 и старше) идет исключительно за счет CPU, поэтому скорость генерации (< 3 токенов/сек) может быть некомфортной.