Google выпустил Gemma 4 для обычного ноутбука

Google DeepMind представила новое поколение открытых моделей Gemma 4

Компания Google DeepMind 2 апреля анонсировала выпуск семейства открытых моделей Gemma 4, построенных на исследовательской базе линейки Gemini. В новое поколение вошли четыре модели разных размеров: E2B (2B эффективных параметров), E4B (4B эффективных), 26B A4B на архитектуре MoE (Mixture of Experts) и плотная (Dense) модель 31B. Все они распространяются под лицензией Apache 2.0, что позволяет бесплатно использовать их в коммерческих целях.

Особый интерес вызывает модель 26B A4B. Буква «A» в её названии означает active parameters (активные параметры). Архитектура Mixture of Experts позволяет задействовать лишь часть параметров для каждого запроса: из общих 26 миллиардов активируются только 4 миллиарда. Благодаря этому модель работает почти с такой же скоростью, как 4B-модель, но по качеству ответов приближается к полноценной 26B-архитектуре. По данным Google, в бенчмарках она опережает модели, которые в 20 раз крупнее.

Возможности и производительность модели 26B A4B

Модель 26B A4B демонстрирует впечатляющие результаты, заняв 6-е место в мировом рейтинге Arena AI среди всех открытых моделей. Её функционал включает мультимодальную обработку (текст и изображения), встроенный режим «размышления» (thinking mode), при котором модель сначала рассуждает, а затем формулирует ответ, а также контекстное окно в 256K токенов и поддержку более 140 языков. Для создания агентных сценариев предусмотрена функция function calling. Младшие модели семейства, E2B и E4B, дополнительно поддерживают видео и аудио на вход.

Ключевым преимуществом является возможность локального запуска на потребительском оборудовании. Для работы в 4-битной квантизации (4-bit quantization) требуется около 18 ГБ видеопамяти, в 8-битной — примерно 28 ГБ. На компьютерах Apple с унифицированной памятью (unified memory, где оперативная память используется и как видеопамять) модель может работать на любой конфигурации от 32 ГБ ОЗУ. Для систем на Windows необходима видеокарта с не менее чем 24 ГБ VRAM, например, NVIDIA RTX 4090.

Практическое тестирование модели на ноутбуке

Модель была успешно загружена и протестирована через платформу LM Studio на обычном ноутбуке. В ходе проверки оценивались три ключевых аспекта: пространственное мышление, технические знания и способность к генерации юмористического текста. Тесты подтвердили, что модель, активирующая лишь 4 миллиарда параметров из 26 миллиардов, действительно сочетает высокую производительность с эффективностью, оставаясь доступной для запуска на локальных устройствах без необходимости облачных вычислений.

Выпуск Gemma 4, и особенно модели 26B A4B, знаменует важный шаг в демократизации передовых ИИ-технологий. Google DeepMind предлагает сообществу мощный, но при этом относительно легковесный инструмент с открытой лицензией, который способен конкурировать с гораздо более крупными системами и работать на стандартном пользовательском железе.