Google开源第三代Gemma-3系列模型：支持多模态、最多128K输入，其中Gemma 3-27B在大模型匿名竞技场得分超过了Qwen2.5-Max

Gemma系列大模型是Google开源的一系列轻量级的大模型。就在刚才（2025年3月12日），Google开源了第三代Gemma系列大模型，共包含4个不同参数规模版本，第三代的Gemma 3系列是多模态大模型，即使是最小的10亿参数规模的Gemma 3-1B也支持多模态输入。

Gemma 3系列模型介绍及其特点

Gemma系列大模型与Google的Gemini系列模型技术同源，但是以免费商用授权的方式开源。最早于2024年2月份开源，当时只有20亿参数规模的Gemma 2B模型和70亿参数规模的Gemma 7B模型，且上下文长度也就8K。2024年5月，Google开源了Gemma2系列，版本的范围也增加到3个，分别是2B、9B和27B规模。

其中，Gemma 3 - 27B版本模型在14万亿数据集上训练，Gemma 3-12B在12万亿数据集上训练，剩下2个版本分别是4万亿数据和2万亿数据训练。

Gemma 3的词汇表达到了262K，可以说表征能力非常强大。

10个月后的今天，Google开源了第三代Gemma 3系列大模型，版本范围增加到了4个，分别是1B、4B、12B和27B，并且从纯粹的大语言模型升级到了多模态大模型，即支持图片和视频的输入。