近期，谷歌CEO桑达尔·皮恰伊揭晓了一项重大技术进展：开源多模态大模型Gemma-3。这款模型以低成本和高性能为核心卖点，旨在为用户提供更为高效和经济的AI解决方案。
Gemma-3提供了四种参数规模选择，从10亿到270亿参数不等，满足了不同用户的需求。值得注意的是，即便是参数最多的270亿版本，也仅需一张H100显卡即可实现高效推理。相比之下，同类模型在达到相似效果时，算力需求至少高出10倍。这一特性使得Gemma-3在性能与小参数模型领域脱颖而出。
在性能测试环节，Gemma-3同样表现不俗。根据LMSYS ChatbotArena的盲测结果，该模型仅次于DeepSeek的R1-671B，优于OpenAI的o3-mini和Llama3-405B等业界知名模型。这一成绩充分证明了Gemma-3在AI领域的竞争力。
在架构设计上，Gemma-3继承了前两代的通用解码器Transformer架构，并在此基础上进行了多项创新和优化。为了应对长上下文带来的内存占用问题，该模型采用了局部和全局自注意力层交错的架构。具体而言，每5个局部层之间插入1个全局层，局部层的跨度仅为1024个token。这种设计使得全局层专注于处理长上下文，而局部层则专注于处理小跨度的token，从而有效降低了内存占用。
除了架构上的创新，Gemma-3还具备强大的多模态能力。它能够同时处理文本和图像信息，并集成了定制版的SigLIP视觉编码器。这款编码器基于Vision Transformer架构，通过CLIP损失的变体进行训练，使得Gemma-3在多模态任务中表现出色。
为了全面评估Gemma-3的性能，谷歌在多个主流平台进行了测试，包括MGSM、Global-MMLU-Lite、WMT24++、RULER和MRCR等。测试结果显示，Gemma-3在多模态任务中取得了显著优于前代模型的性能。特别是在DocVQA、InfoVQA和TextVQA等任务中，其表现尤为突出。在长文本处理方面，270亿参数版本的Gemma-3在RULER128K任务上达到了66.0%的准确率，进一步证明了其强大的处理能力。
Gemma-3的发布标志着谷歌在AI领域又迈出了坚实的一步。这款多模态大模型不仅具备高性能和低成本的优点，还在架构设计和多模态能力上进行了多项创新。随着技术的不断进步和应用场景的拓展，Gemma-3有望在更多领域发挥重要作用。
