马斯克旗下xAI发布超3000亿参数大模型Grok-1，开源之举引发热议

卡普 • 2024年 3月 19日 pm9:58 • 新闻 • 阅读 131

人工智能领域的竞争再次升级。马斯克创立的AI创企xAI于近日正式发布其首个自研大模型——Grok-1，该模型参数量高达3140亿，一举超越OpenAI的GPT-3.5，成为目前参数量最大的开源大语言模型。

据悉，Grok-1采用混合专家（Mixture-of-Experts，MOE）架构，这种架构旨在提升大模型的训练和推理效率。它类似于将不同领域的“专家”集合在一起，针对不同任务派遣相应的专家进行处理，最后汇总结果，从而提高工作效率。该模型自2023年10月开始训练，其权重和架构已遵照Apache 2.0协议在GitHub上开源，供全球开发者使用和参考。

xAI方面强调，Grok-1是由公司自行从头训练的大模型，其预训练阶段已于去年10月完成，此次发布的模型是未经任何特定应用微调的原始基础模型检查点。这一举措显示出xAI在推动AI技术开放与共享方面的决心，同时也反映了马斯克对于AI技术发展的远见卓识。

值得一提的是，xAI的团队成员来自OpenAI、谷歌DeepMind、谷歌研究院、微软研究院等全球知名企业和研究机构，这为其在AI领域的快速发展提供了强大的技术支撑。而马斯克此前对OpenAI的“不够开放”的批评，似乎也在xAI的开源举动中得到了回应。

然而，尽管Grok-1的发布引起了业内的广泛关注，但xAI方面并未公布该模型的具体测试成绩。业内普遍期待，Grok-1与即将发布的OpenAI GPT-5之间的“大模型王者之战”将成为未来AI领域的焦点。

与此同时，ChatGPT的官方账号也在xAI发布消息后迅速作出回应，与马斯克在社交平台上展开了一场有趣的互动。这一互动不仅体现了AI领域的竞争与合作，也展示了马斯克在推动AI技术发展方面的积极态度。

总体来看，马斯克旗下xAI发布的Grok-1大模型，无疑是AI领域的一次重要突破。其开源之举不仅有助于推动AI技术的普及和发展，也将为全球开发者提供更多的创新和探索空间。未来，随着AI技术的不断进步和应用场景的不断拓展，我们有理由相信，Grok-1将在推动AI技术的创新和发展方面发挥更加重要的作用。

文章来源于互联，不代表科技云立场！如有侵权，请联系我们。