1. 科技云首页
  2. AI

阿里巴巴开源Qwen1.5-110B模型，性能比肩Meta-Llama3-70B

乌索普 • • AI • 阅读 74
阿里巴巴开源Qwen1.5-110B模型，性能比肩Meta-Llama3-70B

近日，阿里巴巴宣布开源了其Qwen1.5系列中的首个千亿参数模型——Qwen1.5-110B。这一举措不仅彰显了阿里巴巴在人工智能领域的创新实力，也标志着中国企业在大型语言模型领域取得了显著进展。

据悉，Qwen1.5-110B模型采用了Transformer解码器架构，并引入了分组查询注意力（GQA）技术，使得模型在推理时更加高效。该模型支持长达32K tokens的上下文长度，具备多语言处理能力，支持包括英、中、法、西、德、俄、日、韩、越、阿等在内的多种语言。

在性能评估方面，Qwen1.5-110B模型展现出了与Meta的Llama3-70B模型相媲美的实力。这一成绩是在没有大幅改变预训练方法的情况下取得的，阿里巴巴方面认为，性能的提升主要归功于模型规模的增加。这一结果不仅证明了阿里巴巴在模型设计和优化方面的专业能力，也为中国在大型语言模型领域的发展注入了新的活力。

除了在基础能力评估中表现出色外，Qwen1.5-110B模型在Chat评估中也取得了优异的成绩。在MT-Bench和AlpacaEval 2.0这两个Chat模型基准评估中，该模型相较于之前发布的72B模型表现出了显著的优势。这一结果进一步证明了更大规模的基础语言模型可以带来更好的Chat模型性能。

阿里巴巴方面表示，Qwen1.5-110B是Qwen1.5系列中规模最大的模型，也是该系列中首个拥有超过1000亿参数的模型。这一成就不仅彰显了阿里巴巴在大型语言模型领域的领先地位，也为中国企业在全球人工智能竞争中赢得了更多的话语权。

随着人工智能技术的不断发展，大型语言模型已经成为了各大科技企业的重点研究方向。阿里巴巴此次开源Qwen1.5-110B模型，不仅为开发者提供了更加优秀的工具，也为推动人工智能技术的普及和应用做出了积极的贡献。

未来，我们期待看到更多中国企业在大型语言模型领域取得突破，为人工智能技术的发展和应用注入更多的活力和创新力量。

文章来源于互联网:科技云-阿里巴巴开源Qwen1.5-110B模型，性能比肩Meta-Llama3-70B

赞 (0)
乌索普乌索普
0 0
上一篇 2024年 4月 28日 pm2:54
下一篇 2024年 4月 28日 pm3:24

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

记住昵称、邮箱和网址，下次评论免输入