千亿规模参数,阿里云通义千问进化到2.0:性能超GPT-3.5,加速追赶GPT-4

2023年10月31日,15时28分57秒 OpenAI 阅读 32 views 次

10 月 31 日,阿里云正式发布千亿级参数大模型通义千问 2.0。在 10 个权威测评中,通义千问 2.0 综合性能超过 GPT-3.5,正在加速追赶 GPT-4。当天,通义千问 APP 在各大手机应用市场正式上线,所有人都可通过 APP 直接体验最新模型能力。

过去 6 个月,通义千问 2.0 在性能上取得巨大飞跃,相比 4 月发布的 1.0 版本,通义千问 2.0 在复杂指令理解、文学创作、通用数学、知识记忆、幻觉抵御等能力上均有显著提升。目前,通义千问的综合性能已经超过 GPT-3.5,加速追赶 GPT-4。

千亿规模参数,阿里云通义千问进化到2.0:性能超GPT-3.5,加速追赶GPT-4

通义千问 2.0 综合性能超过 GPT-3.5,正在加速追赶 GPT-4

在 MMLU、C-Eval、GSM8K、HumanEval、MATH 等 10 个主流 Benchmark 测评集上,通义千问 2.0 的得分整体超越 Meta 的 Llama-2-70B,相比 OpenAI 的 Chat-3.5 是九胜一负,相比 GPT-4 则是四胜六负,与 GPT-4 的差距进一步缩小。

中英文理解能力是大语言模型的基本功。英语任务方面,通义千问 2.0 在 MMLU 基准的得分是 82.5,仅次于 GPT-4,通过大幅增加参数量,通义千问 2.0 能更好地理解和处理复杂的语言结构和概念;中文任务方面,通义千问 2.0 以明显优势在 C-Eval 基准获得最高得分,这是由于模型在训练中学习了更多中文语料,进一步强化了中文理解和表达能力。

在数学推理、代码理解等领域,通义千问 2.0 进步明显。在推理基准测试 GSM8K 中,通义千问排名第二,展示了强大的计算和逻辑推理能力;在 HumanEval 测试中,通义千问得分紧跟 GPT-4 和 GPT-3.5,该测试主要衡量大模型理解和执行代码片段的能力,这一能力是大模型应用于编程辅助、自动代码修复等场景的基础。

千亿规模参数,阿里云通义千问进化到2.0:性能超GPT-3.5,加速追赶GPT-4

通义千问 2.0 发布

通义千问更成熟了,也更好用了。通义千问 2.0 在指令遵循、工具使用、精细化创作等方面作了技术优化,能够更好地被下游应用场景集成。通义大模型官网上线了多模态和插件功能,支持图片输入、文档解析等细分任务。

与此同时,基于通义大模型训练的 8 大行业模型组团上线,他们分别是通义灵码 - 智能编码助手、通义智文 - AI 阅读助手、通义听悟 - 工作学习 AI 助手、通义星尘 - 个性化角色创作平台、通义点金 - 智能投研助手、通义晓蜜 - 智能客服、通义仁心 - 个人专属健康助手、通义法睿 - AI 法律顾问。8 大行业模型面向当下最受欢迎的多个垂直场景,使用领域数据进行专门训练。用户可以在官网直接体验模型功能,开发者可以通过网页嵌入、API/SDK 调用等方式,将模型能力集成到自己的大模型应用和服务中。

千亿规模参数,阿里云通义千问进化到2.0:性能超GPT-3.5,加速追赶GPT-4

通义大模型家族全面升级,8 大行业模型组团上线

截至 10 月,阿里云已与 60 多个行业头部伙伴进行深度合作,推动通义千问在办公、文旅、电力、政务、医保、交通、制造、金融、软件开发等领域的落地。

周靖人透露,阿里云计划近期开源通义千问 72B 版本,此前,阿里云已先后开源 7B 和 14B 版本模型,模型累计下载量超过 100 万。阿里云将持续支持千行百业的开发者基于通义千问开源模型进行模型和应用创新。

千亿规模参数,阿里云通义千问进化到2.0:性能超GPT-3.5,加速追赶GPT-4

(来源:机器之心)

通义千问 72B 即将开源
标签:


用户登录