新浪科技讯 9月19日下午消息，今日举办的2024云栖大会上，阿里云CTO周靖人发布通义千问新一代开源模型Qwen2.5。据悉，Qwen2.5全系列涵盖多个尺寸的大语言模型、多模态模型、数学模型和代码模型，每个尺寸都有基础版本、指令跟随版本、量化版本，总计上架100多个模型，其中旗舰模型Qwen2.5-72B性能超越Llama 405B。
据介绍，相比Qwen2，Qwen2.5全系列模型都在18T tokens数据上进行预训练，整体性能提升18%以上，拥有更多的知识、更强的编程和数学能力。Qwen2.5-72B模型在MMLU-rudex基准（考察通用知识）、MBPP 基准（考察代码能力）和MATH基准（考察数学能力）的得分高达86.8、88.2、83.1。Qwen2.5支持128K的上下文长度，可生成最多8K内容，支持中文、英文、法文、西班牙文、俄文、日文、越南文、阿拉伯文等 29 种以上语言。
其中，72B是Qwen2.5系列的旗舰模型，其指令跟随版本Qwen2.5-72B-Instruct在MMLU-redux、MATH、MBPP、LiveCodeBench、Arena-Hard、AlignBench、MT-Bench、MultiPL-E等权威测评中表现出色，在多个核心任务上，以不到1/5的参数超越了拥有4050亿巨量参数的Llama3.1-405B，继续稳居“全球最强开源大模型”的位置。
专项模型方面，用于编程的 Qwen2.5-Coder 和用于数学的 Qwen2.5-Math都比前代有了实质进步。Qwen2.5-Coder 在多达5.5T tokens 的编程相关数据上作了训练，当天开源1.5B和7B版本，未来还将开源32B版本；Qwen2.5-Math支持使用思维链和工具集成推理（TIR） 解决中英双语的数学题，本次开源了1.5B、7B、72B三个尺寸和一款数学奖励模型Qwen2.5-Math-RM。
此外，在多模态模型方面，阿里云还宣布了视觉语言模型Qwen2-VL-72B开源，Qwen2-VL能识别不同分辨率和长宽比的图片，理解20分钟以上长视频，具备自主操作手机和机器人的视觉智能体能力。（文猛）
发表评论