站長資訊網
最全最豐富的資訊網站

通義千問重磅開源Qwen2.5,性能超越Llama

9月19日云棲大會,阿里云CTO周靖人發布通義千問新一代開源模型Qwen2.5,旗艦模型Qwen2.5-72B性能超越Llama 405B,再登全球開源大模型王座。Qwen2.5全系列涵蓋多個尺寸的大語言模型、多模態模型、數學模型和代碼模型,每個尺寸都有基礎版本、指令跟隨版本、量化版本,總計上架100多個模型,刷新業界紀錄。

Qwen2.5全系列模型都在18T tokens數據上進行預訓練,相比Qwen2,整體性能提升18%以上,擁有更多的知識、更強的編程和數學能力。Qwen2.5-72B模型在MMLU-rudex基準(考察通用知識)、MBPP 基準(考察代碼能力)和MATH基準(考察數學能力)的得分高達86.8、88.2、83.1。

Qwen2.5支持高達128K的上下文長度,可生成最多8K內容。模型擁有強大的多語言能力,支持中文、英文、法文、西班牙文、俄文、日文、越南文、阿拉伯文等 29 種以上語言。模型能夠絲滑響應多樣化的系統提示,實現角色扮演和聊天機器人等任務。在指令跟隨、理解結構化數據(如表格)、生成結構化輸出(尤其是JSON)等方面Qwen2.5都進步明顯。

語言模型方面,Qwen2.5開源了7個尺寸,0.5B、1.5B、3B、7B、14B、32B、72B,它們在同等參數賽道都創造了業界最佳成績,型號設定充分考慮下游場景的不同需求,3B是適配手機等端側設備的黃金尺寸;32B是最受開發者期待的“性價比之王”,可在性能和功耗之間獲得最佳平衡,Qwen2.5-32B的整體表現超越了Qwen2-72B。

在MMLU-redux等十多個基準測評中,Qwen2.5-72B表現超越Llama3.1-405B

72B是Qwen2.5系列的旗艦模型,其指令跟隨版本Qwen2.5-72B-Instruct在MMLU-redux、MATH、MBPP、LiveCodeBench、Arena-Hard、AlignBench、MT-Bench、MultiPL-E等權威測評中表現出色,在多個核心任務上,以不到1/5的參數超越了擁有4050億巨量參數的Llama3.1-405B,繼續穩居“全球最強開源大模型”的位置。

專項模型方面,用于編程的 Qwen2.5-Coder 和用于數學的 Qwen2.5-Math都比前代有了實質性進步。Qwen2.5-Coder 在多達5.5T tokens 的編程相關數據上作了訓練,當天開源1.5B和7B版本,未來還將開源32B版本;Qwen2.5-Math支持使用思維鏈和工具集成推理(TIR) 解決中英雙語的數學題,是迄今為止最先進的開源數學模型系列,本次開源了1.5B、7B、72B三個尺寸和一款數學獎勵模型Qwen2.5-Math-RM。

多模態模型方面,廣受期待的視覺語言模型Qwen2-VL-72B正式開源,Qwen2-VL能識別不同分辨率和長寬比的圖片,理解20分鐘以上長視頻,具備自主操作手機和機器人的視覺智能體能力。日前權威測評LMSYS Chatbot Arena Leaderboard發布最新一期的視覺模型性能測評結果,Qwen2-VL-72B成為全球得分最高的開源模型。

Qwen2-VL-72B在權威測評LMSYS Chatbot Arena Leaderboard成為成為全球得分最高的開源視覺理解模型

自從2023年8月開源以來,通義在全球開源大模型領域后來居上,成為開發者尤其是中國開發者的首選模型。性能上,通義大模型日拱一卒,逐步趕超美國最強開源模型Llama,多次登頂Hugging Face全球大模型榜單;生態上,通義從零起步、開疆拓土,與海內外的開源社區、生態伙伴、開發者共建生態網絡,截至2024年9月中旬,通義千問開源模型下載量突破4000萬,Qwen系列衍生模型總數超過5萬個,成為僅次于Llama的世界級模型群。

HuggingFace數據顯示,截至9月中旬Qwen系列原生模型和衍生模型總數超過5萬個

申請創業報道,分享創業好點子。點擊此處,共同探討創業新機遇!

本文素材來自互聯網,如有侵權,請聯系將及時刪除!

贊(0)
分享到: 更多 (0)
網站地圖   滬ICP備18035694號-2    滬公網安備31011702889846號
69SEX久久精品国产麻豆| 久久久久免费精品国产小说| 日韩视频中文字幕精品偷拍| 久久99国产精品久久99小说| 99精品视频在线视频免费观看| 亚洲中文久久精品无码| 国产成人无码精品一区在线观看 | 成人精品视频一区二区三区不卡 | 日韩欧美亚洲国产精品字幕久久久| 久久精品中文无码资源站| 久久精品国1国二国三| 亚洲精品色午夜无码专区日韩| 久久五月精品中文字幕 | 91大神在线精品视频一区| 久久精品亚洲综合| 国产精品特级毛片一区二区三区 | 亚洲欧洲国产精品你懂的| 国产精品禁18久久久夂久| 亚洲日韩一页精品发布| 99精品国产自在现线观看| 久久久不卡国产精品一区二区| 国产成人精品日本亚洲专区 | 99久久综合精品国产| 小辣椒福利视频精品导航| 久久青草精品一区二区三区| 精品国内片67194| 精品亚洲一区二区| 久久久九九有精品国产| 精品一区二区在线观看| 国产精品涩涩涩视频网站| 麻豆精品不卡国产免费看| 久久精品国产免费| 久久精品视频一区| 亚洲av成人无码久久精品| 99精品视频观看| 91在线老王精品免费播放| 久久亚洲AV无码精品色午夜 | 亚洲精品国精品久久99热| 亚洲七七久久精品中文国产| 国产伦精品一区二区三区视频金莲 | 色综合久久精品亚洲国产|