通義千問(wèn)14B模型開(kāi)源!阿里云大模型開(kāi)源生態(tài)初具雛形

數碼
TIME
2023-09-25 15:25
通信世界全媒體
分享

9月25日,阿里云開(kāi)源通義千問(wèn)140億參數模型Qwen-14B及其對話(huà)模型Qwen-14B-Chat,免費可商用。Qwen-14B在多個(gè)權威評測中超越同等規模模型,部分指標甚至接近Llama2-70B。阿里云此前開(kāi)源了70億參數模型Qwen-7B等,一個(gè)多月下載量破100萬(wàn),成為開(kāi)源社區的口碑之作。

Qwen-14B是一款支持多種語(yǔ)言的高性能開(kāi)源模型,相比同類(lèi)模型使用了更多的高質(zhì)量數據,整體訓練數據超過(guò)3萬(wàn)億Token,使得模型具備更強大的推理、認知、規劃和記憶能力。Qwen-14B最大支持8k的上下文窗口長(cháng)度。

圖1:Qwen-14B在十二個(gè)權威測評中全方位超越同規模SOTA大模型

Qwen-14B-Chat是在基座模型上經(jīng)過(guò)精細SFT得到的對話(huà)模型。借助基座模型強大性能,Qwen-14B-Chat生成內容的準確度大幅提升,也更符合人類(lèi)偏好,內容創(chuàng )作上的想象力和豐富度也有顯著(zhù)擴展。

Qwen擁有出色的工具調用能力,能讓開(kāi)發(fā)者更快地構建基于Qwen的Agent(智能體)。開(kāi)發(fā)者可用簡(jiǎn)單指令教會(huì )Qwen使用復雜工具,比如使用Code Interpreter工具執行Python代碼以進(jìn)行復雜的數學(xué)計算、數據分析、圖表繪制等;還能開(kāi)發(fā)具有多文檔問(wèn)答、長(cháng)文寫(xiě)作等能力的“高級數字助理”。

百億以?xún)葏导墑e大語(yǔ)言模型是目前開(kāi)發(fā)者進(jìn)行應用開(kāi)發(fā)和迭代的主流選擇,Qwen-14B進(jìn)一步提高了小尺寸模型的性能上限,從眾多同尺寸模型中沖出重圍,在MMLU、C-Eval、GSM8K、MATH、GaoKao-Bench等12個(gè)權威測評中取得最優(yōu)成績(jì),超越所有測評中的SOTA(State-Of-The-Art)大模型,也全面超越Llama-2-13B,比起Llama 2的34B、70B模型也并不遜色。與此同時(shí),Qwen-7B也全新升級,核心指標最高提升22.5%。

圖2:Qwen-14B性能超越同尺寸模型

用戶(hù)可從魔搭社區直接下載模型,也可通過(guò)阿里云靈積平臺訪(fǎng)問(wèn)和調用Qwen-14B和Qwen-14B-Chat。阿里云為用戶(hù)提供包括模型訓練、推理、部署、精調等在內的全方位服務(wù)。

8月,阿里云開(kāi)源通義千問(wèn)70億參數基座模型Qwen-7B,先后沖上HuggingFace、Github的trending榜單。短短一個(gè)多月,累計下載量突破100萬(wàn)。開(kāi)源社區出現了50多個(gè)基于Qwen的模型,社區多個(gè)知名的工具和框架都集成了Qwen。

通義千問(wèn)是落地最深、應用最廣的中國大模型,國內已有多個(gè)月活過(guò)億的應用接入通義千問(wèn),大量中小企業(yè)、科研機構和個(gè)人開(kāi)發(fā)者都在基于通義千問(wèn)開(kāi)發(fā)專(zhuān)屬大模型或應用產(chǎn)品,如阿里系的淘寶、釘釘、未來(lái)精靈,以及外部的科研機構、創(chuàng )業(yè)企業(yè)。

浙江大學(xué)聯(lián)合高等教育出版社基于Qwen-7B開(kāi)發(fā)了智海-三樂(lè )教育垂直大模型,已在全國12所高校應用,可提供智能問(wèn)答、試題生成、學(xué)習導航、教學(xué)評估等能力,模型已在阿里云靈積平臺對外提供服務(wù),一行代碼即可調用;浙江有鹿機器人科技有限公司在路面清潔機器人中集成了Qwen-7B,使機器人能以自然語(yǔ)言與用戶(hù)進(jìn)行實(shí)時(shí)交互,理解用戶(hù)提出的需求,將用戶(hù)的高層指令進(jìn)行分析和拆解,做高層的邏輯分析和任務(wù)規劃,完成清潔任務(wù)。

阿里云CTO周靖人表示,阿里云將持續擁抱開(kāi)源開(kāi)放,推動(dòng)中國大模型生態(tài)建設。阿里云篤信開(kāi)源開(kāi)放的力量,率先開(kāi)源自研大模型,希望讓大模型技術(shù)更快觸達中小企業(yè)和個(gè)人開(kāi)發(fā)者。

阿里云還牽頭建設了中國最大的AI模型開(kāi)源社區魔搭ModelScope,團結全行業(yè)的力量,共同推動(dòng)大模型技術(shù)普惠和應用落地。過(guò)去兩個(gè)月內,魔搭社區的模型下載量從4500萬(wàn)飆升到8500萬(wàn),增幅接近100%。

THE END
免責聲明:本文系轉載,版權歸原作者所有;刊載之目的為傳播更多信息,如內容不適請及時(shí)通知我們。

相關(guān)熱點(diǎn)

  金秋時(shí)節,正是工程建設黃金期。記者了解到,隨著(zhù)施工進(jìn)度穩步推進(jìn),多地多項交通基礎設施工程建設取得新進(jìn)展?! ≡诤邶埥?,哈伊高鐵2號特大橋施工現場(chǎng),隨著(zhù)最后一榀重達...
業(yè)界
  中國信通院日前發(fā)布的《中國無(wú)線(xiàn)經(jīng)濟發(fā)展研究報告(2023年)》顯示,2022年我國無(wú)線(xiàn)經(jīng)濟規模達6.6萬(wàn)億元,無(wú)線(xiàn)經(jīng)濟保持穩定增長(cháng),發(fā)展質(zhì)量穩步提升。無(wú)線(xiàn)經(jīng)濟內部結構形成“...
互聯(lián)網(wǎng)

相關(guān)推薦

1
3
人人狠狠综合久久亚洲88_国产超薄丝袜足底脚交国产_日本wvvw高清中文字幕_97国产品香蕉在线观看