開(kāi)源大模型賽道迎來(lái)重磅新品。XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

當(dāng)?shù)貢r(shí)間2月21日，谷歌宣布正式推出全新的開(kāi)源大語(yǔ)言模型（LLM）“Gemma”， 旨在幫助開(kāi)發(fā)人員和研究人員負(fù)責(zé)任地構(gòu)建人工智能。XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

據(jù)介紹，Gemma大模型與谷歌規(guī)模最大、能力最強(qiáng)的人工智能模型Gemini共享技術(shù)和基礎(chǔ)架構(gòu)，“受到 Gemini的啟發(fā)，Google DeepMind和Google其他團(tuán)隊(duì)合作開(kāi)發(fā)了Gemma，并用拉丁語(yǔ)中意為‘寶石’的gemma為其命名。”XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

不過(guò)相比Gemini，Gemma更加輕量化。同時(shí)，Gemma依舊保持免費(fèi)使用，其模型權(quán)重也一并開(kāi)源，并且允許商用。XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

谷歌共發(fā)布了兩種不同權(quán)重規(guī)模的模型，分別為Gemma 2B（20億參數(shù)）和Gemma 7B（70億參數(shù)）。每種規(guī)模都有預(yù)訓(xùn)練和指令微調(diào)版本，允許所有組織（無(wú)論規(guī)模大小）負(fù)責(zé)任地進(jìn)行商用和分發(fā)。XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

谷歌發(fā)布Gemma的同日，風(fēng)頭正盛的芯片制造商英偉達(dá)也宣布，已與谷歌達(dá)成合作，確保Gemma模型在其芯片上順利運(yùn)行。英偉達(dá)還表示，旗下聊天機(jī)器人軟件Chat With RTX也將馬上支持Gemma。XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

值得注意的是，谷歌還強(qiáng)調(diào)，Gemma能在關(guān)鍵基準(zhǔn)上越級(jí)碾壓更大的模型。更為令人印象深刻的是，谷歌Gemma可以在筆記本電腦上運(yùn)行。XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

谷歌方面表示，Gemini是我們當(dāng)今廣泛使用的最大、功能最強(qiáng)大的AI模型。與其他開(kāi)放模型相比，Gemma 2B和7B能夠在其范圍內(nèi)實(shí)現(xiàn)同類(lèi)最佳的性能。Gemma模型能夠直接在開(kāi)發(fā)人員筆記本電腦或臺(tái)式計(jì)算機(jī)上運(yùn)行，“值得注意的是，Gemma在關(guān)鍵基準(zhǔn)上超越了更大的模型，同時(shí)遵守我們安全和負(fù)責(zé)任的輸出的嚴(yán)格標(biāo)準(zhǔn)。”XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

在開(kāi)源模型的同時(shí)，谷歌還公布了有關(guān)Gemma的性能、數(shù)據(jù)集組成和建模方法的詳細(xì)信息的技術(shù)報(bào)告。有研究人員在技術(shù)報(bào)告中發(fā)現(xiàn)，Gemma支持的詞匯表大小達(dá)到了256K，這意味著它對(duì)英語(yǔ)之外的其他語(yǔ)言能夠提供更好、更快的支持。XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

Gemma與Meta公司發(fā)布的Llama 2的參數(shù)對(duì)比，來(lái)自谷歌官網(wǎng)XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

Gemma也第一時(shí)間在知名開(kāi)源模型庫(kù)HuggingFace和HuggingChat上線。上線不久之后，在HuggingFace的“大語(yǔ)言模型榜單”上，Gemma 2B和7B模型已經(jīng)雙雙登頂。XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

AI行業(yè)專(zhuān)家、深度學(xué)習(xí)框架Keras的作者François Chollet更是對(duì)此表示，最強(qiáng)開(kāi)源大模型的位置現(xiàn)在易主了。XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)

Gemma的競(jìng)爭(zhēng)對(duì)手Llama 3也發(fā)布在即。1月19日，Meta聯(lián)合創(chuàng)始人兼首席執(zhí)行官扎克伯格宣布，Meta正在訓(xùn)練Llama 3并且將以負(fù)責(zé)任地方式繼續(xù)開(kāi)源。XVW新江南網(wǎng)|江南區(qū)域知名綜合門(mén)戶(hù)網(wǎng)