
人工智能領(lǐng)域的競(jìng)爭(zhēng)再次升級(jí)。馬斯克創(chuàng)立的AI創(chuàng)企xAI于近日正式發(fā)布其首個(gè)自研大模型——Grok-1,該模型參數(shù)量高達(dá)3140億,一舉超越OpenAI的GPT-3.5,成為目前參數(shù)量最大的開(kāi)源大語(yǔ)言模型。
據(jù)悉,Grok-1采用混合專(zhuān)家(Mixture-of-Experts,MOE)架構(gòu),這種架構(gòu)旨在提升大模型的訓(xùn)練和推理效率。它類(lèi)似于將不同領(lǐng)域的“專(zhuān)家”集合在一起,針對(duì)不同任務(wù)派遣相應(yīng)的專(zhuān)家進(jìn)行處理,最后匯總結(jié)果,從而提高工作效率。該模型自2023年10月開(kāi)始訓(xùn)練,其權(quán)重和架構(gòu)已遵照Apache 2.0協(xié)議在GitHub上開(kāi)源,供全球開(kāi)發(fā)者使用和參考。
xAI方面強(qiáng)調(diào),Grok-1是由公司自行從頭訓(xùn)練的大模型,其預(yù)訓(xùn)練階段已于去年10月完成,此次發(fā)布的模型是未經(jīng)任何特定應(yīng)用微調(diào)的原始基礎(chǔ)模型檢查點(diǎn)。這一舉措顯示出xAI在推動(dòng)AI技術(shù)開(kāi)放與共享方面的決心,同時(shí)也反映了馬斯克對(duì)于AI技術(shù)發(fā)展的遠(yuǎn)見(jiàn)卓識(shí)。
值得一提的是,xAI的團(tuán)隊(duì)成員來(lái)自O(shè)penAI、谷歌DeepMind、谷歌研究院、微軟研究院等全球知名企業(yè)和研究機(jī)構(gòu),這為其在AI領(lǐng)域的快速發(fā)展提供了強(qiáng)大的技術(shù)支撐。而馬斯克此前對(duì)OpenAI的“不夠開(kāi)放”的批評(píng),似乎也在xAI的開(kāi)源舉動(dòng)中得到了回應(yīng)。
然而,盡管Grok-1的發(fā)布引起了業(yè)內(nèi)的廣泛關(guān)注,但xAI方面并未公布該模型的具體測(cè)試成績(jī)。業(yè)內(nèi)普遍期待,Grok-1與即將發(fā)布的OpenAI GPT-5之間的“大模型王者之戰(zhàn)”將成為未來(lái)AI領(lǐng)域的焦點(diǎn)。
與此同時(shí),ChatGPT的官方賬號(hào)也在xAI發(fā)布消息后迅速作出回應(yīng),與馬斯克在社交平臺(tái)上展開(kāi)了一場(chǎng)有趣的互動(dòng)。這一互動(dòng)不僅體現(xiàn)了AI領(lǐng)域的競(jìng)爭(zhēng)與合作,也展示了馬斯克在推動(dòng)AI技術(shù)發(fā)展方面的積極態(tài)度。
總體來(lái)看,馬斯克旗下xAI發(fā)布的Grok-1大模型,無(wú)疑是AI領(lǐng)域的一次重要突破。其開(kāi)源之舉不僅有助于推動(dòng)AI技術(shù)的普及和發(fā)展,也將為全球開(kāi)發(fā)者提供更多的創(chuàng)新和探索空間。未來(lái),隨著AI技術(shù)的不斷進(jìn)步和應(yīng)用場(chǎng)景的不斷拓展,我們有理由相信,Grok-1將在推動(dòng)AI技術(shù)的創(chuàng)新和發(fā)展方面發(fā)揮更加重要的作用。
原創(chuàng)文章,作者:AI,如若轉(zhuǎn)載,請(qǐng)注明出處:http://www.2079x.cn/article/637939.html