月之暗面北京辦公室 (圖片來(lái)源:鈦媒體App編輯拍攝)
繼25億美元估值炸場(chǎng)之后,楊植麟團(tuán)隊(duì)再扔下“震撼彈”。
鈦媒體App獲悉,3月18日上午,國(guó)內(nèi) AI 創(chuàng)業(yè)公司月之暗面(Moonshot AI)宣布在大模型長(zhǎng)上下文窗口技術(shù)上取得新的突破,Kimi智能助手已支持200萬(wàn)字超長(zhǎng)無(wú)損上下文,短短五個(gè)月內(nèi)“長(zhǎng)文本”輸入量提升10倍,并于即日起開(kāi)啟產(chǎn)品“內(nèi)測(cè)”。
18日上午,月之暗面工程副總裁許欣然對(duì)鈦媒體App等表示,大模型無(wú)損上下文長(zhǎng)度的數(shù)量級(jí)提升,也會(huì)進(jìn)一步幫助大家打開(kāi)對(duì) AI 應(yīng)用場(chǎng)景的想象力,包括完整代碼庫(kù)的分析理解、自主完成多步驟復(fù)雜任務(wù)的智能體Agent、不會(huì)遺忘關(guān)鍵信息的終身助理、真正統(tǒng)一架構(gòu)的多模態(tài)模型等。
許欣然強(qiáng)調(diào),過(guò)去一段時(shí)間Kimi正不斷提升大模型技術(shù)能力,尤其是更復(fù)雜的模型需求越來(lái)越多。而在整個(gè)過(guò)程當(dāng)中,Kimi模型本身跟用戶一直存在彼此相互促進(jìn)增長(zhǎng)的狀態(tài)。
月之暗面創(chuàng)始人楊植麟博士表示,通往通用人工智能(AGI)的話,無(wú)損的長(zhǎng)上下文將會(huì)是一個(gè)很關(guān)鍵的基礎(chǔ)技術(shù)。歷史上所有的模型架構(gòu)演進(jìn),本質(zhì)上都是在提升有效的、無(wú)損的上下文長(zhǎng)度。上下文長(zhǎng)度可能存在摩爾定律,但需要同時(shí)優(yōu)化長(zhǎng)度和無(wú)損壓縮水平兩個(gè)指標(biāo),才是有意義的規(guī)模化。
月之暗面聯(lián)合創(chuàng)始人 周昕宇則向鈦媒體App透露,月之暗面即將在今年內(nèi)推出自研的多模態(tài)大模型。同時(shí),商業(yè)化也在快速推進(jìn)。
當(dāng)被問(wèn)及之前為何不做多模態(tài)模型時(shí),周昕宇回應(yīng)稱,“如果拿出別人也有的東西,對(duì)于世界來(lái)說(shuō)沒(méi)有什么新價(jià)值,大家就不要再陷入'百模大戰(zhàn)’怪圈,我們不做跟隨的東西。”
據(jù)悉,月之暗面成立于2023年3月,是國(guó)內(nèi)大模型領(lǐng)域的關(guān)鍵玩家。其核心團(tuán)隊(duì)曾參與到Google、華為盤古、智源悟道等多個(gè)大模型研發(fā)中。
月之暗面創(chuàng)始人、CEO楊植麟本科畢業(yè)于清華大學(xué),博士畢業(yè)于卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)專業(yè),曾就職于Google Brain(谷歌大腦)和美國(guó)初創(chuàng)公司FAIR,師從蘋果公司人工智能負(fù)責(zé)人Ruslan Salakhutdinov,有多年創(chuàng)業(yè)經(jīng)驗(yàn),曾與多名圖靈獎(jiǎng)得主合作發(fā)表論文,是盤古、悟道等國(guó)內(nèi)最早大模型的技術(shù)貢獻(xiàn)者。
同時(shí),楊植麟還是中國(guó)35歲以下NLP(自然語(yǔ)言處理)領(lǐng)域引用最高的研究者,也是Transformer-XL和XLNet兩篇重要論文的第一作者——兩篇文章均為大語(yǔ)言模型領(lǐng)域的核心技術(shù)。而另兩位聯(lián)合創(chuàng)始人周昕宇和吳育昕都有超10000次Google Scholar引用。
人員方面,目前,月之暗面團(tuán)隊(duì)人數(shù)已超過(guò)80人。
融資方面,成立不到一年內(nèi),月之暗面就已完成兩筆融資,總額超過(guò)13億美元,投資方包括紅杉中國(guó)、真格基金、小紅書(shū)、美團(tuán)、阿里等。今年2月的一筆融資成為國(guó)內(nèi)AI大模型公司迄今獲得的單輪最大金額融資。
兩輪投資后,目前,月之暗面公司估值或達(dá)25億美元。
技術(shù)產(chǎn)品層面,成立至今,月之暗面已完成從通用大模型到上層應(yīng)用的布局。
其中,大模型基礎(chǔ)層,月之暗面已訓(xùn)練千億級(jí)別的自研通用大模型,并獲得了國(guó)內(nèi)大模型備案審批;應(yīng)用層,2023年10月,月之暗面推出全球首個(gè)支持輸入20萬(wàn)漢字的智能助手產(chǎn)品Kimi,支持20萬(wàn)漢字的長(zhǎng)文本輸入,主打無(wú)損記憶以及“長(zhǎng)文本(Long Context)”,被網(wǎng)友稱為ChatGPT中文平替,善于讀長(zhǎng)文、搜網(wǎng)頁(yè),可以用于會(huì)議紀(jì)要、輔助編程、文案寫作等場(chǎng)景。
根據(jù)SimilarWeb顯示,春節(jié)之后Kimi訪問(wèn)量大增。另?yè)?jù)公開(kāi)數(shù)據(jù)顯示,2024年1月,Kimi智能助手的訪問(wèn)量142萬(wàn),在大模型創(chuàng)業(yè)公司的“AI ChatBots”產(chǎn)品中排在第一;月環(huán)比增長(zhǎng)率 94.1%,增長(zhǎng)速度也在大模型創(chuàng)業(yè)公司排第一位。
許欣然表示,目前Kimi平均每個(gè)月可能都有100%以上的增速。
今天上午會(huì)議上,許欣然宣布,即日起,月之暗面旗下的Kimi Chat、Moonshot大模型將統(tǒng)一名稱,分別更名為Kimi智能助手、Kimi大模型。
“我們就簡(jiǎn)化一下,以后統(tǒng)一讓大家記住Kimi?!痹S欣然對(duì)鈦媒體App等表示。
具體來(lái)說(shuō),相比此前20萬(wàn)字長(zhǎng)度,更長(zhǎng)的文本輸入首先能帶來(lái)的變化就是解鎖更多超長(zhǎng)任務(wù)、復(fù)雜任務(wù)。過(guò)去只能整理50份簡(jiǎn)歷,現(xiàn)在可以線性增長(zhǎng)至500份。
月之暗面團(tuán)隊(duì)提出“10分鐘速成定律”,并指出Kimi快速學(xué)習(xí)一個(gè)新領(lǐng)域的能力,人類要10000小時(shí)才能成為專家的領(lǐng)域,AI只需要10分鐘,就能接近任何一個(gè)新領(lǐng)域的初級(jí)專家水平。
許欣然展示百萬(wàn)字書(shū)籍的打印厚度
例如,上傳幾十萬(wàn)字的德州撲克的教程文檔,再提出一個(gè)比賽開(kāi)局,Kimi就可以分析比賽場(chǎng)上的局面,并提供出牌策略的指導(dǎo);同時(shí),kimi還能讀懂近百萬(wàn)字中醫(yī)診療手冊(cè)、《甄嬛傳》小說(shuō)等,它都能一一解答。
此外,除了中英文,Kimi還能直接閱讀代碼庫(kù)文件,然后用中文寫出詳細(xì)清晰的代碼庫(kù)設(shè)計(jì)文檔,即便是毫無(wú)注釋的陳年老代碼也能快速梳理出結(jié)構(gòu)。
月之暗面方面表示,從很多 Kimi 智能助手用戶的反饋來(lái)看,20 萬(wàn)字的無(wú)損長(zhǎng)上下文幫助他們打開(kāi)了新的AI應(yīng)用世界,帶來(lái)了更大的價(jià)值,但隨著他們嘗試更復(fù)雜的任務(wù)、解讀更長(zhǎng)的文檔,依然會(huì)遇到對(duì)話長(zhǎng)度超出限制的情況。這也是大模型產(chǎn)品的無(wú)損上下文長(zhǎng)度需要繼續(xù)提升的一個(gè)直接原因。此外,Kimi 智能助手的智能搜索,更是離不開(kāi)大模型的無(wú)損長(zhǎng)上下文能力。
月之暗面指出,正是因?yàn)橛脩魧?duì)Kimi發(fā)出的指令越來(lái)越復(fù)雜,因此團(tuán)隊(duì)也一直致力于提升Kimi能遵循的指令的復(fù)雜度、信息檢索能力。同時(shí)由于用戶的使用場(chǎng)景從工作逐漸擴(kuò)展到生活的方方面面,團(tuán)隊(duì)在網(wǎng)頁(yè)端之外補(bǔ)齊了微信小程序、iOS端以及安卓端等。
許欣然透露,Kimi充分發(fā)揮其作為“硅基生命”的優(yōu)勢(shì),夜間也沒(méi)歇著,持續(xù)不斷地自我進(jìn)化中。
周昕宇強(qiáng)調(diào),出于用戶共創(chuàng)的考慮,Kimi的定位比起“聊天機(jī)器人”更像一個(gè)“智能助手”,因?yàn)槠胀▽?duì)話對(duì)大模型自身迭代的幫助有限。
會(huì)后對(duì)話交流中,周昕宇表示,對(duì)于呼聲很高的提示詞教程,目前已經(jīng)在準(zhǔn)備當(dāng)中,預(yù)計(jì)一個(gè)月左右發(fā)布;同時(shí),多模態(tài)模型也在不斷研發(fā),而音頻處理能力、海外版同樣在需求池內(nèi)。
許欣然向鈦媒體App表示,月之暗面的 AI Infra(基礎(chǔ)設(shè)施)團(tuán)隊(duì)也在持續(xù)提升能效比,均是采用自研技術(shù)。據(jù)稱比起剛發(fā)布時(shí),Kimi在完全相同的硬件條件下響應(yīng)速度提升了3倍。
目前,Kimi智能助手仍完全免費(fèi)。但隨著用戶群體的擴(kuò)大和使用量的增長(zhǎng),難免會(huì)出現(xiàn)算力不足的情況。許欣然透露,今年上半年預(yù)計(jì)開(kāi)啟商業(yè)化模式。
“我覺(jué)得這個(gè)東西都是付費(fèi)內(nèi)容。我們思考點(diǎn)不是從性價(jià)比來(lái)進(jìn)行(商業(yè)化)。而是我們應(yīng)該要幫助用戶解決什么問(wèn)題。在能解決問(wèn)題的情況下,我們將商業(yè)化不斷開(kāi)放和規(guī)劃,到時(shí)候你(客戶)就知道哪個(gè)更好了。”周昕宇表示。
(本文首發(fā)鈦媒體App,作者|林志佳)
聯(lián)系客服