“通往AGI（通用人工智能）的話，長(zhǎng)上下文會(huì)是一個(gè)很重要的點(diǎn)，從某種程度上看，所有問(wèn)題都是上下文長(zhǎng)度問(wèn)題。”在今年2月末接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)，AI創(chuàng)業(yè)公司月之暗面方面曾指出了突破長(zhǎng)文本處理技術(shù)的重要意義。

3月18日，月之暗面宣布在大模型長(zhǎng)上下文窗口技術(shù)上取得新的突破，其自研的Kimi智能助手已支持200萬(wàn)字超長(zhǎng)無(wú)損上下文，并于今日開(kāi)啟產(chǎn)品內(nèi)測(cè)。

在去年10月首次亮相時(shí)，Kimi智能助手可支持的無(wú)損上下文長(zhǎng)度最多為20萬(wàn)漢字，是彼時(shí)大模型產(chǎn)品里所能支持的最長(zhǎng)上下文輸入長(zhǎng)度。時(shí)隔五個(gè)月，月之暗面已將該產(chǎn)品的這一能力提升到了全新的數(shù)量級(jí)。

據(jù)了解，按OpenAI的計(jì)算標(biāo)準(zhǔn)，Kimi智能助手最初支持的20萬(wàn)漢字約為40萬(wàn)token（語(yǔ)言模型中用來(lái)表示最小文本單元），同期大模型Claude支持的最大長(zhǎng)文本為10萬(wàn)token。今年2月27日，零一萬(wàn)物發(fā)布Yi大模型API，其中Yi-34B-Chat-200K支持處理約20萬(wàn)～30萬(wàn)個(gè)中英文字符。

同時(shí)，在國(guó)內(nèi)AI產(chǎn)品中，Kimi智能助手的用戶增速顯著。“AI產(chǎn)品榜（aicpb.com）”統(tǒng)計(jì)的數(shù)據(jù)顯示，Kimi智能助手在2024年2月的訪問(wèn)量達(dá)305萬(wàn)，1月的訪問(wèn)量達(dá)142萬(wàn)，連續(xù)兩個(gè)月均僅次于文心一言和通義千問(wèn)，在大模型創(chuàng)業(yè)公司產(chǎn)品中居于首位。

當(dāng)大模型的無(wú)損上下文長(zhǎng)度得以數(shù)量級(jí)提升，用戶會(huì)有哪些全新的應(yīng)用體驗(yàn)?zāi)兀?/span>

月之暗面介紹，上下文長(zhǎng)度的提升也會(huì)進(jìn)一步幫助用戶打開(kāi)對(duì)AI應(yīng)用場(chǎng)景的想象力，包括完整代碼庫(kù)的分析理解、可以自主幫人類完成多步驟復(fù)雜任務(wù)的Agent（智能體）、不會(huì)遺忘關(guān)鍵信息的終身助理、真正統(tǒng)一架構(gòu)的多模態(tài)模型等。

對(duì)于新升級(jí)后的模型能力，月之暗面用了一個(gè)可以量化的簡(jiǎn)單例子說(shuō)明：過(guò)去要10000小時(shí)才能成為專家的領(lǐng)域，現(xiàn)在只需要10分鐘，Kimi智能助手就能接近任何一個(gè)新領(lǐng)域的初級(jí)專家水平。

與此同時(shí)，指令遵循能力也是大模型的一大代表性涌現(xiàn)能力，和上下文學(xué)習(xí)能力有著密切的關(guān)系。

月之暗面方面此前對(duì)《每日經(jīng)濟(jì)新聞》記者表示，在投資機(jī)構(gòu)和大廠的內(nèi)部綜合評(píng)測(cè)中，Kimi智能助手在理解和生成中文內(nèi)容方面表現(xiàn)出色，“中文實(shí)力直追OpenAI”。

月之暗面方面表示，從產(chǎn)品推出以來(lái)的用戶反饋來(lái)看，Kimi智能助手的多輪交互和超長(zhǎng)指令遵循能力也是產(chǎn)品的一項(xiàng)核心優(yōu)勢(shì)。

《每日經(jīng)濟(jì)新聞》記者了解到，目前月之暗面團(tuán)隊(duì)超過(guò)80人，其中大部分是技術(shù)人員，團(tuán)隊(duì)規(guī)模還在持續(xù)擴(kuò)大。

“正在造一架火箭，每天討論往火箭里加什么燃料跑得更快。”在今年3月上旬的最新一輪招聘中，月之暗面在官方公眾號(hào)這樣寫道。從20萬(wàn)漢字到200萬(wàn)漢字的模型能力提升，足可見(jiàn)，月之暗面正在向著大模型應(yīng)用的“長(zhǎng)文本時(shí)代”一路狂奔。

（信源：每日經(jīng)濟(jì)新聞）