最近相關(guān)數(shù)據(jù)平臺(tái)顯示，中國(guó)AI大模型周調(diào)用量連續(xù)三周超越美國(guó)。這背后的計(jì)量單位是一個(gè)科技圈流行的新詞兒——“Token”！Token是啥？它和大模型、算力甚至電力有啥關(guān)系？總臺(tái)央視科技記者張春玲為您一一解析。

最近，科技圈流行起來(lái)一個(gè)新詞兒——Token。3月24日，國(guó)家數(shù)據(jù)局在官方發(fā)布中首次提到Token的標(biāo)準(zhǔn)中文譯名——“詞元”。

簡(jiǎn)單來(lái)說(shuō)，Token就是AI大模型處理信息的基本單位，我們以字為單位來(lái)讀書寫字，對(duì)于大模型，這個(gè)輸入輸出的單位就是Token。在AI的眼里，一個(gè)Token可能是零點(diǎn)幾個(gè)漢字、單詞，也可能一個(gè)標(biāo)點(diǎn)、數(shù)字或者符號(hào)。它就像AI時(shí)代手機(jī)的流量一樣，每一個(gè)AI模型廠商都會(huì)提供自己的Token，并且以它的消耗量為單位向用戶收費(fèi)。

過(guò)去的幾個(gè)月里，隨著“龍蝦”智能體的爆火，全球的Token調(diào)用量迎來(lái)了新一輪的暴漲。而和之前很不一樣的是，這一次中國(guó)AI大模型的Token調(diào)用量，歷史上首次全面超越美國(guó)。

為什么全世界都在用中國(guó)的Token? 核心原因那就是物美還價(jià)廉。

我們要知道，Token并不是憑空產(chǎn)生的，它是由高性能的GPU在消耗大量的電能，完成數(shù)千億次的推理運(yùn)算后產(chǎn)生的數(shù)字資產(chǎn)。每生成一個(gè)Token都對(duì)應(yīng)著真實(shí)的推理過(guò)程，也對(duì)應(yīng)著真實(shí)的電力消耗和算力消耗。

而中國(guó)大模型公司之所以能夠把Token價(jià)格做得更低，主要原因：

  • 第一是我們的電力優(yōu)勢(shì)。中國(guó)擁有更完善的電力基礎(chǔ)設(shè)施和技術(shù)體系，尤其是在西部地區(qū)豐富的新能源綠電，正在與數(shù)據(jù)中心算力、樞紐加快耦合，把電直接轉(zhuǎn)化成AI時(shí)代的新型服務(wù)能力。
  • 第二是技術(shù)能力。近年來(lái)中國(guó)科技企業(yè)在推理芯片、模型架構(gòu)和系統(tǒng)優(yōu)化上持續(xù)突破，這意味著面對(duì)同樣一個(gè)問(wèn)題，中國(guó)的大模型往往可以用更少的算力，更短的時(shí)延，更高的能效，就把答案給算出來(lái)。

有人說(shuō)Token將是AI時(shí)代新的能源單位，中國(guó)電力、中國(guó)算力正在以一種全新的方式參與著全球的競(jìng)爭(zhēng)。

更多熱點(diǎn)速報(bào)、權(quán)威資訊、深度分析盡在北京日?qǐng)?bào)App

來(lái)源：央視新聞客戶端

如遇作品內(nèi)容、版權(quán)等問(wèn)題，請(qǐng)?jiān)谙嚓P(guān)文章刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系。版權(quán)侵權(quán)聯(lián)系電話：010-85202353