李開復:中國的優勢在于制造真正實惠的AI推理引擎

2024-10-22 11:39:50   來源:新浪科技   評論:0   [收藏]   [評論]
導讀:  新浪科技訊 10月22日上午消息,零一萬物創始人兼CEO李開復近期在與外媒溝通中透露,目前公司旗下Yi-Lightning(閃電模型)的推理成本,已經比OpenAI GPT4o便宜31倍。他指出,中國的優勢在于制造真正實惠的AI...
  新浪科技訊 10月22日上午消息,零一萬物創始人兼CEO李開復近期在與外媒溝通中透露,目前公司旗下Yi-Lightning(閃電模型)的推理成本,已經比OpenAI GPT4o便宜31倍。他指出,“中國的優勢在于制造真正實惠的AI推理引擎,這是AI應用蓬勃發展最重要的一件事。”

  據加州大學伯克利分校 SkyLab和LMSYS研究人員近期發布的一份大模型排名,零一萬物 Yi-Lightning與Grok-2和馬斯克創辦的xAI并列為全球排名第三的大模型公司,僅次于OpenAI和谷歌的最新模型。據李開復透露,“零一萬物 Yi-Lightning 的推理成本是每百萬token收取14美分(0.99元),而OpenAI的較小模型o1-mini每百萬個token需要26美分。與此同時,OpenAI的更大尺寸的模型GPT-4o的推理成本為每百萬個token 4.40美元。”

  此外,李開復還指出,Yi-Lightning模型的“預訓練”成本為300萬美元——模型關鍵訓練階段成本,之后可以根據不同的應用場景進行微調或定制。這一訓練成本僅為OpenAI訓練GPT-4的3%,而且Yi-Lightning性能還超越了GPT-4。

  當前,鑒于獲取尖端AI芯片供給的難度,國內AI領域的玩家在過去一年中一直在競相開發高質量數據集來訓練“混合專家”模型,使得自家模型具備與競爭對手不同的特色。李開復指出,“零一萬物采用了遠遠優于傳統網絡抓取方法的數據收集方法,包括掃描書籍,爬取深網區的數據,使用新穎的合成數據技術等。”

  李開復指出,工程師在數據標注和排序方面需要做很多不為人知的艱苦工作,國內擁有大量技術厲害且刻苦耐勞的工程人才,在這方面比國外更有優勢。“中國的優勢不一定能在預算不封頂的情況下做出前所未有的突破性研究,但肯定能更好、更快、更可靠和更低成本地實現落地”,李開復表示。
 

分享到:
責任編輯:zsz

網友評論