九游娛樂-平臺官網(wǎng)九游娛樂-平臺官網(wǎng)今日,聯(lián)想創(chuàng)新科技大會(Tech World)以“讓AI成為創(chuàng)新生產(chǎn)力”為主題,聚焦混合式人工智能,從個人到企業(yè),全方位展示聯(lián)想創(chuàng)新技術成果。
會上,聯(lián)想展示了其在端側算力方面的最新創(chuàng)新成果 —— “聯(lián)想推理加速引擎”。
據(jù)了解,這款由聯(lián)想、清華大學及無問芯穹聯(lián)合研發(fā)的推理引擎,是專為高效AI PC推理而設計的軟硬件協(xié)同優(yōu)化平臺,可以讓一臺普通PC的本地推理能力,媲美OpenAI去年發(fā)布的o1-mini云端模型。
“聯(lián)想推理加速引擎”通過高性能并行解碼、算子融合優(yōu)化以及異構計算技術, 實現(xiàn)了多種應用場景下推理速度的大幅提升,以及功耗和內(nèi)存占用的顯著降低。
與大模型推理芯片相結合,通過硬件加速與軟件優(yōu)化的無縫協(xié)作,進一步放大了性能提升,形成了疊加效應。
為直觀展示 “聯(lián)想推理加速引擎”的實力,現(xiàn)場設置了一場“競速賽”。三臺配置相同的AI PC同時解答2024年高考數(shù)學壓軸題:
這表明模型能力的提升和 “聯(lián)想推理加速引擎”對算力的提升,讓設備的預填充更為迅速、解碼速度更快、推理時間更短,同時占用內(nèi)存更少,能耗更低,設備上的 AI 能力得到了大幅提升。
聯(lián)想集團董事長兼CEO楊元慶表示,很快大家就會在即將發(fā)布的下一代 AI PC 上體驗到 “聯(lián)想推理加速引擎”帶來的強大本地推理能力,其性能可以與云端大模型相媲美,但成本卻低得多。
17173全新懷舊頻道已上線!推薦懷舊網(wǎng)游,重溫老玩家故事。點此進入懷舊頻道