終端側(cè)生成式AI更多驚喜?高通將在WAIC帶來(lái)新的“首個(gè)”演示

2024 年 7 月 4 日,備受矚目的世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議(WAIC)將于上海開幕。自 2018 年首次舉辦以來(lái),WAIC 已走過(guò)六個(gè)年頭,如今,WAIC 已經(jīng)成為全球人工智能領(lǐng)域最具權(quán)威和影響力的行業(yè)盛會(huì)。

在本屆 WAIC 即將開幕之際,終端側(cè) AI 推動(dòng)者、領(lǐng)導(dǎo)者高通宣布了即將登展 WAIC 的消息,并迅速引發(fā)了業(yè)界的廣泛期待。

1720004625139455.png

據(jù)了解,7 月 4 日-6 日期間,高通將帶來(lái)一系列的主題演講和直播訪談,將重點(diǎn)分享 AI 技術(shù)基礎(chǔ)研究、領(lǐng)先產(chǎn)品應(yīng)用和未來(lái)行業(yè)賦能愿景上的最新進(jìn)展。例如,大會(huì)當(dāng)天,高通公司中國(guó)區(qū)董事長(zhǎng)孟樸將出席活動(dòng),并發(fā)表主題為“推動(dòng)終端側(cè) AI 發(fā)展讓智能計(jì)算無(wú)處不在”的演講,同時(shí)還有“擁抱 AI 終端創(chuàng)新”等系列直播訪談節(jié)目。高通公司中國(guó)區(qū)研發(fā)負(fù)責(zé)人徐晧也將發(fā)表“終端側(cè) AI 規(guī)?;瘮U(kuò)展,釋放工業(yè)化創(chuàng)新活力”的演講,并通過(guò)媒體直播間分享“我們可以用上怎樣的 AI 硬件?”。

技術(shù)展示環(huán)節(jié)更是亮點(diǎn)頻現(xiàn),包括首個(gè)在 Android 智能手機(jī)上運(yùn)行的大語(yǔ)言和視覺(jué)助理大模型(LLaVA)、驍龍 X Elite 終端上的剪映 AI 視頻編輯功能、第三代驍龍 8 賦能 Android 智能手機(jī)帶來(lái)創(chuàng)新終端側(cè)生成式 AI 體驗(yàn)等等。

這一系列技術(shù)展示,將是高通公司在推動(dòng)終端側(cè) AI 技術(shù)邊界拓展與行業(yè)生態(tài)合作方面的集中展現(xiàn),也是對(duì)未來(lái)智能科技發(fā)展趨勢(shì)的一次生動(dòng)預(yù)演,相當(dāng)值得期待了。

image.png

當(dāng)下,生成式 AI 已經(jīng)成為行業(yè)炙手可熱的話題,特別是隨著生成式 AI 技術(shù)在全球數(shù)以億計(jì)的終端中的大規(guī)模應(yīng)用,以終端側(cè)為主旋律的生成式 AI 浪潮已然到來(lái),而引領(lǐng)這一變革的核心力量,正是高通。

高通作為 AI 行業(yè)變革的賦能者,已經(jīng)從底層芯片、到軟硬件生態(tài)建設(shè),以及應(yīng)用的落地,都做足了準(zhǔn)備,賦能引領(lǐng)行業(yè)創(chuàng)新。

1720004658322026.png

比如在標(biāo)準(zhǔn)制定上,去年,高通發(fā)布了《混合 AI 是 AI 的未來(lái)》白皮書,明確指出云端與智能手機(jī)、汽車、個(gè)人電腦及物聯(lián)網(wǎng)終端的協(xié)同工作,將促進(jìn)更強(qiáng)大、更高效且高度優(yōu)化的 AI 發(fā)展,這是實(shí)現(xiàn) AI 普惠的必由之路。今年,高通又推出了《通過(guò) NPU 和異構(gòu)計(jì)算開啟終端側(cè)生成式 AI》白皮書,深入解析了 Hexagon NPU 為核心的異構(gòu)計(jì)算技術(shù),并探討了如何利用這些技術(shù),在生成式 AI 需求激增的背景下,為終端側(cè)帶來(lái)豐富多樣的生成式 AI 應(yīng)用場(chǎng)景。

再比如在底層芯片方面,早在 2015 年,高通就在驍龍 820 平臺(tái)上集成了首個(gè) AI 引擎;在今天的第三代驍龍 8 上,高通將高性能 AI 注入整個(gè)平臺(tái)系統(tǒng),采用面向生成式 AI 應(yīng)用重新設(shè)計(jì)的 Hexagon NPU,夠在終端側(cè)運(yùn)行高達(dá) 100 億參數(shù)的模型,無(wú)論是首個(gè) token 的生成速度還是每秒生成 token 的速率,都處在業(yè)界領(lǐng)先水平。例如在生成式 AI 語(yǔ)言理解模型 MobileBERT 上,第三代驍龍 8 的表現(xiàn)比競(jìng)品 A 高 17%,在魯大師 AIMark V4.3、安兔兔這些 AI 基準(zhǔn)測(cè)試的總分方面,第三代驍龍 8 也是遠(yuǎn)超競(jìng)品。

1720004668407542.png

更重要的是,高通還將大語(yǔ)言模型完整的搬到了端側(cè)運(yùn)行,賦能眾多的 AI 手機(jī)。比如包括三星、小米、榮耀、OPPO 、vivo 等在內(nèi)的手機(jī)廠商,其發(fā)布的驍龍 8 Gen3 手機(jī),均已具備了在端側(cè)運(yùn)行生成式 AI 的能力。

借助第三代驍龍 8 的 AI 能力,此次展會(huì),高通也將展示首個(gè)在 Android 智能手機(jī)上運(yùn)行的大語(yǔ)言和視覺(jué)助理大模型(LLaVA)。

除了移動(dòng)端,在 AI PC 領(lǐng)域,高通還帶來(lái)了驍龍 X Elite 和驍龍 X Plus PC 平臺(tái),凝聚了高通在通用處理和 AI 異構(gòu)計(jì)算多年積累的技術(shù)成果,其集成的 NPU 更是具有 45TOPS 的恐怖算力,這是 PC 平臺(tái)中最強(qiáng)大的 NPU。

1720004679923750.png

當(dāng)下,微軟 Surface 系列新品,以及聯(lián)想、戴爾、惠普、宏碁、華碩等品牌,也都已經(jīng)或即將發(fā)布搭載驍龍 X 系列平臺(tái)的 Windows 11 AI PC 新品。在這次展會(huì)上,高通就將展示驍龍 X Elite 終端上的剪映 AI 視頻編輯功能,可以期待,無(wú)論是消費(fèi)者還是企業(yè)用戶,借助驍龍 X Elite 終端,都能夠全天候利用 AI 增強(qiáng)的終端側(cè)工具來(lái)提升生產(chǎn)力、創(chuàng)造力和協(xié)作能力。

不僅如此,高通還積極投身 AI PC 生態(tài)的建設(shè),讓開發(fā)者能夠獲取基于異構(gòu)計(jì)算的 AI 加速,高通打造了 AI 軟件棧(Qualcomm AI Stack)。它能夠支持目前所有的主流 AI 框架,包括 TensorFlow、PyTorch、ONNX、Keras;它還支持所有主流的 AI runtime,包括 DirectML、TFLite、ONNX Runtime、ExecuTorch,以及支持不同的編譯器、數(shù)學(xué)庫(kù)等 AI 工具。

就在 6 月份,高通還針對(duì)其 45 TOPS 的 Hexagon NPU 開發(fā)、優(yōu)化并驗(yàn)證了 AI 模型。注冊(cè)開發(fā)者可以前往高通的 AI Hub 獲取這些預(yù)訓(xùn)練模型,快速構(gòu)建人工智能應(yīng)用。據(jù)介紹,高通 AI Hub 提供了各種針對(duì)驍龍 X 系列處理器的邊緣設(shè)備優(yōu)化的 AI 模型,涵蓋圖像分類、對(duì)象檢測(cè)、語(yǔ)義分割和生成式 AI 等領(lǐng)域。此外,AI Hub 還提供了便捷的工具和文檔,幫助開發(fā)者輕松地在視覺(jué)、音頻和語(yǔ)音等應(yīng)用中部署 AI 模型。

其所做的這一切,正如高通公司 AI 產(chǎn)品技術(shù)中國(guó)區(qū)負(fù)責(zé)人萬(wàn)衛(wèi)星所言:

高通具備頂尖的異構(gòu)計(jì)算能力,使 AI 能力能夠貫穿整個(gè) SoC,將 CPU、GPU、NPU 和高通傳感器中樞的能力都充分釋放給應(yīng)用開發(fā)者。

可以說(shuō),驍龍 X Elite / X Plus PC 平臺(tái)的推出,如同為 AI PC 的變革性體驗(yàn)打下了扎實(shí)的地基,而借助驍龍 X Elite 平臺(tái)強(qiáng)大 AI 能力和高通在生態(tài)建設(shè)上的開放策略,接下來(lái)會(huì)有更多 AI 生成式應(yīng)用的涌現(xiàn)。

寫在最后

在剛剛結(jié)束的 MWC 上海展會(huì)上,高通 AI 產(chǎn)品技術(shù)中國(guó)區(qū)負(fù)責(zé)人萬(wàn)衛(wèi)星發(fā)表了“終端側(cè)生成式 AI 的未來(lái)”的主題演講,他提到,憑借面向生成式 AI 全新設(shè)計(jì)的 NPU 和異構(gòu)計(jì)算系統(tǒng),高通正為終端側(cè) AI 規(guī)?;瘮U(kuò)展提供了有力支持。此外,高通還致力于構(gòu)建完善的 AI 生態(tài)系統(tǒng),不斷推動(dòng) AI 技術(shù)的創(chuàng)新與發(fā)展。

1720004691573543.png

利用領(lǐng)先的邊緣 AI、高性能低功耗計(jì)算和無(wú)與倫比的連接,高通正不斷推動(dòng)終端側(cè) AI 的規(guī)模化擴(kuò)展,讓智能計(jì)算無(wú)處不在。隨著 WAIC(世界人工智能大會(huì))的到來(lái),可以期待,終端側(cè) AI 領(lǐng)導(dǎo)者的高通還將帶來(lái)更多新的驚喜。

7 月 4 日-6 日,WAIC,我們現(xiàn)場(chǎng)見!

(本文轉(zhuǎn)載自IT之家)

 

關(guān)鍵詞:
圖片版權(quán)歸原作者所有,如有侵權(quán)請(qǐng)聯(lián)系我們,我們立刻刪除。
新化月報(bào)網(wǎng)報(bào)料熱線:886 2395@qq.com

相關(guān)文章

你可能會(huì)喜歡

最近更新

推薦閱讀