終端側(cè)生成式AI更多驚喜?高通將在WAIC帶來新的“首個”演示
2024 年 7 月 4 日,備受矚目的世界人工智能大會暨人工智能全球治理高級別會議(WAIC)將于上海開幕。自 2018 年首次舉辦以來,WAIC 已走過六個年頭,如今,WAIC 已經(jīng)成為全球人工智能領域最具權(quán)威和影響力的行業(yè)盛會。
在本屆 WAIC 即將開幕之際,終端側(cè) AI 推動者、領導者高通宣布了即將登展 WAIC 的消息,并迅速引發(fā)了業(yè)界的廣泛期待。
據(jù)了解,7 月 4 日-6 日期間,高通將帶來一系列的主題演講和直播訪談,將重點分享 AI 技術(shù)基礎研究、領先產(chǎn)品應用和未來行業(yè)賦能愿景上的最新進展。例如,大會當天,高通公司中國區(qū)董事長孟樸將出席活動,并發(fā)表主題為“推動終端側(cè) AI 發(fā)展讓智能計算無處不在”的演講,同時還有“擁抱 AI 終端創(chuàng)新”等系列直播訪談節(jié)目。高通公司中國區(qū)研發(fā)負責人徐晧也將發(fā)表“終端側(cè) AI 規(guī)模化擴展,釋放工業(yè)化創(chuàng)新活力”的演講,并通過媒體直播間分享“我們可以用上怎樣的 AI 硬件?”。
技術(shù)展示環(huán)節(jié)更是亮點頻現(xiàn),包括首個在 Android 智能手機上運行的大語言和視覺助理大模型(LLaVA)、驍龍 X Elite 終端上的剪映 AI 視頻編輯功能、第三代驍龍 8 賦能 Android 智能手機帶來創(chuàng)新終端側(cè)生成式 AI 體驗等等。
這一系列技術(shù)展示,將是高通公司在推動終端側(cè) AI 技術(shù)邊界拓展與行業(yè)生態(tài)合作方面的集中展現(xiàn),也是對未來智能科技發(fā)展趨勢的一次生動預演,相當值得期待了。
當下,生成式 AI 已經(jīng)成為行業(yè)炙手可熱的話題,特別是隨著生成式 AI 技術(shù)在全球數(shù)以億計的終端中的大規(guī)模應用,以終端側(cè)為主旋律的生成式 AI 浪潮已然到來,而引領這一變革的核心力量,正是高通。
高通作為 AI 行業(yè)變革的賦能者,已經(jīng)從底層芯片、到軟硬件生態(tài)建設,以及應用的落地,都做足了準備,賦能引領行業(yè)創(chuàng)新。
比如在標準制定上,去年,高通發(fā)布了《混合 AI 是 AI 的未來》白皮書,明確指出云端與智能手機、汽車、個人電腦及物聯(lián)網(wǎng)終端的協(xié)同工作,將促進更強大、更高效且高度優(yōu)化的 AI 發(fā)展,這是實現(xiàn) AI 普惠的必由之路。今年,高通又推出了《通過 NPU 和異構(gòu)計算開啟終端側(cè)生成式 AI》白皮書,深入解析了 Hexagon NPU 為核心的異構(gòu)計算技術(shù),并探討了如何利用這些技術(shù),在生成式 AI 需求激增的背景下,為終端側(cè)帶來豐富多樣的生成式 AI 應用場景。
再比如在底層芯片方面,早在 2015 年,高通就在驍龍 820 平臺上集成了首個 AI 引擎;在今天的第三代驍龍 8 上,高通將高性能 AI 注入整個平臺系統(tǒng),采用面向生成式 AI 應用重新設計的 Hexagon NPU,夠在終端側(cè)運行高達 100 億參數(shù)的模型,無論是首個 token 的生成速度還是每秒生成 token 的速率,都處在業(yè)界領先水平。例如在生成式 AI 語言理解模型 MobileBERT 上,第三代驍龍 8 的表現(xiàn)比競品 A 高 17%,在魯大師 AIMark V4.3、安兔兔這些 AI 基準測試的總分方面,第三代驍龍 8 也是遠超競品。
更重要的是,高通還將大語言模型完整的搬到了端側(cè)運行,賦能眾多的 AI 手機。比如包括三星、小米、榮耀、OPPO 、vivo 等在內(nèi)的手機廠商,其發(fā)布的驍龍 8 Gen3 手機,均已具備了在端側(cè)運行生成式 AI 的能力。
借助第三代驍龍 8 的 AI 能力,此次展會,高通也將展示首個在 Android 智能手機上運行的大語言和視覺助理大模型(LLaVA)。
除了移動端,在 AI PC 領域,高通還帶來了驍龍 X Elite 和驍龍 X Plus PC 平臺,凝聚了高通在通用處理和 AI 異構(gòu)計算多年積累的技術(shù)成果,其集成的 NPU 更是具有 45TOPS 的恐怖算力,這是 PC 平臺中最強大的 NPU。
當下,微軟 Surface 系列新品,以及聯(lián)想、戴爾、惠普、宏碁、華碩等品牌,也都已經(jīng)或即將發(fā)布搭載驍龍 X 系列平臺的 Windows 11 AI PC 新品。在這次展會上,高通就將展示驍龍 X Elite 終端上的剪映 AI 視頻編輯功能,可以期待,無論是消費者還是企業(yè)用戶,借助驍龍 X Elite 終端,都能夠全天候利用 AI 增強的終端側(cè)工具來提升生產(chǎn)力、創(chuàng)造力和協(xié)作能力。
不僅如此,高通還積極投身 AI PC 生態(tài)的建設,讓開發(fā)者能夠獲取基于異構(gòu)計算的 AI 加速,高通打造了 AI 軟件棧(Qualcomm AI Stack)。它能夠支持目前所有的主流 AI 框架,包括 TensorFlow、PyTorch、ONNX、Keras;它還支持所有主流的 AI runtime,包括 DirectML、TFLite、ONNX Runtime、ExecuTorch,以及支持不同的編譯器、數(shù)學庫等 AI 工具。
就在 6 月份,高通還針對其 45 TOPS 的 Hexagon NPU 開發(fā)、優(yōu)化并驗證了 AI 模型。注冊開發(fā)者可以前往高通的 AI Hub 獲取這些預訓練模型,快速構(gòu)建人工智能應用。據(jù)介紹,高通 AI Hub 提供了各種針對驍龍 X 系列處理器的邊緣設備優(yōu)化的 AI 模型,涵蓋圖像分類、對象檢測、語義分割和生成式 AI 等領域。此外,AI Hub 還提供了便捷的工具和文檔,幫助開發(fā)者輕松地在視覺、音頻和語音等應用中部署 AI 模型。
其所做的這一切,正如高通公司 AI 產(chǎn)品技術(shù)中國區(qū)負責人萬衛(wèi)星所言:
高通具備頂尖的異構(gòu)計算能力,使 AI 能力能夠貫穿整個 SoC,將 CPU、GPU、NPU 和高通傳感器中樞的能力都充分釋放給應用開發(fā)者。
可以說,驍龍 X Elite / X Plus PC 平臺的推出,如同為 AI PC 的變革性體驗打下了扎實的地基,而借助驍龍 X Elite 平臺強大 AI 能力和高通在生態(tài)建設上的開放策略,接下來會有更多 AI 生成式應用的涌現(xiàn)。
寫在最后
在剛剛結(jié)束的 MWC 上海展會上,高通 AI 產(chǎn)品技術(shù)中國區(qū)負責人萬衛(wèi)星發(fā)表了“終端側(cè)生成式 AI 的未來”的主題演講,他提到,憑借面向生成式 AI 全新設計的 NPU 和異構(gòu)計算系統(tǒng),高通正為終端側(cè) AI 規(guī)?;瘮U展提供了有力支持。此外,高通還致力于構(gòu)建完善的 AI 生態(tài)系統(tǒng),不斷推動 AI 技術(shù)的創(chuàng)新與發(fā)展。
利用領先的邊緣 AI、高性能低功耗計算和無與倫比的連接,高通正不斷推動終端側(cè) AI 的規(guī)?;瘮U展,讓智能計算無處不在。隨著 WAIC(世界人工智能大會)的到來,可以期待,終端側(cè) AI 領導者的高通還將帶來更多新的驚喜。
7 月 4 日-6 日,WAIC,我們現(xiàn)場見!
(本文轉(zhuǎn)載自IT之家)
關(guān)鍵詞:
相關(guān)閱讀
-
終端側(cè)生成式AI更多驚喜?高通將在WAIC...
2024 年 7 月 4 日,備受矚目的世界人工智能大會暨人工智能全 -
海蘭SG70IQ-240電競顯示器 穿越虛擬與...
在電競的浩瀚星空中,每一位玩家都是追逐勝利光芒的勇士。而我,作 -
7月10日聚焦前沿科技 三星Galaxy全球新...
近日,智能手機行業(yè)迎來一則重磅消息,三星Galaxy全球新品發(fā)布會即 -
杰克打造“雙王”組合,將徹底顛覆傳統(tǒng)...
近年來,紡織制衣行業(yè)都面臨著產(chǎn)能過剩和勞動力成本上漲而導致的市 -
5大亮點劇透 | 蒙太奇藝術(shù)涂料邀您相...
【“讓美好生長”不僅是一種口號,更是蒙太奇基于客戶需求的情緒價值... -
2024 MWC上海 | 思特奇:釋放數(shù)據(jù)要...
數(shù)智時代,以數(shù)據(jù)要素、人工智能為代表的創(chuàng)新技術(shù)正在為各行各業(yè)帶來