粉絲團
高通發表在裝置上實現生成式AI革新的最新技術，涵蓋智慧型手機、Windows PC、汽車和穿戴式裝置。（圖／高通）
引領全球行動通訊科技風向球的MWC 2024 世界行動通訊大展，於今（26）日起至2月29日在西班牙巴塞隆納盛大舉辦。瞄準當紅的生成式AI人工智慧技術，高通於MWC發表在即將推出的新一代安卓智慧型手機、Windows PC、汽車和穿戴式裝置上的最新生成式AI功能，致力於促成行動裝置上AI的大規模商業化，透過橫跨各領域的多樣化AI應用與高尖端的技術展示，打造智慧運算無所不在的使用者體驗。
特別一提的是，高通旗下的 Qualcomm AI Research 研究團隊，在今年MWC上帶來了首次在Android 智慧型手機上運行的兩個最新模型，分別為展現大型語言和視覺助理的LLaVA（Large Language and Vision Assistant，）全新多模態模型，以及在Android智慧型手機上運行的LoRA（Low Rank Adaptation，）低秩調整模型。
聚焦於Windows PC 裝置上所展示的大型語言LMM ，則是使用超過70億個參數為全球首見。高通表示此模型可以在Windows PC 裝置上接受文字和音訊輸入（例如：音樂、交通聲音等），並生成有關此段音訊的多輪對話。
高通展示在安卓智慧手機、與Windows PC裝置上的最新AI研究進展。
高通指出，首次運行於Android 智慧型手機上LLaVA全新多模態模型，具有超過70億個參數，可以接受包括文字和圖像在內的多種類型資料輸入，並能與 AI 助理生成關於圖像的多輪對話。優勢特色在於能以反應靈敏的代碼（token）速率運行，以增強隱私性、可靠度、個人化和成本。以及具有語言理解和視覺理解能力，可支援許多使用案例，例如辨識和討論複雜的視覺模式、物件和場景。
而同樣也是首次運行在Android智慧型手機上的LoRA低秩調整模型，使用分解成較小的矩陣 Stable Diffusion，讓使用者可以根據個人或藝術偏好創造出高品質的客製化圖像。除能減少AI模型的可訓練參數數量，實現更優秀的效率、可擴充性、和客製化的裝置上生成式 AI使用案例。此外，亦可為不同的藝術風格微調語言視覺模型（LVM）。另，LoRA 還可廣泛運用於如大型語言模型等各種客製化的 AI 模型，例如打造量身定製的個人助理、改善語言翻譯等更多應用。
高通尖端的 Qualcomm AI Hub技術，為Snapdragon 和高通平台提供超過75個最佳化的AI模型，訴求能為開發者縮短應用程式的開發與上市時間。（圖／高通）
此外，為促使AI更為普及化，高通面向開發者人員推出了全新的「Qualcomm AI Hub」，包含一個預先最佳化的AI模型庫，可在搭載Snapdragon和高通平台的裝置上無縫部署。
「Qualcomm AI Hub」AI模型庫提供包括Whisper、ControlNet、Stable Diffusion和Baichuan 7B在內，超過75個熱門的AI和生成式AI模型供開發者使用。這些模型都已針對裝置上AI的出色效能、更低的記憶體利用率和更好的能源效率進行了最佳化，適用於不同的外形規格，並封裝在各種運行時間環境中。在充分利用高通AI引擎（NPU、CPU 和 GPU）中所有核心的硬體加速，使推論速度快4倍。
高通尖端的 Qualcomm AI Hub技術，為Snapdragon 和高通平台提供超過75個最佳化的AI模型，訴求能為開發者縮短應用程式的開發與上市時間。（圖／高通）
開發者藉由「Qualcomm AI Hub」模型庫，能將這些生成式AI模型無縫整合至其應用程式中，縮短上市時間，並充分發揮實現裝置上AI所帶來的優勢，包括即時性、可靠性、隱私性、個人化和節省成本等。預先最佳化的模型現已於Qualcomm AI Hub、GitHub和Hugging Face上提供。
除搭載Snapdragon和高通平台適用之外，「Qualcomm AI Hub」模型庫會持續將新模型加入模型庫，除預計未來也將會支援其他平台和作業系統。
你可能也想看
