HyperThought如何突破LLM的單一模態限制？

HyperThought 如何突破 LLM 的單一模態限制

半導體 IP 供應商 Skymizer 推出最新一代 AI 加速器 IP 產品「HyperThought」，旨在邊緣裝置與 AIoT 中實現即時、多模態與 AI 代理應用。相較於 Skymizer 2024 年推出的專為大型語言模型 (LLM) 設計的「EdgeThought」，「HyperThought」進一步突破了 LLM 的單一模態限制，能夠即時處理文字以外的語音、影像等多模態 AI 模型。

實現 AI 落地：低成本、低功耗、高彈性與高資安

Skymizer 執行長賴俊豪舉例，自助送餐機器人若只具備影像辨識能力，透過運用「HyperThought」可進一步增加點餐功能，成為真正的機器人服務生。其他應用場景包括自動駕駛、AI PC、智慧家電、會議紀錄等同時涉及文字、聲音與影像的領域。Skymizer 創辦人暨技術長唐文力提到，多模態 AI 要進入邊緣裝置必須克服低成本、低功耗、高彈性與高資安需求，而 Skymizer 的核心技術為長短期記憶壓縮技術，能有效提升 AI 推論效率。

長短期記憶壓縮技術提升 AI 推論效率

Skymizer 的技術能將短期記憶進行壓縮，使 AI 在對話過程中不會「斷片」，同時降低計算資源的消耗。預計「HyperThought」將於第三季與客戶合作量產晶片。