Skymizer的EdgeThought如何讓冰箱到車子都變成AI智慧硬體?
Answer
Skymizer的EdgeThought如何將AI導入各類硬體裝置?
Skymizer推出AI晶片IP產品EdgeThought,旨在實現大型語言模型(LLM)的邊緣運算,使各式硬體,從冰箱到汽車,都能具備AI智慧功能。如同蘋果將Siri從應用程式轉變為內建的AI系統,Skymizer希望讓使用者擁有類似的體驗。
Skymizer的核心技術與優勢
Skymizer以AI晶片編譯器起家,負責翻譯軟體程式語言與硬體機械語言,藉此提升電腦運算效能。由於程式語言和硬體架構複雜多樣,高效能編譯器的開發並不容易。Skymizer的創辦人唐文力和張秉浩分別是Marvell迭代編譯器的原始作者、聯發科MClinker的架構師,以及ARM軟體版本虛擬機的貢獻者之一,具備深厚的技術實力。
EdgeThought的技術基礎與應用
Skymizer行銷總監魏國章表示,隨著生成式AI浪潮的興起,Skymizer利用其編譯器經驗及自行研發的LPU(語言處理器),成功將LLM縮小且不失精準度,並以邊緣運算的方式置入各種硬體裝置,使LLM能與硬體設備無縫溝通。技術長唐文力指出,Skymizer的LPU運算效果可提升8.9%~20%,而精準度僅減少1%~3.4%左右,充分展現了EdgeThought的技術實力。