EdgeThought的技術基礎為何，如何縮小LLM又不失精準度？

EdgeThought 的技術基礎

EdgeThought 的技術基礎建立在 Skymizer 深厚的編譯器技術之上，該公司最初以 AI 晶片編譯器起家，專長於軟體程式語言與硬體機械語言之間的翻譯，從而提升電腦運算效能。Skymizer 的技術長唐文力指出，EdgeThought 的技術核心在於其 LPU（語言處理器），該處理器能夠在提升運算效果的同時，將精準度的損失控制在極低的範圍內，具體而言，LPU 的運算效果可以提升 8.9% 至 20%，但精準度僅減少約 1% 至 3.4%。

LLM 縮小與精準度維持

Skymizer 透過其 LPU，成功將大型語言模型（LLM）縮小，並以邊緣運算的方式放入各種硬體裝置中，實現 LLM 與硬體設備的無縫溝通。Skymizer 行銷總監魏國章表示，公司在編譯器領域的長期經驗以及 LPU 的研發，使其具備了將 LLM 縮小而不失精準度的能力，使冰箱到汽車等各種硬體都能夠瞬間成為 AI 智慧硬體。

Skymizer 的技術背景

Skymizer 之所以能夠在新創公司中脫穎而出，挑戰聯發科、晶心科技、華為等大型企業，得益於創辦人唐文力與張秉浩的技術實力。兩人分別是 Marvell 迭代編譯器的原始作者、聯發科 MClinker 的架構師，以及 ARM 軟體版本虛擬機的貢獻者之一。此外，Skymizer 還獲得了政府國發基金、行政院科技部、聯訊、華揚，以及 Intel 前副總裁王文漢等人的投資。