Transformer模型如何推動人工智慧領域的典範轉移？

Transformer 模型如何引領人工智慧典範轉移

2017 年 Google 發表的《Attention Is All You Need》論文，介紹了 Transformer 語言模型，奠定了現今人工智慧浪潮的基礎。Transformer 模型是諸如 ChatGPT 和 GPT 等大型語言模型的關鍵架構，徹底改變了 AI 領域的發展方向。

Transformer 模型的核心突破

Transformer 模型最重要的突破在於其「平行化」能力，它允許同步執行多項處理任務，從而充分利用計算資源。史丹佛大學的研究人員在 2021 年的一篇論文中指出，Transformer 模型不僅推動了人工智慧領域的典範轉移，還擴大了人們對人工智慧可能性的想像。透過強大的神經網路，Transformer 模型能夠學習文字和圖像資料之間的連續關係和深層含義，使 AI 更趨近於人類的理解能力。

Transformer 模型作者的後續發展

開發 Transformer 模型的工程師們紛紛離開 Google，成為新一代矽谷創業家。撰寫《Attention Is All You Need》論文的八位工程師和科技專家幾乎都離開了 Google，並創立了新創公司，這些公司的募資總金額已達到 10 億美元，在矽谷產生了舉足輕重的影響力。其中，Illia Polosukhin 離開 Google 後，創辦了去中心化平台 NEAR Protocol，旨在創建一個基於區塊鏈的去中心化平台，讓大眾可以自由開發應用程式，進一步推動了 AI 技術的創新與應用。