韓國研發超低電耗AI半導體技術
據外國媒體報導,韓國科學技術資訊通訊部於3月6日宣布,韓國研究團隊成功研發出一項革命性的人工智慧(AI)半導體核心技術,稱為「互補型轉換器」(Complementary-Transformer)。這項技術在減少能源消耗的同時,能以超高速處理大語言模型(LLM)。
韓國研發超低電耗AI半導體技術,革新大語言模型的速度與效能
互補型轉換器是由韓國科學技術院(KAIST)PIM半導體研究中心和人工智慧半導體研究生院的柳會峻教授研究小組,利用三星電子28奈米製程開發而成。這項技術結合了脈衝神經網路(SNN)和深度神經網路(DNN)的特性,以模仿人腦結構和功能,實現了高效的轉換功能。轉換器本身是一種神經網絡,能夠學習文章內詞彙之間的關係,這是ChatGPT的原創技術之一。
脈衝神經網路和深度神經網路的互補特性 (韓國科學技術資訊通訊部供圖):
以往的大語言模型(如GPT)需要大量的圖片處理器(GPU)和高達250瓦的電耗才能運作。然而,這個研究小組成功地在一個僅有4.5毫米×4.5毫米的小型人工智能半導體中,以超低的400毫瓦電耗實現了超高速的運算。
這項研究成果在上個月的國際固態電路會議(ISSCC)上公開展示。研究小組表示,他們將神經形態計算技術的準確度提升至與卷積神經網路(CNN)相同水平,并運用了可適用於多個領域的互補型深度神經網路(C-DNN)。
AI半導體發展方向 (韓國科學技術資訊通訊部供圖):
科技部介紹稱,研究小組將互補型深度神經網路技術應用於大語言模型,驗證了超低電耗、高性能的端側人工智慧(On-device AI)的可行性。這是全球首次將人工智慧半導體技術應用於實際應用中,而不僅僅停留在理論階段。
根據研究團隊介紹,互補型轉換器所使用的電力僅為NVIDIA A100圖片處理器的625分之1,使用GPT-2模型生成語言只需0.4秒,使用T5翻譯語言只需0.2秒。研究團隊計劃將來將神經形態計算技術擴展至更多應用領域。
[完]
對於以上消息,各位298電腦讀者又怎看呢?
歡迎到我們的<<討論區>>分享你的意見。
另外,如果你有什麼新的資訊想讓廣大的電腦愛好者知道,也可以主動向我們編輯部電腦記者報料,報料電郵:info@wanchai298.com
灣仔298電腦資訊網
免費網上電腦雜誌,電腦IT人集中地!
網址:www.wanchai298.com