耐能發表AI晶片KL730 支援輕量級GPT大型語言模型

邊緣 AI 晶片新創公司耐能智慧今日(8/15)發表旗下最新款 AI 晶片 KL730,可以提供每秒 0.35 - 4 tera 有效計算能力。KL730 晶片整合了車規級 NPU 和影像訊號處理器(ISP),並將安全而低耗能的 AI 能力賦能到邊緣伺服器、智慧家居及汽車輔助駕駛系統等各類應用場景中,預計在不久後即可提供樣品給設備製造商。

耐能發表AI晶片KL730 支援輕量級GPT大型語言模型

作為耐能最新款晶片,KL730 從設計之初就以實現 AI 功能為目的,並更新了多項節能及安全的技術創新。該晶片具備多通道介面,可無縫接入圖像、影片、聲音和毫米波等各種數位訊號,支持各產業的人工智慧應用開發。耐能指出,KL730 在效能方面取得了極大的進步,效能比相較於過往耐能的晶片提升 3~4 倍,且比主要產業同等產品提高了 150~200%。

KL730 具有獨特的定位,可以改變 AIoT 領域的安全性,從而使用戶能夠部分或完全離線地在終端運行 GPT 模型。該晶片配合耐能的私有安全邊緣 AI 網路 KNEO,讓 AI 運行在用戶的邊緣設備上,從而讓他們更好地保護資料隱私。從企業伺服器解決方案到智慧駕駛車輛再到以 AI 驅動的醫療設備,所增加的安全性允許設備之間進行更大的協作,同時保護資料的安全。

耐能發表AI晶片KL730 支援輕量級GPT大型語言模型

耐能智慧創辦人兼執行長劉峻誠表示,運行 AI 功能需要專用 AI 晶片,其體系架構與我們以前瞭解的晶片完全不同。簡單地重新使用相鄰技術(如圖形處理專用的 GPU 晶片),不能很好地勝任這項工作。

劉峻誠提到,KL730 將會是邊緣 AI 的革新者。憑藉其前所未有的效率和對 Transformer 等框架的支持,耐能正在為各行各業提供強大的AI 能力,在極具安全性和保護資料隱私的情況下充分發揮人工智慧的潛力。


Anna Nikova

超過十年媒體工作經驗,經常沉浸於數位世界,關注領域涵蓋 3C 科技、5G 通訊等應用。