DeepX 發表新一代 AI 推論晶片：標榜在 5 瓦以下超低功耗下實現百億引數模型高效執行

人工智慧硬體公司 DeepX 近日正式發表了其最新一代的 AI 推論晶片，並宣稱在效能與能源效率上實現了巨大的歷史性飛躍。根據該公司發布的規格資料，這款全新的硬體具備處理高達 1000 億引數規模模型的強大能力，同時其運作功耗竟然小於 5 瓦。

這項技術突破標誌著業界在推動高效能人工智慧能力走向邊緣運算裝置以及電力受限環境的過程中，邁出了極具里程碑意義的一大步。

這款新型晶片架構採用了 LPDDR5X 記憶體以及「記憶體內處理」（Processing-in-Memory, PIM）先進技術，據報實現了高達過去舊版本 6.7 倍的效能提升。

透過專門針對推論任務進行硬體層級的極致最佳化，DeepX 旨在大幅降低部署大型語言模型（LLM）以及其他複雜 AI 工作負載的門檻，讓那些無法取得龐大資料中心基礎設施支援的日常裝置也能享有強大的 AI 運算。

這種對能源效率的極致關注至關重要，因為當前整個產業正努力在日益高漲的 AI 算力需求與電池續航力、散熱管理的物理極限之間尋求微妙的平衡點。

產業分析師正在密切關注這些技術的最新發展，因為能夠在低功耗硬體上順暢執行大規模 AI 模型的能力，將徹底革新機器人學、自動化自主系統以及行動運算領域的應用情境。

DeepX 成功完成這款第二代晶片的晶片試產（tape-out），強烈暗示該公司正以極快的速度推動其專有技術的商業化程序。隨著人工智慧硬體市場持續走向成熟，這類創新技術勢必將在人工智慧如何深度整合至人類日常生活科技中扮演舉足輕重的核心角色。

來源: Hacker News, EE Times