Nvidia DGX Spark 韌體加密引發效能爭議:Linux 系統推理速度大幅下降
近日,Nvidia DGX Spark 的使用者在技術論壇(如 Hacker News)上反饋了一個令人擔憂的問題:該裝置採用的韌體加密機制導致其在 Linux 系統上執行人工智慧推理任務時,效能出現了顯著下滑。
據初步測試資料統計,推理速度的降幅最高可達 35%。對於高度依賴該裝置進行高效能運算(HPC)和深度學習模型訓練的開發者與研究人員而言,這一效能瓶頸已成為亟待解決的重大障礙。
技術分析指出,該問題主要源於加密韌體層與 Linux 核心之間的互動衝突,這種互動在執行推理工作負載時引入了額外的延遲。在人工智慧與機器學習領域,毫秒級的處理速度往往決定了模型的即時響應能力,因此這一效能損耗對專業使用者影響巨大。
更為棘手的是,由於韌體處於加密狀態,開源社群難以深入診斷其根本原因,也無法通過自定義最佳化手段來繞過這一效能損耗。社群使用者對此表達了強烈不滿,認為 Nvidia 在硬體指令處理的透明度上存在缺失。
許多使用者指出,旨在保護裝置安全的加密措施,反而削弱了裝置的核心效能。目前,社群正呼籲 Nvidia 儘快釋出補丁以最佳化韌體在 Linux 環境下的表現,或者提供更靈活的加密開銷管理方案。
作為一款定位高階的計算裝置,DGX Spark 的此次風波再次凸顯了硬體安全與軟體效能之間的矛盾。在 AI 技術飛速發展的背景下,如何在保障安全的同時確保算力的高效釋放,已成為硬體廠商必須面對的課題。
在 Nvidia 釋出正式解決方案之前,使用者只能在受限的效能環境下勉強執行,這無疑會對時間敏感型 AI 模型的部署造成負面影響。
來源: Hacker News