疑似Anthropic未釋出AI模型“numbat”原始碼洩露

近日，Hugging Face平臺出現了一個名為“numbat”的機器學習程式碼庫，據稱與Anthropic下一代Mythos級技術有關。洩露資料包含約7.

72 TB的張量資訊，模型架構採用Gated DeltaNet (GDN) 與 Multi-head Latent Attention (MLA) 的混合結構，並使用了包含1224個專家的混合專家（MoE）配置。

分析顯示，該模型處於預訓練中期，尚未進行後訓練最佳化。儘管洩露來源不明，但該程式碼庫已引發AI開發界的廣泛關注和下載，提供了對前沿大模型技術架構的罕見觀察機會。

來源: Hacker News