DeepSeek 推出 NSA，用於超快速的長上下文訓練和推理

BTCC / BTCC Square / TechFlowPost /

Author:

發佈時間:

2025-02-18 16:50:12

深潮 TechFlow 消息，2 月 18 日，據金十報導，Deepseek推出NSA。 DeepSeek稱，NSA是一種與硬件一致且本機可訓練的稀疏注意力機制，用於超快速的長上下文訓練和推理。通過針對現代硬件的優化設計，NSA加快了推理速度，同時降低了預訓練成本，而不會影響性能。在一般基準測試、長上下文任務和基於指令的推理上，它的表現與完全注意力模型相當甚至更好。

來源:

登入回覆

登入分享您的看法

前一篇

<< 以太坊客戶端 Geth 發布緊急更新，提醒驗證者升級以防資金損失 >>

本站轉載文章皆來自公開網絡，部分由AI整理，僅為傳遞產業訊息，不代表BTCC立場。原創權益歸原作者所有。如發現版權問題，請透過[email protected]聯絡我們，我們將依法處理。 BTCC不對資訊準確性、時效性及完整性作任何保證，不承擔因依賴資訊而產生的任何責任。內容僅供參考，不構成投資、法律或商業建議。