电报资讯
记者提问
专家发布
专家库
APP下载
点击登录
2025年02月18日 16:34:57
【DeepSeek推出NSA 用于超快速的长上下文训练和推理】
蓝鲸新闻2月18日电,DeepSeek称,NSA是一种与硬件一致且本机可训练的稀疏注意力机制,用于超快速的长上下文训练和推理。通过针对现代硬件的优化设计,NSA加快了推理速度,同时降低了预训练成本,而不会影响性能。在一般基准测试、长上下文任务和基于指令的推理上,它的表现与完全注意力模型相当甚至更好。
阅 11.25W+
特别声明:文章内容仅供参考,不构成投资建议。投资者据此操作风险自担。
推荐话题
商讯
查看更多