DeepSeek发布NSA研究成果，创始人梁文锋亲自参与

2025-02-20 09:45:33来源：TechWeb.com.cn 关键词：DeepSeek NSA研究成果梁文锋阅读量：25411

导读：NSA是一种专为长文本训练与推理设计的稀疏注意力机制。近日，DeepSeek在海外社交平台上发布了一份技术论文报告，聚焦于NSA机制的研究。

　　近日，人工智能公司DeepSeek在海外社交平台上发布了一份技术论文报告，聚焦于原生稀疏注意力(NSA)机制的研究。该论文引起了业界的广泛关注，不仅因为其研究内容的创新性，更因为论文的署名中包含了意外的人物。

　　论文的第一作者袁景阳是在DeepSeek实习期间完成了这项研究，这一成果的取得对他个人以及DeepSeek来说都是一大喜讯。令人感到惊喜的是，DeepSeek的创始人梁文锋也作为著作者之一出现在论文署名中，排名倒数第二，这一举动在业内引起了不小的讨论。

　　论文摘要指出，DeepSeek团队认识到长上下文建模对于下一代大型语言模型的重要性。然而，现有的标准注意力机制随着序列长度的增加，其高复杂度成为了性能提升的瓶颈。NSA机制的提出，正是为了解决这一问题。

　　NSA通过高效处理长序列的能力，使模型能够直接处理如整本书籍、代码仓库或长轮对话等大规模数据，极大地扩展了大型语言模型在文档分析、代码生成、复杂推理等领域的应用范围。

　　此外，NSA针对现代硬件的优化设计不仅提高了推理速度，还降低了预训练的成本，同时保持了模型的性能。在通用基准测试、长文本任务和基于指令的推理中，NSA的表现均能达到或超越全注意力模型。

　　DeepSeek团队认为，稀疏注意力机制为提高模型效率同时保持能力提供了一条有希望的途径。

　　根据公开资料，NSA是一种专为长文本训练与推理设计的稀疏注意力机制，它通过动态分层稀疏策略等先进技术，对传统AI模型的训练和推理过程进行了显著优化。

上一篇：阿里云加速海外布局，墨西哥数据中心正式开服

下一篇：估值达千亿美元曝DeepSeek首次考虑外部融资

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

DeepSeek研究员陈德里：AI将在10到20年内取代绝大多数人类工作
DeepSeek资深研究员陈德里表示，AI将在10至20年内取代“绝大部分人类工作”，并清晰勾勒出三阶段演进路径，强调这一预测“并非危言耸听”，而是基于AI正从工具向“智慧主体”转变的根本性变革。
DeepSeek人工智能
2025-11-10 10:23:26
AI的终极形态：是万能神谕，还是无数个“专用智能”？
当AI开始主动为我们点击按钮、调试代码、甚至操作整个浏览器时，一场静默的变革正在数字世界蔓延。这个十月，谷歌让AI真正“看见”并操控电脑屏幕，豆包在编程领域化身不知疲倦的专家助手，Open AI试图重塑我们上网的入口，而DeepSeek则选择成为赋能行业的“铸剑人”。从对话到执行，从工具到伙伴，AI正在重新定义与我们共处的方式——这场从“应答”到“行动”的转变，正在重塑我们与技术的未来。
DeepSeek智能体Open AI
2025-10-23 16:30:16
DeepSeek开源3B OCR模型：97%精度刷新长文本压缩极限
该模型核心由DeepEncoder与DeepSeek3B-MoE-A570M解码器构成：DeepEncoder能够在高分辨率输入条件下保持低激活状态，实现高压缩比并生成适量的视觉token；解码器则负责将这些视觉token准确转化为文本信息。
DeepSeek3B OCR模型
2025-10-21 09:29:13
DeepSeek发动节日攻势，有人欢喜有人愁
9月29日晚间，DeepSeek正式发布DeepSeek-V3.2-Exp模型，并宣布API调用价格大幅降低，输入百万Token价格降至2毛钱，输出价格直降75%，被业界称为“价格屠夫”再挥刀。
DeepSeek大数据模型
2025-09-30 10:32:46
DeepSeek如何改变人工智能格局？
人工智能(AI)正在以空前速度发展，部分企业已成为推动行业变革的核心力量。DeepSeek便是其中的佼佼者，其技术不断突破传统界限，并在多个领域设立了新的行业标准。
DeepSeek人工智能
2025-08-13 09:55:47
消息称黄仁勋与DeepSeek创始人梁文锋会面讨论设计新一代芯片
英伟达公司首席执行官黄仁勋在中国访问期间，与DeepSeek创始人梁文锋会面。据报道，黄仁勋与梁文锋讨论了如何设计符合中美两国监管要求的新一代芯片，以满足客户需求。
黄仁勋DeepSeek梁文锋
2025-04-20 10:35:20

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。