智能制造网APP
智能制造网手机站
智能制造网小程序
智能制造网官微
智能制造网服务号
智能控制
机器人
仪器仪表
物联网
3D打印
工业软件
回放
回放
品牌
威格士/VICKERS
人工智能技术正以前所未有的浪潮之势，引领新一轮科技革命和产业变革，深度重塑经济社会发展格局。2025年8月，国务院发布《关于深入实施“人工智能+”行动的意见》，系统推动人工智能在全社会的普及应用与深度融合，逐步形成“以创新带应用、以应用促创新”的良性发展飞轮。技术跃迁释放价值红利的同时带来风险挑战，只有当“安全内核”嵌入“发展飞轮”，产业才能实现高质量和可持续发展。
近日，中国信息通信研究院(简称“中国信通院”)正式发布《人工智能安全治理研究报告(2025年)——推进人工智能安全治理产业实践框架》。
报告深入分析全球人工智能安全治理逐步迈向体系化、实操化趋势，认识到各主要经济体持续推进治理框架落地，如何在产业层面构建务实有效的安全治理举措已成为各方关注的核心议题。本报告立足本土产业实践，深入剖析当前面临的安全治理挑战，提出“两横三纵”的人工智能安全治理产业实践框架，旨在为产业提供一套系统性、可落地、动态化的安全治理体系，推动人工智能释放更大动能。
报告核心观点
1. 人工智能技术发展带来风险态势不断演化，需树立动态的安全观。人工智能技术应用的安全风险突破了传统安全边界带来新态势：一是风险形态演变快，补丁式防护思路难适用；二是风险识别难度高，应用场景风险指标难量化；三是模型能力进展快，对抗已知漏洞迈向应对未知风险。由于人工智能技术和应用具有不可预见性，当前人类对于人工智能安全风险认知存在局限性，需要建立动态演化的人工智能安全观。
2. 全球各方多措并举推进人工智能安全治理务实行动。国际合作层面，全球加强安全治理深化交流，联合国、国际电信联盟等主要国际组织加速推进治理规则完善，多国协同推进全球安全治理实践，产业界、学术界积极开展对话交流凝聚治理共识。监管政策层面，各国推动安全治理体系化落地，各主要经济体实施差异化监管方案，配套建立治理平台，开展治理行动，推动形成治理实效。产业实践层面，构建安全治理务实举措成为核心议题，通过形成自律共识、开展测试评估、建立互通渠道等，形成保障产业发展的良性生态。
3. 人工智能产业面临技术、应用、管理、协同共治的多重挑战。一是技术发展扩大内生安全新敞口。模型固有特性诱发安全可控复杂难题，内生安全形势愈发严峻。与传统网络安全相比，人工智能安全攻防非对称性加剧，技术安全凸显“易攻难守”新形势。二是应用延展引发衍生安全新难题。模型应用既带来应用形态迭代、开源生态滥用、软件供应链漏洞等外部性安全难题，也引发个人、群体、社会多层面次生风险传导放大。三是组织管理体系构建面临新卡点。人工智能技术的黑箱属性、应用的不确定性和产业链条的多样性愈发凸显，给人工智能模型研发、系统部署、应用运行等不同组织主体以及同时拥有多重身份的组织主体带来管理挑战。四是多元共治协同机制尚待健全完善。当前行业在核心治理环节普遍存在共建合力不足的问题，统一标准尚未形成、协同机制仍需完善。
4. 报告提出“两横三纵”的人工智能安全治理产业实践框架。面对人工智能内生安全与应用风险交织泛化的复杂挑战，传统单点、静态的防护体系已难以为继，产业界亟需一个系统性的安全治理落实框架。为此，报告立足本土产业实践，提出“两横三纵”的人工智能安全治理产业实践框架。企业内部层面，人工智能管理体系建设应结合技术发展态势，深度融合“管理层”的制度牵引作用与“技术层”的能力支撑作用，聚焦实际应用场景的应用风险，建立覆盖人工智能系统全生命周期的动态安全合规和风险管理方案，系统构建“开发侧”“部署侧”与“应用侧”安全关，实现从模型研发、系统部署到场景应用的全链条防护。此外，产业界需加强多元共治，将分散的治理努力汇聚成强大的系统屏障。
5. 多领域勾勒人工智能安全治理从原则框架走向行业纵深实施的清晰路径。金融行业探索构建基于智能程度与金融场景的分级管控体系，通过安全护栏、算法修正与本地化部署，筑牢风险防线。医疗行业积极应对模型幻觉等核心挑战，通过构建高价值应用、高知识密度、高技术含量数据集，保障输出的准确性与安全性。交通行业聚焦智能座舱与自动驾驶，积极探索端到端安全测试与仿真验证体系。能源行业在关键领域推动人工智能安全内生设计理念落地，推行“可解释AI+专家规则”双校验机制，确保工业级可靠。通信行业创新实践“以技治技”，通过大小模型协同、安全知识赋能与全生命周期管控，构建主动防御体系。
浙公网安备 33010602000006号
智能制造网APP
智能制造网小程序
微信公众号
