中国信通院敖立：筑牢伦理基石，赋能创新发展——深入解读《人工智能科技伦理审查与服务办法(试行)》

 

　　引言
 

　　科技创新，伦理先行。科技伦理是人类社会伦理价值在科技领域的延伸与拓展，是开展科学研究、技术开发等科技活动需遵循的价值理念与行为规范。习近平总书记高度重视科技伦理建设，2021年12月17日，在主持中央全面深化改革委员会第二十三次会议时强调：“科技伦理是科技活动必须遵守的价值准则，要坚持增进人类福祉、尊重生命权利、公平公正、合理控制风险、保持公开透明的原则，健全多方参与、协同共治的治理体制机制，塑造科技向善的文化理念和保障机制。”2023年10月，习近平总书记提出《全球人工智能治理倡议》，明确“坚持伦理先行，建立并完善人工智能科技伦理准则、规范及问责机制，形成人工智能科技伦理指南，建立科技伦理审查和监管制度，明确人工智能相关主体的责任和权力边界”。这些重要论述深刻阐明了科技伦理对保障科技安全的意义，为加强科技伦理治理提供了根本遵循。
 

　　近日，工业和信息化部等十部门联合印发《人工智能科技伦理审查与服务办法(试行)》(以下简称《办法》)，对人工智能科技伦理审查与服务提出明确要求，这是深入贯彻习近平总书记重要论述，促进人工智能产业科技创新高质量发展和高水平安全良性互动的重要举措。
 

　　一、科技伦理引导人工智能健康有序发展
 

　　近年来，在技术创新与商业应用的双轮驱动下，人工智能正加速与实体经济深度融合。其不仅在互联网等数字原生领域实现规模化应用，还逐步渗透到金融、医疗、交通等行业，在重要场景中的赋能成效显著。然而，随着技术快速演进与应用领域拓展，人工智能带来的算法歧视、深度伪造等伦理问题愈发凸显。
 

　　人工智能科技伦理治理是引导科技创新方向的 “指南针”。一方面，它能引导企业开展符合伦理要求的技术创新，推动研发团队将伦理要求贯穿于人工智能研发应用全过程，避免单纯追求技术性能而忽视潜在伦理风险；另一方面，能有效促进伦理相关技术研发，如可解释性人工智能技术、隐私增强技术等。此类技术突破不仅有助于解决当前人工智能面临的伦理困境，还能开拓新的技术应用领域。
 

　　人工智能科技伦理治理是促进产业健康发展的 “方向盘”。通过治理，能有效解决人工智能应用中的伦理问题，如隐私保护、偏见歧视等，增强公众对人工智能的信任，为其广泛应用奠定坚实基础。以医疗领域为例，符合伦理要求的人工智能辅助诊断系统能更好地协助医生进行疾病诊断与治疗方案制定，提高医疗服务的准确性与效率，推动人工智能在医疗行业的深度融合，开拓庞大市场。同时，伦理治理能规范产业行为，降低伦理风险，为产业营造良好发展环境，促进其长期稳定发展。
 

　　人工智能科技伦理治理是提升国家竞争力的 “助推器”。当前，人工智能科技伦理治理已成为全球关注焦点。联合国教科文组织于2021年11月发布《人工智能科技伦理问题建议书》，欧盟、美国、日本等国家和地区也通过建立人工智能专家委员会等方式，推动负责任的人工智能技术发展。良好的伦理治理环境，一方面能吸引更多国际合作伙伴，促进产业合作与交流；另一方面，能在全球范围内树立我国人工智能企业负责任的形象，助力相关产品和服务获得国际市场认可，提升国际竞争力。
 

　　二、服务人工智能行业发展，聚焦科技伦理治理重点问题
 

　　（一）加强科技伦理服务，支持促进人工智能科技伦理发展
 

　　与《科技伦理审查办法(试行)》相比，《办法》增设第二章 “服务与促进”，从标准建设、促进服务、鼓励创新、宣传教育、人才培养五个方面提出举措，赋能产业发展。当前，全球人工智能科技伦理治理已进入快车道，治理重点从伦理原则转向落地实施，推动治理技术化、工程化、标准化成为关键。我国人工智能科技伦理治理面临技术手段待突破、治理缺乏统一标准、工具匮乏等挑战，需通过鼓励技术创新、制定伦理标准、推进伦理服务等方式应对。此外，人工智能科技伦理治理不仅是技术问题，更是社会问题，因此通过宣传教育提升公众伦理素养、通过人才培养加强科研人员伦理意识，是防范伦理风险的重要举措。
 

　　（二）立足人工智能特点，促进人工智能科技伦理审查落地
 

　　《科技伦理审查办法(试行)》是覆盖各领域科技伦理审查的综合性规定，对审查基本程序、标准、条件等提出统一要求。与生命科学、医学相比，人工智能科技伦理因技术特征具有独有特点。因此，《办法》在遵循通用办法基础上，充分考虑人工智能特点，在适用范围、申请材料、审查重点、简易程序适用等方面进一步完善细化，以更适用于人工智能科技伦理审查。例如，《办法》第十五条规定，人工智能科技伦理审查除关注科技人员资质、积极作用、风险控制方案等常规内容外，还需遵守增进人类福祉、公平公正、可控可信、透明可解释、责任可追溯、隐私保护等人工智能科技伦理要求。
 

　　（三）优化伦理治理，尽量降低创新主体伦理管理成本
 

　　考虑到中小企业难以成立科技伦理委员会的现实，《办法》提出建设专业性人工智能科技伦理服务中心(以下简称“服务中心”)。第十一条对 “服务中心” 的设立、业务、要求进行细化，明确其可接受中小企业委托，提供伦理服务。为避免重复监管，《办法》第二十六条规定了与其他监管措施的衔接。此前，网信办发布的《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》等文件，已将符合科技伦理要求作为审批条件或监管内容，针对此类人工智能科技活动，可不再开展专家复核，大幅降低了企业合规成本。
 

　　三、不断完善人工智能治理生态，筑牢人工智能产业健康发展根基
 

　　当前，人工智能科技伦理治理仍面临不少现实挑战。一是技术迭代快于治理规则完善，新场景、新应用不断涌现，伦理风险具有隐蔽性、突发性、不可预测性，现有规范难以全面覆盖。二是伦理原则落地难，企业面临产品性能和伦理要求的平衡，管理成本高。三是治理支撑体系尚不完善，缺乏国际权威的第三方伦理测评标准和认证体系。未来，应以《办法》出台为契机，坚持发展和安全并重，不断完善治理生态，推动人工智能产业高质量和可持续发展。
 

　　（一）推行敏捷治理，以柔性监管护航技术创新
 

　　一是健全政府与创新主体常态化沟通协作机制，建立伦理风险信息共享、协同处置的工作格局。二是鼓励企业创新，在守住安全底线的前提下，允许企业在尽到合理监管义务时容错纠错。三是建立技术发展与伦理风险动态监测机制，及时完善政策规范，实现治理与技术发展同频共振。
 

　　（二）深化协同共治，以多元参与筑牢责任链条
 

　　一是完善政府、企业、科研机构、科技社团组织、社会公众等共同参与的多元治理体系，明确各方定位与职责。二是健全“政府引导 + 企业自律 + 第三方支撑” 的协同运行模式，将伦理要求嵌入人工智能全生命周期。三是加强科技伦理科普与培训，通过多种渠道、更加丰富的传播方式，营造全社会共同关注、共同参与、共同监督的良好生态。
 

　　（三）夯实基础支撑，以标准工具提升治理效能
 

　　一是加快出台人工智能科技伦理风险评估、审查程序、审查委员会等配套标准，为创新主体提供可操作、可落地的规范指引。二是搭建科技伦理公共服务平台，推进科技伦理服务中心建设，提供专业的伦理审查、教育培训、专家咨询等服务，降低中小企业治理成本。三是加强治理技术和工具研发，推动构建人工智能伦理治理开源社区，推动治理工具、数据集开源开放，以技术赋能提升治理成效。
 

　　四、结语
 

　　中国信息通信研究院作为工业和信息化领域科技伦理专家委员会秘书处单位，将在工业和信息化部的指导下，充分发挥在人工智能政策研究、标准制定、技术评测等方面的优势，深化科技伦理治理支撑，保障《办法》有效落实。一是搭建人工智能科技伦理产业服务平台。开展科技伦理宣传教育，开发人工智能科技伦理审查、测评工具，促进治理工具开源开放。二是探索成立人工智能科技伦理服务中心。接受相关部门委托，承担人工智能科技伦理专家复核工作，并为企业、高校、科研院所等单位提供科技伦理审查、咨询、培训等服务。三是持续推动人工智能科技伦理标准制定工作。在工业和信息化部人工智能标准化技术委员会下，持续推动人工智能科技伦理风险评估、科技伦理委员会、科技伦理服务中心、科技伦理审查程序、科技伦理审查人员技术技能要求等标准制定工作。四是积极开展人工智能科技伦理治理国际交流合作。加强与国际研究机构的合作，依托国际人工智能领域的高端峰会等组织研讨活动，宣传人工智能科技伦理治理理念。