人工智能成网络安全前沿面对黑客该如何应对？

2017-08-01 09:47:14来源：网易智能编辑：半城明灭关键词：人工智能网络安全黑客阅读量：30474

导读：人工智能领域正以蓬勃姿态迎来快速发展，对越来越多的行业产生了重要影响。正因如此，我们面临的网路安全问题也愈发严峻，AI领域将成为对抗黑客的前沿。

　　【中国智能制造网智造快讯】人工智能领域正以蓬勃姿态迎来快速发展，对越来越多的行业产生了重要影响。正因如此，我们面临的网路安全问题也愈发严峻，AI领域将成为对抗黑客的前沿。

　　对于那些对网络安全感兴趣的科技专业人士来说，人工智能(AI)和机器学习代表着下一个挑战和机遇并存的前沿。从理论上讲，人工智能平台将强化网络防御——但它们也可以为黑客系统提供新的途径。

　　如果你是一个敏感多疑的系统管理员或网络安全专家，你很容易想象出一个噩梦般的场景：一个超精密的人工智能，从科幻电影中跳出来，通过你的网络防御系统，进而摧毁或腐蚀系统。但负责网络防御的人类可能很快就会有一个强大的盟友：人工智能的设计，目的是防止黑客攻击。

　　致力于深度学习和人工智能的发展的谷歌的一个研究项目，目前正在为数据科学竞赛平台Kaggle举办一场竞赛。目标是：让人工智能研究人员设计攻击和防御机器学习系统，能识别并对图像做出反应。

　　具体来说，谷歌大脑想要技术专业人员设计两种攻击：一种“非针对性的对抗性攻击”，它会轻微修改源图像，使机器学习平台错误地将其分类。另外一种“有针对性的敌对攻击”，将修改后的图像以特定的方式进行分类。它还希望专业人士提出一种防御(“抵御敌对攻击的防御”)来对付这些攻击。

　　修改源图像的关键是什么？如果人工智能平台把修改后的图像视为“真实”，它可能会得出错误的结论。例如，如果一个黑客训练了一个自动驾驶平台，将红色信号灯描述为绿色，那么它就可能导致混乱。(去年，PopularScience发表了一篇广为流传的文章，详细描述了经过修改的图像如何能损坏一个复杂的深度学习网络。)

　　在OpenAI发布的一份研究报告中，将这些“敌对图像”相当于视觉错觉或幻觉。无论如何类比，很明显，这样的攻击是一个大问题，因为有很多科技公司有意利用人工智能来完成关键型应用和功能。开发能够阻止这些(以及其他)攻击的人工智能系统至关重要。

　　如果这类事情让你感兴趣的话，看看Kaggle的竞争对手吧。如果你正以一种职业的身份进入网络安全领域，那么你就要准备好讨论人工智能在未来几年如何改变安全格局，以及公司正在采取哪些措施来应对新的威胁。

　　原标题：为黑客提供新的途径？下一个网络安全前沿：AI

上一篇：日本电信巨头不约而同布局农业物联网

下一篇：中国制造业现状调查积极向前沿领域出击

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

325项行业标准、22项行业标准外文版、55项推荐性国家标准和3项推荐性国家标准外文版计划项目公开征集意见
现将申请立项的《人工智能安全治理安全威胁情报共享技术要求》等325项行业标准、《工业硫酸钴》等22项行业标准外文版、《汽车踏板误踩加速抑制系统技术要求及试验方法》等55项推荐性国家标准和《重型商用车辆燃料消耗量测量方法》等3项推荐性国家标准外文版计划项目予以公示。
人工智能工业硫酸钴
2025-11-14 09:40:15
河南省关于开展2025年国家人工智能产业及赋能新型工业化创新任务揭榜挂帅工作的通知
河南省近日印发《关于开展2025年国家人工智能产业及赋能新型工业化创新任务揭榜挂帅工作的通知》，将发掘培育一批技术创新强、应用落地快、典型示范好的关键技术和产品，加快人工智能与工业深度融合应用，高水平赋能新型工业化。
人工智能新型工业化
2025-11-12 08:57:20
DeepSeek研究员陈德里：AI将在10到20年内取代绝大多数人类工作
DeepSeek资深研究员陈德里表示，AI将在10至20年内取代“绝大部分人类工作”，并清晰勾勒出三阶段演进路径，强调这一预测“并非危言耸听”，而是基于AI正从工具向“智慧主体”转变的根本性变革。
DeepSeek人工智能
2025-11-10 10:23:26
天津市工业和信息化局关于开展2025年人工智能产业及赋能新型工业化创新任务揭榜挂帅工作的通知
面向人工智能产业发展底座、“人工智能＋制造”、智能产品装备、共性基础支撑等重点方向，发掘培育一批技术创新强、应用落地快、典型示范好的关键技术和产品，加快人工智能与工业深度融合应用，高水平赋能新型工业化。
人工智能新型工业化
2025-11-08 10:34:53
广西交通运输行业4个平台入选2025年首批广西人工智能开放创新平台
广西交通运输行业立足行业创新转型发展，锚定场景应用需求，聚焦关键技术攻关，破解“卡脖子”难题，加速培育交通新质生产力。
人工智能智慧交通
2025-11-08 09:03:37
促进“人工智能＋医疗卫生”应用发展重塑医疗健康生态
近年来，人工智能技术的迅猛发展正深刻重塑着医疗卫生行业的面貌。从疾病诊断到治疗方案制定，从健康管理到药物研发，人工智能的应用不仅提高了医疗服务的效率和质量，还为个性化医疗和精准医学的实现奠定了坚实基础。
人工智能医疗健康
2025-11-08 09:00:54

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。