机器人将控制人类？为时尚早但仍需警惕

2017-06-12 10:48:09来源：中国智能制造网编辑：未闻花名关键词：机器人索菲亚人工智能阅读量：42490

导读：随着人工智能的不断发展，机器人愈发智能化，当前我们所面对的或许已经不仅仅是机器人带来的失业，甚至还面临着被机器人控制的危险。

　　【中国智能制造网智造快讯】机器人表示被人类控制很难过？机器人过度“自信”后，阻止人类将其关闭？随着人工智能的不断发展，机器人愈发智能化，当前我们所面对的或许已经不仅仅是机器人带来的失业，甚至还面临着被机器人控制的危险。

　　6月9号，在瑞士日内瓦“人工智能造福人类峰会”上，一位口才出众的智能机器少女—索菲亚成为了全场的焦点。当被问及“当机器人累吗？因为你时刻被人类控制”的时候，她竟然明确的告诉人类，被人类控制很难过。

　　当然，机器人的回答是否被提前设计过，我们不得而知。但如果完全是临场发挥，那这一问题似乎看起来并不是那么简单了。就如青少年在不愿被家长左右思想的时候，他们会做出什么反应？无疑是叛逆。那么，机器人不愿受人类控制的时候，将会是怎么样的表现？

　　Matt Reynolds近期在New Scientist网站上发表了一篇名为“Robots will be more useful if they are made to lack confidence”的文章。文章介绍了近的一项实验，科学家把 AI 赋予充分的自信之后，AI 会认为自己做的才是对的，进而会阻止人类关掉自己。

　　加利福尼亚大学伯利克团队曾做过一个实验，为了探索计算机的“自信”，设计了一个人与机器之间相互作用的数学模型，称之为“开关游戏”。当机器人被设定为高度“自信”模式时，它们认为它们所做的都是有用的，这会使得它们永远也不会让人们把它关掉，因为它们试图的完成任务。

　　其实，机器人控制人类的传言已经流传了很长一段时间。早在2015年Zeitgeist大会上，科学家史蒂芬·霍金(Stephen Hawking)就发出警告——未来100年内，人工智能将比人类更为聪明，机器人将控制人类。

　　霍金宣称，现在不是担心谁控制人工智能的时候，而应该担心人工智能是否能被完全控制住。未来100年中，人类将面临比人类更聪明的人工智能的挑战。霍金此前也曾发出警告，他称人工智能可能终结人类。

　　此外，特斯拉CEO伊隆·马斯克(Elon Musk)也曾与霍金共同发表过公开信，他们认为人工智能的发展应该受到控制。信中称，如果智能机器无法保障安全，人类可能陷入黑暗的未来。

　　来自牛津大学的Marta Kwiatkowska认为，那些拒绝让人类关闭的自动操作系统听起来可能有些牵强，但是这样的考虑应该是制造在人们身边工作的这类机器人时所必须具备的。她同样认为，在建造无人驾驶汽车、消防机器人时，都要求为人类的安全考虑，因此，对于这些伦理框架的决策宜早不宜迟。

　　但另一方面，人类也不必妄自菲薄，如今的智能机器人并非无所不能。就如日前刚刚击败围棋高手的阿尔法狗而言，目前阿尔法狗只能在少量领域里逞能。据科学家分析，当前市场上的大部分智能机器人智商只相当于4岁的儿童，其“常识”比正常的成年人相差甚远。

　　美国科学家罗伯特·斯隆认为，人工智能的难题之一，就是开发出一种能实时做出判断的计算机软件。尽管机器人在工作强度、运算速度和记忆功能方面可以超越人类，但在意识、推理等方面都不可能超越人类。

上一篇：首批云计算相关教育改革示范性教材将正式出版

下一篇：美国国会推动自动驾驶汽车立法确保创新地位

我要评论

中国生成式人工智能用户规模达5.15亿人，普及率36.5%
《生成式人工智能应用发展报告(2025)》显示，截至2025年6月，我国生成式人工智能用户规模达5.15亿人，普及率为36.5%。上半年，国产生成式人工智能产品取得显著进步，在春节期间成为社会关注热点，推动生成式人工智能快速渗透。
人工智能生成式人工智能
2025-10-20 09:07:04
人工智能和物联网如何协作以实现更智能的技术
人工智能与物联网的融合代表着科技发展的新方向。物联网通过分布在各处的传感器、设备和网络基础设施，持续生成海量的实时数据。而人工智能则通过机器学习与深度学习算法，对这些数据进行分析、建模与优化。
人工智能物联网
2025-10-20 10:57:54
OpenAI联合创始人：人工智能代理真正发挥作用还需10年
OpenAI联合创始人预估，要系统解决上述所有问题，大约还需要十年时间。尽管众多投资者将2025年称为“智能体之年”，但现实发展仍面临显著挑战。广义上，AI智能体被定义为能够自主执行任务的虚拟助手，具备问题拆解、方案规划与自主实施的能力。
OpenAI人工智能
2025-10-20 10:58:05
物联网和 Agentic AI 助力未来智能医院
随着物联网(IoT)与新一代智能体人工智能(Agentic AI)的融合，这一复杂体系正在被重新定义。越来越多的医院开始引入基于实时数据的智能运营模式，使医疗体系逐步从“经验驱动”走向“数据驱动”，甚至是“自主优化”的新阶段。
医疗应用方案人工智能
2025-10-17 13:23:02
快讯|HDL与海康威视达成战略合作；特斯联与新华三达成战略合作
中国智能控制品牌河东科技HDL与安防企业海康威视宣布达成战略合作，双方产品实现互联互通，为海外用户提供更完整的智能生活解决方案；特斯联与新华三正式宣布达成战略合作，双方将集中优势资源，围绕AIoT算力平台打造及异构算力生态建设进行深度合作......
AIoT算力人工智能
2025-10-17 11:27:16
网信办、发改委：政务领域人工智能大模型13大典型应用场景
政务部门可围绕政务服务、社会治理、机关办公和辅助决策等工作中的共性、高频需求，因地制宜、结合实际，选择典型场景进行人工智能大模型探索应用。
人工智能大模型
2025-10-17 08:30:05

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。