人和AI合作存在哪些潜在威胁?

AI资讯4个月前更新 AItools
702 0
人和AI合作存在哪些潜在威胁

任何一种新事物的诞生注定会改变使用者。

在「摸鱼」或者「躺平」的时候,我们常常用这句话为自己找借口。从蒸汽机的工业革命到计算机的数字革命,技术的进步确实让人类在某些方面越来越有躺平的资本。作为最有潜力成为下一代平台的 AI 技术,它会让人类变得更懒吗?

似乎是这样的,但这并不是一个好消息。

根据《机器人与人工智能前沿》杂志上的一项最新研究显示,当人类与 AI 和机器合作时,他们真的会「摸鱼偷懒」。该研究的第一作者 Cymek 称:「团队合作既可以是一种祝福,也可以是一种诅咒。」因此,在 AI 时代,人类最大的危机不是被机器取代,而是「懒到退化」

人机合作危机早已发生

事实上,在实验室之外,人机合作导致的「堕化」早已经在现实世界中出现。在自动驾驶领域,有一个与「社会惰化」相似的现象,叫做「自动化自满(Automation complacency)」,典型是由于有了自动化辅助而分心。

人和AI合作存在哪些潜在威胁

2018 年 3 月,在美国亚利桑那州,配有安全员的 Uber 自动驾驶汽车撞死一位骑自行车的人。警方的分析发现,如果安全员一直看着道路,安全员本可以在受害者前方 12.8 米处停下来,并避免悲剧。

特斯拉经常成为美国媒体和监管机构关注的对象,主要是因为与自动驾驶相关的事故。一个常见的情况是,特斯拉驾驶员在使用自动驾驶功能时会睡觉或玩游戏,并因此卷入致命的车祸。

在当前人工智能的热潮中,关于机器取代人类的预言越来越接近现实。有人认为机器将服务于人类,而另一方则担心人类可能会不小心创造出邪恶的事物。

现在,人类与工具的关系已经发展到了一个新的阶段。所有工具的出现实际上都使人类变得更懒了,比如扫地机器人让人们不再需要清扫房屋,手机让人们不再需要记住电话号码。

然而,AI技术与以往的技术不同之处在于,它将更多的思考和选择工作交给了AI,而后者基本上是一个黑箱,这更像是一种思考自主权的让渡。当人们将开车决策完全交给自动驾驶系统,将医疗诊断全部交由AI系统时,潜在的代价可能与记不住电话号码的代价完全不同。

当人们将思考和判断的权力交给机器作为参考时,社会惰化和自动化自满的问题也可能潜伏其中,并可能随着任务的重复而成为一种慢性毒药。

© 版权声明

相关文章

zh_CN简体中文