科技信息资讯,更全更新信息实报!
首页 > 人工智能> 正文

“机器人三定律”已经过时了! 该如何保证AI不会伤害人类

来源:互联网 发布时间:2019-03-27 15:11
浏览:8302
如何保证机器人不会伤害人类?人工智能的伦理原则近来备受关注。联合国教科文组织总干事阿祖莱在3月初举行的“推动人性化人工智能全球会议”上就表示,目前还没有适用于所有人工智能(AI)开发和应用的国际伦理规范框架。对于科幻作家阿西莫夫上世纪设计、防止机器人失控的著名的“机器人三定律”,业界早已认识到其局限性。

  亚马逊推出智能背心,穿上不怕机器人

  据国外媒体报道,亚马逊正在使用一款智能背心来提高工人在仓库内与机器人相处时的安全性。这款智能背心的工作原理是可以与自动化机器人进行通信,当人类员工进入机器人工作区域内处理问题时(比如捡拾物品),机器人可以检测到背心的存在,识别出人类,并立即减速并实时更新自己的行进路线,远离背心区域,避开工作人员。

  2018年12月,亚马逊新泽西仓库发生一起事故,一台机器人刺穿了一罐坠落的防熊喷雾,释放出大量浓缩的辣椒素,直接导致附近的工人呼吸困难。这起事故导致24名员工被送往医院,其中一人伤势严重。这一事件引起了欧美工会对亚马逊自动化机器人安全性的担忧。而如何让机器人与人类和平共处、尤其是保护人类的安全,也在这次事故后被重新讨论。

  宗合

  业内

  呼吁

  超越“机器人三定律”

  人工智能期待新伦理

  ●什么是“机器人三定律”

  70多年前,科幻小说家阿西莫夫在科幻小说里为高智能机器人设定了著名的“机器人三定律”。“机器人三定律”规定:机器人不能伤害人类;它们必须服从于人类;它们必须保护自己。后来还加入了“第零定律”:机器人不得伤害人类整体,不得因不作为使人类整体受到伤害。

  “机器人定律”需要更新细化

  “机器人不能伤害人,但机器人会以什么方式伤害到人?这种伤害有多大?伤害可能以什么形式出现?什么时候可能发生?怎样避免?这些问题在今天要么需要细化,要么需要有更具体的原则来防范,而不能停留在七八十年前的认识水平。”中国人工智能学会AI伦理专业委员会负责人、中国科学技术大学机器人实验室主任陈小平教授说。

  陈小平呼吁,为规避人工智能发展过程中的伦理道德风险,人工智能学术界和产业界,以及伦理、哲学、法律等社会学科各界应参与原则制定并紧密合作。“就长期来看,不能等到出现了严重的问题,再制定措施去防止。”

  全球知名的艾伦人工智能研究所首席执行官埃齐奥尼两年前就呼吁更新“机器人三定律”。他还提出,人工智能系统必须遵守适用于其操作人员的所有法律条文;人工智能系统必须明确表示它不是人类;未经信息来源明确许可,人工智能系统不能保留或披露机密信息等。

  以人为本,首先要“保护人类”

  美国机器智能研究院奠基人尤德科夫斯基提出了“友好人工智能”的概念,认为“友善”从设计伊始就应当被注入机器的智能系统中。

  百度公司创始人李彦宏在2018年提出了“人工智能伦理四原则”,首要原则就是安全可控。

  美国电气和电子工程师协会规定,人工智能要优先考虑对人类和自然环境的好处的最大化。该协会还规定,为了解决过错问题,避免公众困惑,人工智能系统必须在程序层面具有可追责性,证明其为什么以特定方式运作。        新华社

热门文章

  • 巴喜传媒:口碑营销时代,企业如何打造自身品牌
    巴喜传媒:口碑营销时代,企业如何打造自身品牌

    巴喜传媒:口碑营销时代,企业如何打造自身品牌

    互联网的高速发展,让消费者话语权不断高涨,而一条简单的评论,一则简短的信息,可能就会直接影响一个品牌的发展。因此,很多企业在营销...

  • 独家首发 底气开新 | Funny Elves方
    独家首发 底气开新 | Funny Elves方里新年主题底气礼盒

    独家首发 底气开新 | Funny Elves方

    年初的日子注定被各种礼物包围。无论我们是收礼还是送礼,都可以收获远大于礼物本身物质上的快乐。对于各大品牌来说,新年礼无疑是

  • 内蒙古满洲里 国门在春天重启
    内蒙古满洲里 国门在春天重启

    内蒙古满洲里 国门在春天重启

    疫情期间,满洲里出境铁路运输总量有明显增长,2019年出境的中欧班列近3000列,而在2022年达到4818列,图为列车在铁路口

  • 两项利率未变 LPR连续6月“原地踏步”
    两项利率未变 LPR连续6月“原地踏步”

    两项利率未变 LPR连续6月“原地踏步”

    每经记者 肖世清 每经编辑 马子卿2月20日,央行授权全国银行间同业拆借中心公布,最新一期贷款市场报价利率(LPR)为:1年期L

  • “生态环境17条”助力青岛营商环境再优化
    “生态环境17条”助力青岛营商环境再优化

    “生态环境17条”助力青岛营商环境再优化

    ●将环评打捆审批实施范围扩大为全市符合要求的产业园区、工业楼宇内,以及等级公路、城市道路、生活垃圾转运站、污水处理厂等基础设施项

  • 全新一代超薄电子雾化解决方案FEELM Air亮
    全新一代超薄电子雾化解决方案FEELM Air亮相英国,FEELM开启陶瓷雾化超薄新时代

    全新一代超薄电子雾化解决方案FEELM Air亮

    当地时间1月18日,思摩尔国际(6969 HK)旗下高端雾化科技品牌FEELM在英国伦敦举行新技术发布会,正式发布全新一代超薄电

人工智能

更多 >

物联网

更多 >