中工网首页时政评论国际军事社会财经企业工会维权就业论坛博客理论人物网视图画体育汽车文化书画教育读书娱乐旅游绿色城建社区打工

中工评论

工人日报评论库

【国际随笔】给人工智能定个“道德准则”

工人日报—中工网 赵晓展
2019-04-11 07:14:58  来源:中工网—《工人日报》

        研究者希望能给人工智能加上安全装置,让它真正行稳致远

  人工智能用于医疗出现误诊谁担责,是提供技术的公司,还是医院、或者是医生?

  自动驾驶汽车上路发生交通事故,责任在车主还是车辆生产方?

  并非所有人都有能力迈过技术性和社会性壁垒,未来会否出现“无用人群”?

  ……

  人工智能浪潮方兴未艾,正带来知识生产和利用方式的深刻变革。不过,对研究者来说,还有一件更重要的事儿——人工智能的伦理道德问题。

  当地时间4月8日,欧盟委员会发布了一份人工智能(AI)道德准则。

  据外媒报道,该准则由2018年12月公布的人工智能道德准则草案演变而来,提出了实现“可信赖人工智能”的7个要素。

  此前的草案为“可信赖人工智能”提出了一个官方解释:首先,它应该尊重基本权利、规章制度、核心原则及价值观,以确保“道德目的”;其次,它应该在技术上强健且可靠,因为即使有良好的意图,缺乏对技术的掌握也会造成无意的伤害。

  欧盟负责数字经济的官员玛利亚·加布里埃尔解读了这7项要求。她认为,在人工智能使用上,“透明性”是一切的关键,同时也要“以人为本”。

  加布里埃尔表示:“任何公司在使用人工智能技术时,其受众都应当具有知情权。人们应该知道和他们进行沟通的是算法还是真人。同时,任何由算法做出的决定,都必须由公司出面解释。”

  欧盟出台准则的背后,是人工智能不可忽视的挑战。

  比如,在社交媒体中,人工智能将观点相近的人相互聚拢,新闻推送也常常存在路径依赖。当人们的信息来源越来越依赖于智能机器,偏见会在这种同化和路径依赖中被强化。这时候,人工智能就可能造成偏见强化,加剧社会分化与撕裂。

  再比如,人工智能的发展,让技术的垄断越来越严重。一方面这些技术给生活带来便利,另一方面也在某种程度上控制着人类的生活。

  在科学家看来,人工智能和其他技术特点不一样,很多人工智能技术具有自主性,如果没有适当的防范措施,一旦失控就不堪想象。“这就像在盖房子之前要先打好地基。不能等到出现了严重的问题,再制定措施去防止。”

  此前,研究人员一直希望以最简单的办法,确保以机器人为代表的人工智能不给人类带来任何威胁。

  大家所熟知的最早关于机器人的伦理规定,是著名科幻作家阿西莫夫上世纪设计的防止机器人失控的“机器人三定律”:机器人不能伤害人类;它们必须服从于人类;它们必须保护自己。后来又加入了“第零定律”:机器人不得伤害人类整体,不得因不作为使人类整体受到伤害。

  但是随着人工智能不断发展,“机器人三定律”已经远不能适应时代。

  新的伦理原则制定也正提上各国政府的议事日程。综合看来,尽管新原则各有不同,但突出以人为本的理念始终不变。百度公司创始人李彦宏在2018年中国国际大数据产业博览会上提出了“人工智能伦理四原则”,首要原则就是安全可控。

  显然,人工智能正帮助人类社会向充满不确定性的未来疾驰。在冲进未知之门前,需要给它装上安全装置,让它真正能行稳致远。

  去年,中国发展研究基金会发布报告《未来基石——人工智能的社会角色与伦理》中,就建议各国政府促进数据共享技术,为人工智能培训和测试提供共享的公共数据集。在个人信息得到保护的前提下,促进数据的自由流通;并加强国际合作,建立多层次的国际人工智能治理机制。

  欧盟委员会也表示,提出人工智能道德准则只是第一步,未来他们还将邀请工业界、研究机构和政府机构对该准则进行测试和补充,最终制定以人为本的人工智能共识。

编辑:张苇柠

漫画评论

中工时评

人物

  • 应记住单霁翔的不只是“金句”

    这几年,故宫博物院院长单霁翔成为了著名网红,他的很多金句在网上广为流传,被誉为“隐藏的段子手”。单霁翔厉害之处在于提到单霁翔,很多人都会想到他的金句。确实,单霁翔有着很好的口才,他的很多讲话深得网友喜欢。比如,刚刚上任时

  • 激发向前一步的众力

    2月20日,南京邮政六合区分公司雄州投递部收到一封信件,寄往“六合县马镇区沟石村”,收件人为“王慰华烈士”(实为王殿华),并备注“该烈士(20岁)于1947年12月牺牲于菏泽战役

  • 赵立新言论暴露了一种危险的历史观

    4月2日,演员赵立新发问“日本人为何没烧故宫”,引发巨大争议。此外,赵立新还在微博发表了疑似美化日军侵华的言论祸从口出的赵立新,尽管深夜发文意图灭火,怎奈舆论怨愤滔天,说出去的话算是再也收不回来了。按照赵立新自己的解释

  • 因为普通 所以伟大

    牺牲的中队长张浩在任务途中发的朋友圈他们都不是钢铁侠、蜘蛛侠或超人,虽然我们多么希望他们是超人。我们明知他们就是普通人,普通到跟我们一样有害怕、恐惧和对生的无限渴望。3月30日18时许,四川省凉山州木里县雅砻江镇立尔村地区发生森林火灾。3月31日下午,扑火人员在转场途中,受瞬间风力突变影响,遭遇山火爆燃,包括27名森林消防队员和3名地方干部群众共30人不幸牺牲。

一周看点

排行

新闻日历
关于我们 | 广告服务 | 联系我们 | 本站地图 | 投稿邮箱 | 版权声明 | 违法和不良信息举报电话:010-84151598 | 网络敲诈和有偿删帖举报电话:010-84151598
Copyright © 2008-2018 by www.workercn.cn. all rights reserved
扫码关注



工人日报
客户端
苹果版
安卓版