国际要闻 联合国呼吁暂停威胁人权的人...

联合国呼吁暂停威胁人权的人工智能

分享

【新三才首发】联合国人权事务负责人表示,人工智能系统用于确定谁获得公共服务,并决定谁有机会被招聘工作,并警告说收集的数据可能会受到损害、过时甚至具有歧视性,呼吁暂停威胁人权的人工智能。

联合国人权事务高级专员米歇尔·巴切莱特 (Michelle Bachelet)在9月15日呼吁暂停销售和使用威胁人权的人工智能(AI)系统,直到采取足够的保障措施以确保该技术不会被滥用。

巴切莱特在一份新闻稿中说:「我们不能继续在人工智能方面只是追赶——允许其在有限或没有边界或监督的情况下使用,并在事后处理几乎不可避免的人权后果。」

联合国人权办公室9月15日发布了一份报告,警告人工智能技术的风险,并强调虽然人工智能可以作为一种向善的力量,但如果不负责任地使用它也会造成灾难性的影响。「作为人工智能系统开发和运营基础的数据环境、算法和模型的复杂性,以及政府和私人行为者的故意保密,这些都是破坏公众理解人工智能系统对人权和社会影响的有意义方式的因素。」报告指出。

联合国人权事务负责人巴切莱特强调,不符合国际人权法的人工智能应用必须被禁止。「人工智能为人类服务的力量是不可否认的,但人工智能在几乎不可见的情况下大规模地支持侵犯人权的能力也是不可否认的。为了我们所有人的利益,现在需要采取行动,为人工智能的使用设置人权护栏。」巴切莱特强调。

人工智能进行剖析和自动化决策的能力——以及它的其他用途——威胁著无数的人权。联合国人权办公室警告说,它会影响「健康权、教育权、行动自由权、和平集会和结社自由权以及言论自由权」。

高级专员说:「人工智能系统用于确定谁获得公共服务,决定谁有机会被招聘工作,当然它们会影响人们在网上看到和分享的信息。」

该报告对一些国家和私营部门在没有首先研究该技术的无数风险的情况下采用人工智能应用程序表示深切关注。联合国办公室表示,已经出现了一些危险的错误,并指出个人因面部识别有缺陷而被拒绝领取社会保障福利或被捕的案例。

人工智能系统通常以不透明的方式收集、共享、合并和分析数据。AI 收集的信息可能会受到损害、过时甚至是歧视性的。「与人工智能驱动的决策相关的歧视风险——可以改变、定义或损害人类生活的决策——太真实了。」巴切莱特说。「这就是为什么需要对人工智能系统的影响进行系统评估和监测,以识别和减轻人权风险。」

(编译:王明真)

(责任编辑:姜启明)

(文章来源:新三才首发)

留下一个答复

Please enter your comment!
Please enter your name here