国际要闻 聯合國呼籲暫停威脅人權的人...

聯合國呼籲暫停威脅人權的人工智能

分享

【新三才首發】聯合國人權事務負責人表示,人工智能系統用於確定誰獲得公共服務,並決定誰有機會被招聘工作,並警告說收集的數據可能會受到損害、過時甚至具有歧視性,呼籲暫停威脅人權的人工智能。

聯合國人權事務高級專員米歇爾·巴切萊特 (Michelle Bachelet)在9月15日呼籲暫停銷售和使用威脅人權的人工智能(AI)系統,直到採取足夠的保障措施以確保該技術不會被濫用。

巴切萊特在一份新聞稿中說:「我們不能繼續在人工智能方面只是追趕——允許其在有限或沒有邊界或監督的情況下使用,並在事後處理幾乎不可避免的人權後果。」

聯合國人權辦公室9月15日發布了一份報告,警告人工智能技術的風險,並強調雖然人工智能可以作為一種向善的力量,但如果不負責任地使用它也會造成災難性的影響。「作為人工智能系統開發和運營基礎的數據環境、算法和模型的複雜性,以及政府和私人行為者的故意保密,這些都是破壞公眾理解人工智能系統對人權和社會影響的有意義方式的因素。」報告指出。

聯合國人權事務負責人巴切萊特強調,不符合國際人權法的人工智能應用必須被禁止。「人工智能為人類服務的力量是不可否認的,但人工智能在幾乎不可見的情況下大規模地支持侵犯人權的能力也是不可否認的。為了我們所有人的利益,現在需要採取行動,為人工智能的使用設置人權護欄。」巴切萊特強調。

人工智能進行剖析和自動化決策的能力——以及它的其他用途——威脅著無數的人權。聯合國人權辦公室警告說,它會影響「健康權、教育權、行動自由權、和平集會和結社自由權以及言論自由權」。

高級專員說:「人工智能系統用於確定誰獲得公共服務,決定誰有機會被招聘工作,當然它們會影響人們在網上看到和分享的信息。」

該報告對一些國家和私營部門在沒有首先研究該技術的無數風險的情況下採用人工智能應用程序表示深切關注。聯合國辦公室表示,已經出現了一些危險的錯誤,並指出個人因面部識別有缺陷而被拒絕領取社會保障福利或被捕的案例。

人工智能系統通常以不透明的方式收集、共享、合併和分析數據。AI 收集的信息可能會受到損害、過時甚至是歧視性的。「與人工智能驅動的決策相關的歧視風險——可以改變、定義或損害人類生活的決策——太真實了。」巴切萊特說。「這就是為什麼需要對人工智能系統的影響進行系統評估和監測,以識別和減輕人權風險。」

(編譯:王明真)

(責任編輯:姜啟明)

(文章來源:新三才首發)

留下一个答复

Please enter your comment!
Please enter your name here