美国《AI权利法案》做了哪三件事 ?起作用了吗

AIGC行业资讯12个月前更新 10小时前
1.5K 0

极客网·人工智能10月10日 去年美国白宫科技政策办公室(简称OSTP)公开表示,应该出台一份面向算法时代的权利法案。OSTP一位官员称,来自AI的伤害正在影响边缘化社区,为了保护民众,避开歧视性、无效性AI的伤害,政府应该出台新规定。

最近,OSTP发布《AI权利法案》蓝图。之前OSTP曾向微软、Palantir、人权组织、普通民众征集意见,然后才发布该蓝图。蓝图列出5项基本原则:用户可以控制数据的使用,可以选择退出自动化决策流程,可以避开无效、不安全算法的影响,当AI做出与用户有关的决策时用户可以知道,可以避免被不公平算法歧视对待。

美国《AI权利法案》做了哪三件事 ?起作用了吗

OSTP官员Alondra Nelson接受采访时说:“科技来来去去,但基本的自由、人权、机会、接入应该保持开放,这些需要政府来保证。”现在美国人什么都往自由人权靠,听听就好,毕竟什么隐私、人权很多时候有利富人,美国的一切也是优待富人的。

不过需要注意的是,美国有一份《人权法案》。AI版本与《人权法案》不同,它没有强力执法部门,它只是一份没有约束力的白皮书。

AI权利法案》主要瞄准的是美国联邦政府。政府机构如何部署AI,法案可以管;法案可以协助父母、工人、议员、设计师提出与AI系统有关的尖锐问题。

还有一点值得警惕:机器学习、AI算法如何部署,大型科技公司有很大的话语权,《AI权利法案》管不了它们。

威斯康星大学研究人员Annette Zimmermann认为,《AI权利法案》的5个原则让人印象深刻,它也许可以推动AI政策和法规朝着正确方向演进。

在某些场合,如果想纠正不公正并不需要AI,这是常识,但《AI权利法案》没有考虑这点。Annette Zimmermann指出,想保护用户,最好的办法当然是不部署AI,作为一部面向AI的法案,不能不考虑这点。他还认为,应该考虑强制性执法框架,让那些设计、部署有害AI的企业和个人负上责任。

如何控制AI伤害?可以用禁令,但《AI权利法案》并没有提到禁令问题。一位官员回应称,法案的重点是让民众远离损害权利和机会的威胁性技术,并不是禁用任何类型的技术。

总体来说,《AI权利法案》做了三件事,也有三件事没有做,先说做了的三件事:

——提出有意义的原则。

——有了原则如何执行?法案的思考是以机构为引导,以部门为焦点,关注特定部门和特点应用。

——对于AI系统的采购、设计、开发与部署,蓝图关注它们的组织元素,架构是怎样的,有什么激励,设计开发系统的人与系统是如何互动的,这些组织元素容易被忽略。

有三件事是法案没有做的:

——缺少有约束力的法律规范。

——没有覆盖到所有重要政府部门,有很多缺失,比如教育机会的获得、工人监督、执法部门。执法部门会用到很多算法工具,比如面部识别,它们如何自愿约束自己,这点没有说。

——如何在真实世界测试。

不过有观点认为,虽然《AI权利法案》没有约束力,主要面向联邦机构,不过美国的企业还是需要注意的。法案的核心是在设计阶段追求公平、保护隐私,初衷还是好的,具体效果如何还有待观望。

    © 版权声明

    相关文章

    暂无评论

    暂无评论...