人工智能正在帮助决定哪些美国人能得到工作面试、公寓,甚至医疗保健,但在人工智能决策中控制偏见的首批重大提议正面临来自四面八方的阻力。
在科罗拉多州、康涅狄格州和德克萨斯州等州,负责这些法案的议员们正聚集在一起,为他们的提案辩护,以民权为导向的团体和行业正在就立法的核心内容进行拉锯战。
包括工会和消费者权益团体在内的组织正在敦促企业提高透明度,并为公民起诉人工智能歧视提供更多的法律追索权。该行业提供了试探性的支持,但在这些问责措施上却坚持己见。
被夹在中间的两党议员——包括来自阿拉斯加、乔治亚州和弗吉尼亚州的议员——在联邦政府无所作为的情况下,一直在共同制定人工智能立法。新闻发布会的目的是强调他们在各州和利益相关者之间的工作,强调在监管的第一步中合作和妥协的重要性。
这些议员包括康涅狄格州民主党参议员詹姆斯·马罗尼、科罗拉多州民主党参议院多数党领袖罗伯特·罗德里格斯和阿拉斯加州共和党参议员雪莱·休斯。
“在这一点上,我们对联邦政府迅速通过任何法案没有信心。我们确实认为有必要进行监管。”“重要的是,行业倡导者、政府和学术界应该共同努力,制定尽可能好的法规和立法。”
议员们认为,这些法案是可以向前推进的第一步。
虽然今年全国各州议会正在讨论400多项与人工智能相关的法案,但大多数针对的是一个行业或只是一项技术——比如在选举中使用的深度造假或制作色情图片。
这个议员团队提出的最大法案提供了一个广泛的监管框架,特别是围绕着该技术最反常的困境之一:人工智能歧视。例如,一种人工智能未能准确评估黑人病人,另一种人工智能在过滤工作申请时降低了女性简历的等级。
不过,根据平等就业机会委员会(Equal Employment Opportunity Commission)的估计,高达83%的雇主使用算法来帮助招聘。
布朗大学(Brown University)计算机和数据科学教授苏雷什·文卡塔萨布拉马尼安(Suresh Venkatasubramanian)解释说,如果不采取任何措施,这些人工智能系统几乎总是会存在偏见。他正在教授一门关于如何减轻这些算法设计中的偏见的课程。
他说:“首先,你必须做一些明确的事情,以免产生偏见。”
这些提案(主要在科罗拉多州和康涅狄格州)很复杂,但其核心要点是,企业将被要求对某些人工智能系统进行“影响评估”。这些报告将包括描述人工智能如何影响决策、收集的数据、对歧视风险的分析,以及对公司保障措施的解释。
争论的焦点是谁能看到这些报告。更多地获得有关人工智能系统的信息,如影响评估,意味着对公众的问责制和安全性得到加强。但公司担心这也会增加诉讼和泄露商业机密的风险。
根据科罗拉多州、康涅狄格州和加利福尼亚州的法案,该公司不必定期向政府提交影响评估报告。如果发现歧视,公司也有很大的责任向司法部长披露——政府或独立组织不会测试这些人工智能系统是否存在偏见。
工会和学者担心,过度依赖公司的自我报告会危及公众或政府在人工智能造成伤害之前发现歧视的能力。
“当你有这些拥有数十亿美元的大公司时,已经很困难了,”科罗拉多州劳联-产联(AFL-CIO)的代表克尔斯滕·福塞斯(Kjersten Forseth)说。劳联是一个反对科罗拉多州法案的工会联合会。“从本质上讲,你是在给他们额外的压力,让他们打压工人或消费者。”
科技公司表示,在目前竞争激烈的市场上,提高透明度将会泄露商业机密。TechNet是一个由科技公司首席执行官和高级管理人员组成的两党网络,为人工智能法案进行游说。该组织的戴维·埃德蒙森在一份声明中表示,该组织与立法者合作,“确保任何立法都能解决人工智能的风险,同时允许创新蓬勃发展。”
加州商会反对该州的法案,担心影响评估可能会在诉讼中公开。
该法案的另一个有争议的部分是谁可以根据该法案提起诉讼,该法案通常仅限于州检察长和其他公共律师,而不是公民。
在加州法案中允许公民起诉的条款被删除后,金融和人力资源软件公司Workday支持了这一提议。Workday辩称,公民的民事诉讼将把决定权交给法官,其中许多人不是技术专家,并可能导致监管方法不一致。
Workday负责公共政策和企业事务的副总裁钱德勒?莫尔斯表示:“我们无法阻止人工智能融入我们的日常生活,因此显然政府必须在某个时候介入,但人工智能行业本身也希望有一个良好的发展环境。”
哈弗福德学院(Haverford College)专注于人工智能偏见的教授索雷尔·弗里德勒(Sorelle Friedler)对此进行了反驳。
弗里德勒说:“这通常是美国社会维护我们权利的方式,就是通过起诉。
康涅狄格参议员马罗尼说,有文章称他和众议员乔瓦尼·卡普里奥尼一直在“推动行业起草的法案”,尽管行业花费了所有的钱来游说反对立法。
马罗尼指出,一个行业组织,消费者技术协会,已经刊登了广告,并建立了一个网站,敦促立法者否决这项立法。
“我相信我们走在正确的道路上。我们与来自工业界、学术界和民间社会的人士共同努力。”
“每个人都想感到安全,我们正在制定法规,允许安全可靠的人工智能,”他补充说。