AI全球高级决策者:AI的政策就是关于数据的政策

2019年1月21日 17:40
來源:nytimes

香港奇点财经 Singularity Financial Jan.21 2019— 此文属翻译

上周,知名麻省理工学院计算机科学家Hal Abelson,在学校课室教授人工智能相关课程,而他的学生则是分别来自36个国家,经合发展组织的高级决策者。

Abelson从20世纪50年代机器学习的历史开始介绍,讲解了该技术的工作原理,视觉模型和案例研究的实践项目。这也是为了让来自法国,日本和瑞典等国家的政策制定者了解该技术的优势和劣势,强调人类选择的关键作用。

Abelson表示,“这些机器完成了他们被训练要做的事。”

正如经合组织寻求在今年夏天就人工智能政策的建议达成一致意见,这个课程是MIT三天课程中的一部分,其中议程包括专家会谈,辩论和探讨。

但政策制定者甚至应该从哪里开始着手呢?人工智能似乎无处不在,它被大肆炒作但鲜少为人理解。一些人宣称A.I.将成为经济繁荣的灵丹妙药,而其他人则警告说,这将是一个“工作杀手”,它会抢占人们工作,甚至是威胁人类生存。

虽然一些组织性的声明,不具有法律效力。但其仍有许多国家制定与AI相关标准的记录,包括可追溯到1980年的指导方针。该指南要求各国制定保护隐私的立法,并将个人数据定义为可用于识别个人的信息。

这些建议具有重要意义,因为该组织的使命是促进经济发展,平衡创新和社会保护。

组织中科技创新部门负责人Andrew Wyckoff说:“我们希望能够走在前面,帮助创造某种政策上的一致性。”

下面是会上中出现的一些主题 – 这些主题可以帮助塑造未来几年关于AI的讨论。

A.I.行业需要制定规则确保它的安全性,也只有这样这个行业才会繁荣。

现在行业规管正在出台,这是一件好的事情。行为规则是健康,不断发展的市场的基础。

今天的机器学习系统非常复杂,他们需要消化很多的数据,解释机器如何做出决策已经不可能了。如果是A.I.系统平均对乳腺癌的监测比人类更好,你会只和机器一起去检查吗?

答案或许是肯定的。

只有让公众放心的实用规则出台,A.I.才能真正得以使用。

“如果你想让人们相信这些,那么政府必须发挥作用,”M.I.T.的首席研究科学家Daniel Weitzner说,他在MIT计算机科学与人工智能实验室工作,曾任奥巴马政府的政策顾问。

所有人,并不仅仅是超级大国,都希望重塑有关AI的条例。

新规则的制定通常会让该行业增长放缓。但该活动的政策制定者表示,他们不想阻止A.I.的发展。相反,他们表示希望国家充分参与。

有明确A.I.战略规划的国家,比如法国和加拿大,他们都认为该技术是增长的引擎,并寻求教育和招募下一代研究人员。

“机器学习是下一个真正具有颠覆性的技术,”加拿大政府资助组织A.I.研究负责人Elissa Strome表示。“在能源,环境,交通和医疗等领域,机器学习有很多机会。”

与会者表示,国际合作将有助于确保政策制定,并且不会简单让决定权留在A.I.的超级大国手中。美国是经合发展组织的成员,而中国则不是。

法国国家AI开发协调员Bertrand Pailhès表示,“我们认为关于AI的发展可以有一种既不同于中国又不同于美国的发展模式.”

在Pailhès和其他人看来,中国是一个由政府控制的监督国家。而在美国模式中,来自少数加州硅谷的互联网公司成为大赢家,社会被视为数据生成资源库,被剥离开采。

前奥巴马政府顾问兼M.I.T.技术,政策和国家安全项目主任R. David Edelman说:“快速行动,打破一切的时代即将结束。”

在日本,人工智能正被视为一种杠杆,能够激发其顽固,等级化的企业文化中的活力。日本政府正在大力投资以鼓励A.I.。其中特别强调要注重“初创企业,小公司和年轻人”的发展,东京大学教授兼日本政府高级顾问Osamu Sudoh说。

AI的政策就是关于数据的政策。

快速的计算机和聪明的算法很重要,但最近数据的爆炸 – 网络,智能手机,传感器,基因组学和其他地方则成为现代A.I.的发展基奠。

M.I.T.的主任Antonio Torralba说,“获取数据将是推动科学发展的最重要因素”。

私人拥有如此多的数据,一旦没有关于隐私和责任的规则,数据将不会被共享,这也将阻碍医疗保健等领域的发展。

另外AI可以放大数据驱动带来的风险。公共利益倡导者指出了技术一些令人不安的失误:例如,软件无法识别黑人妇女的面孔以及法庭中使用的歧视非洲裔美国人的犯罪预测程序。

马萨诸塞州美国公民自由联盟(American Civil Liberties Union)执行董事Carol Rose问道:“我们是否让目前的种族主义制度变得更有效,或者我们是否会摆脱嵌入式偏见?”

这些都是技术设计和政策的问题。 “谁受到虐待?谁被排除在外?“Abelson问全班同学。 “当你考虑规管时,这就是你应该考虑的问题。”