夏韵、孙明春|人工智能中的安全隐患

2021年5月2日 09:00
來源:香港奇点财经专栏作家孙明春

奇点财经推送于2021年5月2日

(编者按:本文为香港奇点财经特邀专栏作者、海通国际首席经济学家孙明春先生提供。作者为夏韵、孙明春)

人工智能技术应用越广、对各行各业的渗透越深,经济和社会运行对技术和数据的依赖性就越强,未来面临的安全挑战也就越严峻。人工智能领域的安全问题包含方方面面,系统安全、数据安全、技术安全、不当使用、通过恶意攻击进行犯罪活动等都属于安全问题的范畴。安全问题也是企业ESG实践领域的常规议题,保障员工的健康与安全、产品服务安全,防控安全风险事件,都是企业应尽的社会责任和实现长期价值的必要条件。

人工智能应用有可能因为技术的复杂性而存在安全隐患。以深度学习算法为例,其运作方式是:机器并非依靠输入的指令运行,而是基于输入的数据、通过自主学习做出智能决策。由于技术本身的复杂性,即便是最初的设计人员,也难以解释算法决策的过程,于是形成“算法黑箱”;这也导致算法可能会偏离设计的初衷,从而形成安全隐患。例如,在智慧医疗应用场景中,如果算法做出了诊断,而医生和设计人员却无法知晓算法决策的依据和逻辑,就无从判断其失误的可能性,那么人工智能的可信性和安全性便无法保障。

人工智能的设计缺陷、技术漏洞也可能导致伤害性后果,甚至威胁人身安全。近年全球曾发生多起自动驾驶安全事故。Uber无人驾驶汽车曾在道路测试中撞倒行人致死,特斯拉自动驾驶汽车也发生过司机伤亡事件。技术漏洞是引发这些安全事故的关键因素之一。例如,在一起事故中,特斯拉汽车因识别技术不成熟,将白色车厢误判为天空。

除技术原因外,法律法规不完善、管理缺位、防护措施不足,也会成为人工智能技术应用中出现安全隐患的影响因素。例如,近年全球无人机扰航事件频发,严重时导致机场关闭,数万名旅客滞留。这些事件发生的直接原因虽然是无人机操作者所致,但是通过有效防控机制(如引入侦测预警系统、制定应急计划),亦可降低安全事故发生的概率及危害性。

人工智能的安全问题引发了人们的担忧,也是各方最为关注的话题之一。国际组织、政府机构和企业提出的人工智能伦理原则,几乎都对这一议题作出回应并达成共识,即人工智能技术研发应用必须以“安全可控”为前提、遵循“公开透明”、“可解释”等原则。以欧盟的《可信赖的人工智能伦理指南》为例,其针对人工智能设计与研发阶段出现的技术缺陷,提出了“可解释性”、“测试与验证”、“建立质量指标体系”等原则;针对使用中的管理和监管问题,提出“健全监管”、“通过治理框架实现问责制”等原则。这些原则也为企业面对人工智能领域的安全挑战、建立相应的管治框架提供了参考。

就ESG管治和实践而言, 企业可着重从两方面思考, 一是如何有效防控人工智能设计与应用中的安全隐患,二是如何保障企业自身、员工、客户及其他利益相关方的安全。首先,从技术安全的角度来看,科技企业应将“安全可控”作为人工智能研发和设计的首要原则,保障技术的透明度、可解释性,并将提升人工智能应用的安全性作为努力的目标。例如,创业公司OptimizingMind为解决算法黑箱难题,致力研发可以观测算法决策过程的技术。而其他企业作为应用方,有责任了解人工智能技术存在的安全隐患,审慎评估并慎用。其次,从管理安全的角度来看,企业应从保障利益相关方的安全和自身的稳健经营出发,建立相应的人工智能安全管理系统,或将相关的安全问题纳入公司现有的风险管理体系。(本文编辑:卜彬彬)

作者简介:孙明春,香港奇点财经特邀专栏作者、中国金融四十人论坛(CF40)成员、海通国际首席经济学家。

(声明:本文转自“海通国际宏观研究”欢公众号,已获海通国际宏观研究公众号许可。迎登陆网站https://sfl.gloal/或关注公众号“奇点财经HK”。如需转载请向[email protected]提出书面申请。奇点财经是全球首家提供多语种及专注于ESG投资与金融科技领域的媒体,是香港期刊协会创会会员。)


友情提示:请下载奇点财经APP(点击 IOS版 或 安卓版)或关注奇点财经公众号(奇点财经HK)以得更全面的信息。