AI前沿观察丨“乌卡时代”下的人工智能治理：刚柔并济、多方共举

南方财经全媒体 见习记者冯恋阁 实习生杨婧文 广州报道

编者按

“人工智能从你出生那天就认识你，读过你所有的电子邮件，听过你所有电话录音，知道你最爱的电影……”尤瓦尔·赫拉利在《未来简史》一书中描述了这样一种未来景况：人工智能比人类更了解自己。

步入人工智能时代，人类的生活习惯和生产方式正在被重塑，科幻和现实渗透，惊喜与担忧交加。人与机器的未来是一场亲密的合作还是激烈的战争？机器会将人类的智能拓展到什么样的边界？

南财合规科技研究院推出AI前沿观察系列报道。从技术、政策和治理多角度，剖析人工智的技术瓶颈与伦理考验，追问未来的可能与限度，以期寻找第四次工业革命浪潮翻涌下人工智能发展的最优路径。

1956年，在美国汉诺威小镇的达特茅斯学院，“人工智能”的概念第一次被提出。在接下来的60余年，人工智能从屏幕上跃动的代码逐渐走向各行各业的应用，成为现实。

然而，随着技术与产业在变革下交织，我们走向人工智能技术与各行各业深度融合的“乌卡时代”（VUCA，易变性、不确定性、复杂性、模糊性）。人工智能无数次给人类带来惊喜，亦无数次引发人们对未知风险的恐慌。人们不禁思考：我们应该以何种态度解决人工智能技术的发展遇到的问题？

9月初，深圳公布全国首部人工智能产业专项立法；9月底，上海通过《上海市促进人工智能产业发展条例》，并于10月1日正式实施。在这个节点，追踪研究人工智能治理的发展态势具有极其重要的意义。

多位专家在接受南方财经全媒体记者采访时指出，当前我国人工智能治理呈现“刚柔并济、多方共举”的态势。人工智能治理体系由伦理规范等“软法”和法律法规等“硬法”共同构成，参与治理活动的主体涵盖政府、行业组织、企业和公众等。专家预测，未来我国将会继续在法律与伦理领域同步发力，以促进发展为宗旨对人工智能产业进行治理。

2016年是人工智能风险逐渐受到关注的一年，技术本身的风险以及技术对法律体系、伦理规则的冲击逐渐引起注意。

在这一年，李世石与Alpha Go的“世纪决战”以4-1的结果落幕，从此这个“完美” 的对手，成为笼罩围棋界的阴影。同年，汉森机器人技术公司(Hanson Robotics)开发的类人机器人索菲亚被沙特阿拉伯授予国籍并获得公民身份引发了全球争议；此外，美国非盈利媒体ProPublica发表文章《机器偏见》(Machine Bias)，其中质疑再犯风险预测算法COMPAS在判定时可能存在种族歧视的现象。

近年来，越来越多的国家意识到人工智能技术对经济与社会生活带来的影响。2020年年底，经济合作与发展组织 OECD在《2020年数字经济展望》（OECD Digital Economy Outlook 2020）中指出，已经有超过60个国家提出了与人工智能相关的政策。

然而，尽管全球都意识到了人工智能技术的重要性，但由于各国对相关产业发展、公民隐私等方面存在不同考量，目前国际上并没有形成通行、共识的人工智能治理规则和体系。

欧盟与美国在发展高新技术的角逐从未停止，然而，两国对人工智能的治理思路并不相同。前者强调严格监管，后者则主张产业先行。

对外经济贸易大学数字经济与法律创新研究中心执行主任张欣认为，欧盟的人工智能治理仍然镶嵌在数据治理框架之下。以《通用数据保护条例》（GDPR）为依托，以《人工智能法提案》为主导，欧盟对人工智能这种关涉个人隐私、数据安全等多领域的前沿技术，制定较为严格的监管路径是在各方预期之内的。

“强监管是欧盟近几年对于自身的数字主权、技术主权重视和关注的体现。” 北京师范大学互联网发展研究院院长助理、中国互联网协会研究中心副主任吴沈括认为，欧盟当前治理的主要目的是约束以美国大型互联网企业为代表的，美国方面的科技渗透和科技压迫，以此保护欧盟公民的基本权利和发展欧盟的数字产业。

2021年4月，欧盟公布《人工智能法草案》,这是世界范围内第一部针对人工智能进行规制的法律。此前，欧盟在2018年、2020年相继发布人工智能治理领域重要文件《可信人工智能伦理指南》《人工智能白皮书—通往卓越和信任的欧洲路径》。

汇集了微软、谷歌等科技巨头的美国，在人工智能领域亦展露了其打造垄断地位的野心。华东政法大学政治学研究院院长、人工智能与大数据指数研究院院长高奇琦认为，比起欧盟的强监管，目前美国更倾向于让人工智能产业“跑起来”。 

2019年，特朗普政府签署行政令《保持美国在人工智能领域的领导地位》，要求将更多资源和投资用于人工智能的学习、推广和研究。在去年通过的《美国创新与竞争法案》中，美国将人工智能和量子计算等研究共同列为2022 财年美国研发预算优先事项。

“美国采用的是企业自我规制和政府规制相结合的治理路径。”张欣指出，美国目前以《算法问责法》为引领，创建了一系列在公共治理场景中人工智能应用的程序化问责路径。

2019年6月，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则》，提出了人工智能发展相关方需要遵循的八项原则。时间走过三年，我国的人工智能治理体系现况如何？

从现有规则来看，我国的治理路径与欧盟和美国都不尽相同，在伦理规则和法律法规方面皆有布局。

9月6日，深圳公布全国首部人工智能产业专项立法《深圳经济特区人工智能产业促进条例》；同月22日，上海通过《上海市促进人工智能产业发展条例》，并在10月1日正式施行。法律参与人工智能治理的发令枪已然打响。

值得注意的是，在上海和深圳的条例中，均有一个引入注目的创新点——对人工智能进行分类分级监管。无独有偶，在此前欧盟的《人工智能法草案》中，也提出要将人工智能风险进行分级，不同级别采用不同规则管理。

“风险分类分级是与当下数字化发展的态势相适应的一种立法选择。”吴沈括认为，风险分类分级可以针对性地构建必要的规则，最大限度地实现人工智能安全和人工智能产业发展之间的一个动态平衡。

同济大学法学院副教授、上海市人工智能社会治理协同创新中心研究员陈吉栋指出，深圳与上海虽然规定了分类分级，但与欧盟人工智能条例相比并未出台详细的制度设计。“一方面，分类分级制度的核心是不同主体的权利义务的设置，在我国属于中央事权的范畴，地方立法探索的空间有限；另一方面，两地立法在定位上，偏重产业法定位而非治理法定位，相比进行治理，更强调立法促进产业发展。”

法律之外，伦理规则的布局也在进行中。2021年，国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》，提出将伦理道德融入人工智能研发和应用的全生命周期。

今年9月，上海和深圳颁布的人工智能发展条例也要求政府建立人工智能伦理（专家）委员会（以下简称“委员会”）。根据条例，委员会的职能包括制定伦理规范、推动相关组织机构开展问题研讨和标准制定、对重点领域风险进行评估等。而此前发布的《关于加强科技伦理治理的意见》要求，若机构从事人工智能科技活动，其业务涉及科技伦理敏感领域的，也应设立科技伦理（审查）委员会。

如果将法律法规比作“硬法”的话，那么伦理规则便可被视为“软法”。 

高奇琦认为，法律的强监管虽然会带来安全性的提升，但同时也意味着较高的合规成本。我国人工智能产业处在发展的初期，由于其技术本身和应用场景的不确定性，企业如果将资源向合规倾斜，可能面临着无法维生的窘境。 

张欣则指出，相比之下，伦理规则等软法更具灵活性，其可以更好地平衡科技创新、公共安全以及社会秩序等多元利益目标。

“数字社会的治理，在‘硬法’之外需要‘软法’的配合。”陈吉栋直言，“硬法”之“硬”在于权义设置、程序安排、监管责任等方面的规则刚性及其背后的强制力。虽然硬法可以为治理提供稳定的规则，但现阶段仅适用于高风险、违法性明确的行为，且具有相对的滞后性。然而，人工智能技术的发展迅速，对于其发展轨迹与可能风险，政府、企业和社会可能处于共同的无知状态，很难对相关产业活动划定清晰边界，此时用伦理、习惯和技术路径等“软法”划定底线和指引方向，是当前的不二选择。如此，软硬结合，共同构成了科学的治理体系。

人工智能产业方兴未艾，我国的治理之路将要走向何方？

清华大学人工智能国际治理研究院副院长梁正指出，人工智能产业的治理除了政府，还应该包括行业组织、企业等主体。人工智能产业是治理实践的“前哨站”，能够第一时间发现和面对问题。也正因如此，国家立法和政府监管之外，行业也可以自发制定现有法律与伦理底线之上的合规体系、技术标准等。

在9月刚刚落幕的世界人工智能大会上，阿里巴巴就发布了联合多个研究机构撰写的《人工智能治理与可持续发展实践白皮书》，讨论行业人工智能治理实践面临的问题。

“对人工智能的治理需贯穿整条产业链，包括对基础层、技术层和应用层的治理。”张欣从技术视角给出了建议。基础层指的是对数据以及相关硬件设施的治理；技术层则将关注的重点放在算法以及底层框架上；而在应用层则需要结合场景和产品对模型系统以及应用平台进行治理。 

吴沈括则表示，除了关注技术要素，人工智能对相关社会组织管理体系的影响以及伦理内容的影响也是不可忽视的。

事实上，我国目前尚未针对人工智能治理专门立法。2017年7月，国务院印发《新一代人工智能发展规划》，其中提到，计划在2025年初步建立人工智能法律法规、伦理规范和政策体系。未来，我国人工智能治理能否迎来一部专门立法？

张欣解释了人工智能技术立法治理的必要性。一方面，人工智能技术应用具有跨域性和场景性，很难通过单一性的法规或者规章予以系统解决。另一方面，目前对标的主要司法辖区均出台或者提出了人工智能治理的基本法，对人工智能开展系统化的法律制定符合国际治理趋势。

随着人工智能对社会生活、产业发展的影响力逐渐扩大，未来必然有立法监管和治理的必要。梁正直言：“目前国家层面已经在对立法可能涉及的各项问题进行研究。”

出品：南财合规科技研究院

策划：曹金良

统筹：郭美婷、李润泽子

研究员：郭美婷、李润泽子、冯恋阁