人工智能治理伴随着人工智能技术的全球勃兴,正在成为人类社会共同关注的重要议题。近年来伴随着人工智能技术的更广泛应用,人工智能治理问题从零散无规律的单点问题,演进成为有统一特征的共性问题。各国政府、企业、行业专家的共识是,解决人工智能治理问题不能简单的“头痛医头,脚痛医脚”,应该从纷繁复杂的案例之中抽象出人工智能治理的原则性思路与解决方案,才能有效应对与人工智能更加深入绑定的未来AI社会到来。

2021年1月18日,旷视人工智能治理研究院携手权威研究机构人民智库联合发布《2020年度全球十大人工智能治理事件》,回顾并分析了过去一年中最具理论价值、实践价值、新闻价值、以及研究价值的人工智能大事。在日益迫切的人工智能治理需求之下,十大事件成为了目前国内关于人工智能治理的最佳讨论契机和发声平台,在十大事件讨论区之下,聚集了国内的知名学者畅谈AI治理,专家们各抒己见中都反映了国内AI治理的现状、及未来发展趋势,诸如“多元共治”、“敏捷治理”等原则性观点在十大事件中得以进一步凸显并成为普遍共识。

人工智能治理的下一步:从伦理讨论到治理落地

在之前的很长一段时间内,“人工智能伦理”在媒体报道和行业会议之中都作为高频词汇出现,而与其类似的“人工智能治理” 的内涵和范畴却很少被提及和厘清。北京大学光华管理学院金融学助理教授卢瑞昌表示原因有三,“第一,众多机构和国际会议更多停留在人工智能议题探讨阶段,较少能够真正出台相关的治理报告和倡议;第二,行业参与者经常将人工智能治理与人工智能伦理这两个概念混用,误以为伦理道德标准的制定即为治理。第三,即使是已经出台的人工智能的相关治理报告和倡议,亦缺乏进一步更为明确的治理路径与方案,因此不能推动具有共识性和约束力的全球治理机制的产生”。

相对应的,卢瑞昌教授认为人工智能治理应当是一项系统性工程,“随着人工智能技术社会影响力的增大,人工智能治理要落到实处就需要厘清和建立具体的、可执行的制度安排”。从体系上讲, “人工智能治理的具体范畴应该是在人工智能伦理的标准下,对管理和执行人工智能伦理规范的制定,以及后续的维护、监管、问责等具体机制的建立和执行。同时,正如人的理性认知是动态变化的,人工智能治理的内容也是一个协调多个利益相关方且持续互动的过程”。

在原则方面,北京大学中国社会与发展研究中心主任邱泽奇教授认为AI治理的基本原则是促进人类福祉的帕累托改进和社会最优,“至少在通用AI获得社会合法性之前,依然是针对人类自身的治理”。在这个逻辑前提下,“倡导AI向善,应作为促进AI发展的基本治理原则。在未得AI危害的前提下,倡导大胆的AI技术和应用创新,运用AI提升改善社会福祉的效率,应是治理的第一优先原则;而不宜反其道而行之,因噎废食。在获得AI之于大多数人危害的前提下,运用社会规则遏制危害,用AI改善AI,则是AI治理的第二优先原则”。

多元共治:智能物联网社会作用下的必然结果

在外卖算法问题下,算法一步一步逼近外卖骑手的时间极限,骑手为保证不超时选择闯红灯等危险方式。针对该问题,清华大学公共管理学院教授、清华大学人工智能国际治理研究院副院长梁正提出了多元主体共治治理体系。梁正教授认为,“人工智能治理问题不是某一个单一主体可以解决的。我们可以看到,在这个案例里还包括交通规划、收入保障体系不到位等问题,我的结论是——我们需要一个多元主体共治的治理体系。”

人工智能是否必须采取多元共治的治理体系,各方专家学者的观点普遍是肯定的。对此,清华大学社会治理与发展研究院院长、教授,清华大学社会创新与风险管理研究中心研究员张成岗提出了“系统之系统”概念。以车联网这个典型场景为例,“智能物联网发展的原始动力主要来自于对密集的、高变动性的‘物的流动’的管理和控制需要”。是愈发复杂的物联网需求促动人们使用人工智能,而在使用人工智能的同时必须把“城市交通管理、共享单车管理以及无人驾驶出租车管理”整合,让“商业、运输、通信、能源等城市运行的各个系统整合为‘系统之系统’。”

作用到立法领域,清华大学法学院院长、博导申卫星提出了构建综合性立法和具体场景立法相结合的“总-分”式立法体系。综合性立法是进行人工智能顶层设计的最佳形式,通过专门的中央立法可以强有力地指导各地、各领域的人工智能发展。具体场景分别立法的领域包括自动驾驶、自动化决策、精准医疗等,区分不同行业和场景对人工智能技术进行规范。在统一管理的多元体系下,“总-分的立法体系设计将有利于增强国内外对于中国人工智能技术的信任度,提升人工智能国际竞争中的软实力”。

敏捷治理:人工智能治理未完善状态下的基本原则

人工智能治理目前尚处于初步发展阶段,人类社会尚未建立起完善的法律法规体系和道德规范。如果遇到人工智能治理问题,如何在各方条件不够完善的情况下对人工智能治理事件快速做出正确的反应,是专家学者们共同思考的关键点,“敏捷治理”概念因此应运而生。清华大学人工智能国际治理研究院院长薛澜认为,“很多治理问题可以通过技术本身来解决,目前人工智能发展面临的最大挑战是:人工智能技术发展太快,而治理准则作为一种社会体系,其发展有其程序,又是缓慢的,因此,我们需要‘敏捷治理’。”

敏捷治理的积极作用在于“不因噎废食”,能够在人工智能动态发展的过程中持续解决人工智能治理问题。旷视首席发展官、旷视 AI 治理研究院院长徐云程提出,“人脸识别技术只是深度学习相对成型和商业应用比较广泛的一类技术,在新技术不断成熟的过程中,我们应该用怎样的方法来解决不断涌现出的新问题。个人希望,人脸识别技术能够为人工智能时代打造一个样本,即在面对新出现的伦理问题时,不因噎废食,同时又能建设性地解决问题。”

在人工智能快速发展的过程中,也有学者呼吁不要“盲目人工智能化”。 南开大学经济与社会发展研究院教授杜传忠曾撰文,“一个令人忧虑的现象是很多地方和企业无视制造业智能化的内在逻辑及要求,一窝蜂式地推进制造业智能化,盲目上项目、扩投资。这样推进制造业智能化,蕴藏着一定的危险性,特别是在这个速度化时代,一旦失误将损失巨大,甚至直接关系到企业存亡和行业发展前景,进而影响国家整体经济运行。”

因此,在敏捷治理的前提下,人工智能治理相关法律法规尽快出台仍然是重中之重,这意味着人工智能治理真正能够有法可依。哈尔滨工业大学深圳研究生院教授、博导徐勇表示,“需要运用法律和道德对AI技术的研发和应用进行约束,正确引导企业的价值观”。加强法律法规对人工智能的约束也能在一定程度上避免不健康的“超级权力”出现, 复旦大学计算机科学技术学院教授、博导张军平表示,“一方面可以多依靠超级权力在大的、相对成熟的技术方面持续发力,让公众有更多的获得感、幸福感、安全感,另一方面也应考虑对小企业给予更多的优惠政策,鼓励其在人工智能或相关领域从事研究和应用,保证其良好的生存和发展空间”。

人工智能治理,是人类进入人工智能时代所必须要面对的持久命题。人工智能治理的长久发展,还需要更多人持续不断的摸索与实践,让人工智能更好、更安全、更高效的造福人类社会。旷视AI治理研究院自成立以来,以企业的AI治理研究为己任,持续联合外部专家和学术机构,产学联合进行深入的AI治理研究。《2020年度全球十大人工智能治理事件》下,专家学者共同总结的“多元共治”、“敏捷治理”等原则,为人工智能治理总结了初步的方法与经验,也让旷视AI治理研究院新一年的学术研究有了个好的开始。