创新治理两个轮子一定要协调推动

　　←7月9日，薛澜在2021世界人工智能大会法治论坛上演讲。

　　治理

　　7月8日，2021世界人工智能大会在上海世博中心开幕。来自学界和业界的专家对如何科学评估人工智能应用的社会综合影响、如何推进人工智能更好应用于公共治理决策、如何利用人工智能促进治理体系和治理能力现代化等问题进行了探讨。国家新一代人工智能治理专业委员会主任薛澜总结了从2017年至今，我国人工智能治理经历的变化，指出未来的治理模式应该是从当前的集中治理转变为敏捷治理，监管应加强与市场的沟通，灵活运用各种工具，平衡创新与风险。

　　人工智能治理应有全球性标准

　　要形成AI的良治，需要有政府的参与，企业领袖、学术界研究人员以及全世界每个个体的参与。

目前人工智能治理面临责任归属的难题。谁负责解决这些问题？比如自动驾驶汽车事故谁负责？车主、制造商还是自动驾驶算法的开发商？这需要我们更新升级法律体系，目前的法律体系是为工业时代建设的，我们需要对它重新设计以适应信息时代的需要。一些新的风险的解决可能需要法律对责任重新定义，才能更好适应产业的发展。

——中科院外籍院士、图灵奖获得者约翰·霍普克罗夫特

　　两种风险

　　一种是即时性风险，例如自动驾驶，汽车的识别出了问题就可能直接导致事故。

　　一种是积累的风险，短时间内人们不一定能意识到，但通过积累会对社会产生深刻影响，例如就业问题，人工智能的发展对就业的影响是长期的，而且不一定是正面的。

　　焦点

　　是否会发展出人类无法驾驭的智能系统？

许多技术专家表示，发展出成熟的通用人工智能还需要很长的时间，但薛澜提示道，是否要走发展通用人工智能的道路，也可以先进行一些讨论。

　　人工智能技术在军事上的应用如何应对？

此外，人工智能技术在军事上的应用也应该引起重视。比如，人工智能是否会引起新一轮的军备竞赛？人工智能技术能力的差别是否会导致国家之间或者国家内不同群体之间的福利差距？如果能够制造大规模杀伤性武器的人工智能技术被恐怖组织掌握，该如何应对？这些都需要深入探讨。

　　人工智能的风险有哪些？

“人工智能的风险有些是即时性的，比如自动驾驶出了事故，很快就能知道问题出在哪里；但有些是积累性的，短时间内体会不到，人们只看到它可以给公司带来很好的经济效益，但等问题出现的时候，社会影响已经造成了。”薛澜提醒，积累性的风险更需要未雨绸缪去关注，需要前瞻治理，“等真正意识到需要去改变的时候，可能已经非常困难了。”

　　人工智能国际合作如何实现？

薛澜认为，首先是各国学者将不同政见放在一边，加强学术交流，寻找共同价值观念，形成国际治理体系的一些标准。此外，人工智能治理也可以从互联网、核技术、气候变化等其他全球治理问题中学习经验，吸取教训。

　　三种治理模式

　　回应治理

从2017年到2020年，我国人工智能治理采取的是回应治理模式。这个阶段的主导政策是推动人工智能技术发展，形成有利于创新的环境。总体来讲，对于发展过程中出现的大大小小的问题，监管采取了包容审慎的态度，针对出现的问题出台了一些软性规则，在科技部的推动下成立了新一代人工智能治理专家委员会，出台了新的人工智能治理准则，这些主要是引导性、规范性的措施。

　　集中治理

从去年开始，我国人工智能治理进入了集中治理模式。由于对很多问题的应对不够集中、不够及时，就触发了集中治理，很多部门采取措施进行整治。去年蚂蚁金服上市被叫停，最近滴滴出行被下架，以及市场监管总局对互联网经营者的处罚都是集中治理的体现。

另一方面，相关法律法规的出台在加快步伐。今年9月1日《数据安全法》将正式实施，《个人信息保护法》二审已经完成，地方出台相关数据条例……薛澜指出，集中治理模式明确了国家加强行业监管、促进制度落地的决心，对暴露出来的各种问题采取比较坚决的措施，落实监管规则。

　　敏捷治理

薛澜介绍，首先，敏捷治理背后的价值理念是以创新为导向，同时进行风险规制。他指出，创新和治理是两个轮子，一定要协调地推动。如果没有很好的治理，就很难创新和很好地发展。第二个特征在于治理主体多元协同。薛澜指出，监管规制的主体当然是政府，公共政策的制定、执行要靠政府监管部门，但同时应该注意在很多治理过程中的公众参与，包括学术界在内的社会各方面意见都需要充分吸纳。

在敏捷治理中，治理主体是多元的，治理对象也并不单一。薛澜认为，应自下而上分层治理，数据算法、应用场景、企业和平台，都要作为治理对象被考虑在内。最后，治理工具要刚柔并济，灵活运用。“从刚性的法律法规，到柔性的企业自我规制，这之间什么场景选用什么规则，还需要我们进一步考虑。另外还有技术，很多技术工具在治理领域可以起到有效的治理。”薛澜强调。

　　设置“中间态”化解供需矛盾

　　对数据的市场化配置，也应该设置“中间态”，这样有利于解决数据交易定价难、计量难、流通成本高、安全风险大的问题。这个“中间态”应该为“数据元件”。简言之，就是对原始数据先进行处理，通过将有价值的信息提取出来，或将敏感信息清除、拆解重新组合等等办法，使其成为安全、便于交易的数据。

——中国电子信息产业集团有限公司副总经理陆志鹏

　　建立数据交易定价原则

　　公共数据交易的对象，应该是经过加工后的产品，要对原始数据进行脱敏处理。此外，还应推动数据交易产品的标准化，建立数据交易定价原则。在交易内容方面，控制权、使用权、收益权可以单独交易，也可以组合交易。

——上海市第十五届人民代表大会财政经济委员会主任委员戴柳

　　观点

　　360集团创始人、董事长周鸿祎：数字化程度越高，安全的挑战就越大

　　“万物均要互联，打通了虚拟世界和物理世界，特别是工业互联网、车联网和物联网，它们已经把联网设备和基础设施连到网络上去了。过去虚拟世界里的攻击和伤害，现在会直接影响到现实世界，造成物理伤害，导致诸如工厂停工、大面积停电、社会停摆等状况。”周鸿祎称，“一切皆可编程，也意味着漏洞无处不在，也就意味着，支撑着我们整个城市运转的每个系统，都不可避免地存在安全漏洞。有漏洞就有可能被攻击。”

　　周鸿祎认为，“虽然数字城市有无限的想象空间，但从安全角度来看数字化程度越高，安全的挑战就越大。”对此，他建议与城市数字化转型同步，将安全体系与数字体系融合，攻防能力和管控能力融合，构建真正面向数字城市的新一代能力框架。

　　西门子CEO博乐仁：引入网络安全技术进行信息监管

　　通过视频连线，西门子股份公司董事会主席、总裁兼首席执行官博乐仁（Roland Busch）在会上也提出，数字化正在推动产业变革，带来更高的生产力、质量和灵活性，以及可持续发展，其中互信和网络信息安全保障的建立至关重要。

　　“要在人工智能领域取得成果，需要深刻理解客户及其运营中所面临的挑战。此外，双方需要建立互信、共享数据。但即使有了最高程度的互信，数据仍有泄露的风险，安全系统仍有被破防的可能。因此，保证网络信息安全是成功实现数字化转型和人工智能应用的必要前提。中国已经意识到这一议题的重要性，这与西门子不谋而合。”博乐仁称。博乐仁建议，在建立平等合作生态系统的同时，应通过引入网络安全等技术来进行监管。

　　商汤科技创始人徐立：AI创新颠覆过往认知

　　在题为《人工智能创新新范式-机器的猜想》的开幕演讲中，商汤科技联合创始人、CEO徐立提到，人工智能的突破将能够有规律地拓展人类的认知边界。他指出，无论是过去的经验归纳、推理演绎，还是现在利用大数据和仿真模拟，通常意义上的四种科研创新范式都有着既定的模式，但人类历史上很多颠覆性的科学创新和重大突破，都是颠覆共识的、不可预测的，多源于“天才的猜想”，造成这种现象的原因，在于人类对未知世界的认知局限。

　　徐立强调，人工智能的创新来源于对过往认知的颠覆，因此行业应用中的伦理治理问题就愈发重要。“以人为本、技术可控、可持续”是国际上具有广泛共识的技术伦理治理框架，但在不同的发展阶段，需要三者的平衡发展。

　　对此，徐立倡导行业社会要秉承“发展”的人工智能伦理观，其一是在谈论伦理治理时，要考虑普惠发展的目标，即用人工智能技术推动社会进步；其二是在先进技术落地的同时，要考虑行业变革的快速性，针对不同的发展阶段，找出不同治理框架下的发展平衡。

采写：南都记者 马嘉璐 马宁宁　　见习记者 李娅宁 实习生 林文琪

图片来源：2021世界人工智能大会新闻中心