用户如何不被算法“算计”？建议平台对算法分级

　　吴杰庄 全国政协委员、高锋集团董事局主席 企业应推动算法向可解释的方向发展,可提供不同程度的算法供用户选择,比如把(有算法参与的服务)等级分为1-10级,这可以最大程度保证消费者的利益。

　　张凌寒 北京科技大学文法学院副教授 算法使用者掌握着海量数据、庞大算力和先进算法,可以对用户进行画像、行为预测,并基于此进行内容推送、个性化定价等。普通用户、消费者相对于算法使用者,无论在经济力量还是技术力量上都处于弱势。

　　梁正 清华大学公共管理学院教授 人工智能国际治理研究院副院长 算法公开可从因果机制入手,引导其向可解释的方向发展,就像我们去购买一辆汽车,我们没有必要去了解汽车的发动机是怎么运行的。在算法公开的过程中,相较于技术细节和特征参数,应更着重于其设计算法时考虑的特征因素。

　　算法到底是什么?为什么它可以决定我们看什么、买什么?这样下去,我们会被算法“算计”吗?对于普通人来说,算法在给生活带来诸多便利的同时,也自带“黑箱”属性,难免引发上述担忧。3月9日,南方都市报“两会·大家谈”之人工智能专场——如何不让算法成为黑箱?会上,有专家提出,企业应公开更细节的算法机制的运行逻辑,给用户选择不同程度的算法服务的权利。但也有专家认为,算法公开既无必要,也存在一定的不可行性,算法治理应更着重于加强可解释性和透明度。

　　相关政策法规

　　3月初,《互联网信息服务算法推荐管理规定》(下称《规定》)正式施行,要求算法推荐服务提供者以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。但是,什么是适当方式、公开到何种程度等问题仍有待细化。

　　相较于算法的使用者,消费者处于弱势

　　专家:算法使用者可能在利益驱动下,传播低俗媚俗信息

　　算法无处不在。从饮食到出行,人们将生活的诸多方面交予其决定,然而与此同时,却难以一窥其背后的决策逻辑,对其呈现出的世界也少有质疑的机会。

　　“在算法决策中,有一部分、有时甚至是整体由机器进行决策。”中国社科院科技和社会研究中心主任段伟文说,“所以就算是程序员或是科技公司,他们有时对于算法的后果也不一定那么了解。”

　　全国政协委员吴杰庄则对算法应用时的个人信息泄露表示担忧,“有时候聊天提到一些东西,然后很快你的信息平台就会推送相关的产品或者是服务,这会令消费者怀疑其中是否存在不正当收集个人信息的行为。”

　　在信息安全之外,算法中的价格歧视同样饱受诟病。今年三月,北京市消协发布了互联网消费大数据“杀熟”问卷调查,结果显示,超八成受访者认为大数据“杀熟”现象非常普遍或普遍。

　　“普通用户、消费者相对于算法使用者,无论在经济力量还是技术力量上都处于弱势,”北京科技大学文法学院副教授张凌寒指出,“算法使用者掌握着海量数据、庞大算力和先进算法,可以对用户进行画像、行为预测,并基于此进行内容推送、个性化定价等。”

　　《规定》明确,算法推荐服务提供者不得利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。此外,去年十月开始实行的个人信息保护法也对自动化决策作出了相应规制,规定不得对个人在交易价格等交易条件上实行不合理的差别待遇。

　　“算法使用者可能在追逐流量的利益驱动下,通过千人千面的个性化推荐算法,导致低俗媚俗信息传播、假新闻泛滥、舆论被误导。”张凌寒说。

　　“大数据杀熟”成流行语,算法该如何监管?

　　建议:企业应加强算法透明度和可解释性

　　2018年,“大数据杀熟”当选为年度社会生活类十大流行语,个性化推荐、自动化决策等话题也逐渐走入公共视野。此外,对外卖骑手的关注、热搜榜规则的质疑更进一步地催动大众对于算法黑箱的不满,呼吁算法公开、透明的声音也逐渐难以忽视。那么,算法该如何监管?企业又该如何使算法更可理解、使用户有更多选择呢?

　　对此,清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正提出了自己的观点。“(算法公开)从技术的角度既无必要、也存在一定的不可行性。因为目前基于机器学习训练的算法,是不断迭代的。”他解释道,“而比如大型科技公司的个性化推荐算法可能由上千名工程师共同完成,在两者的共同作用下,算法公开在技术上有很大的不可行性。”

　　梁正提出,算法公开可从因果机制入手,引导其向可解释的方向发展,他以购买汽车举例:“就像我们作为普通消费者,我们去购买一辆汽车,我们没有必要去了解汽车的发动机是怎么运行的。”在算法公开的过程中,相较于技术细节和特征参数,他认为应更着重于其设计算法时考虑的特征因素。

　　吴杰庄同样认为,企业应推动算法向可解释的方向发展,此外,他提出企业可提供不同程度的算法供用户选择,“比如把(有算法参与的服务)等级分为1-10级,这可以最大程度保证消费者的利益,对企业形象也很好,因为他(消费者)会觉得这个企业是很负责任的。”

　　张凌寒强调了算法透明的重要性,她认为算法透明不代表源代码与商业秘密的公开,而是可分为不同的层次。首先,应告知用户其服务中包含自动化决策是最低阶的算法透明,在此阶段用户有选择退出的权利；其次,告知用户算法自动化决策的基本逻辑与考量因素；最高层次是针对具体的算法自动化决策为个体提供理由说明——当然这意味着较高的成本,因此现行法律限定为“对用户权益产生重大影响的自动化决策”,张凌寒说。

　　当算法相关信息的披露对象是监管部门时,张凌寒认为,算法服务提供者应公开更细节的算法模型、机制机理,当然此时监管部门负有保密的义务。

　　除了透明度及可解释性外,《规定》的第七条指出,算法推荐服务提供者应建立健全科技伦理审查管理制度。

　　今年两会上,全国政协委员肖钢也在他的提案中提到算法伦理问题,他在提案中写道,算法将人们的各种足迹和活动,转变为对人们的各种打分和预测,并进行贷款评估、保险评估,规则代码化会带来不透明、不准确、不公平、难以审查等问题。

　　“可以想像科技公司是一个巨大的力量,难免导致不容忽视的负面影响,像早期的枪炮武器一样,存在一种后坐力,那么它实际上也应该正面应对这种后坐力,并做出适当的伦理回调。”段伟文指出,“科技公司有责任要把对于算法伦理的考虑,作为其算法迭代升级,或是算法演化的很重要的方向。”

　　关注数字经济

　　全国人大代表林勇:

　　完善相关监管治理体系　推动数据要素市场化

　　数据已经成为数字经济时代最为核心的生产要素之一。而要充分发挥数据要素价值、驱动产业变革,必须推动数据便捷流动、共享利用,实现数据要素市场化配置。但目前我国在数据交易方面还存在许多问题。在2022年全国两会上,全国人大代表林勇建议规范和促进数据交易,完善相关监管治理体系,推动数据要素市场化配置。

　　林勇指出,目前,我国数据要素的市场化仍存在诸多问题。例如,合规数据交易门槛高。合规数据交易需满足两个条件:一是获得用户在采集环节和交易环节的两次授权；二是个人数据匿名化,经过处理无法识别特定个人且不能复原。目前同时达成这两个条件技术难度大、成本高,提高了数据交易的门槛。数据要素市场化过程中存在的另一大问题是数据权属价格确定难。数据所有权和使用权到底归个人、数据采集方,还是数据交易方,业界尚无定论。同时,由于数据使用目的、边界和服务对象不明确,数据难以形成产品化定价。另外,监管治理体系不健全,非网络数据活动缺乏制度规范。政府层面尚缺乏有效的手段对各领域数据开发利用和流通交易等活动实现全面监管。

　　林勇建议,推动数据交易领域立法。研究制定《数据交易法》,重点明确交易范围、数据权益、配套支持和监管方式。按照大胆尝试、逐步完善、严格监管的原则,在《数据交易法》立法前后,通过制定配套行政法规或部门规章的形式,出台有关数据交易的制度规范。同时也要构建数据监管治理体系。完善制度保障,构建数据监管治理平台技术支撑体系,探索数据要素监管“沙盒模式”。以组建行业联盟的形式搭建政府和企业沟通桥梁,制定行规行约和各类标准。支持企业在政府和行业框架下建立企业标准,强化交易主体责任。

　　全国人大代表马化腾:

　　关注数实融合　打造政府主导的社会应急开放平台

　　今年两会,全国人大代表马化腾提交多份书面建议,内容涉及数字技术和实体经济深度融合、社会应急网络建设等方面。

　　当下数字技术与实体经济正处于系统化、全方位融合的关键时期。但“数实融合”也面临一些问题。马化腾建议引导数字科技企业面向核心产业和重点领域进行研发,推进数字化转型技术标准制定,提高对“专精特新”企业数字化升级支持的精准性和有效性。此外,还要前瞻研究新一代互联网的关键技术与治理规则,探索数字化与低碳化协同发展的中国方案；引导技术、资金等资源要素真正流向实体领域；总结推广公共服务数字化建设的先进经验,持续增加对偏远地区、特殊群体的公共服务数字化供给。

　　在2021年河南特大暴雨和山西洪涝灾害中,互联网科技企业在资金筹措、求助信息对接、属地化志愿者、物资调配等多个方面初步发挥了联动效应,凸显利用数字支撑能力构建政府引领、社会协同、公众参与的社会应急网络的必要性。基于此,马化腾提出,可利用互联网技术创新安全宣传教育方式,提高公众安全意识和应对能力,打造政府主导下的社会应急开放平台,将预警信息、应急科普与救援服务有效连接。他建议加强社会应急能力建设与基层治理的融合,探索提高数字化连接能力,将社区志愿者、外卖员、网约车司机、快递员等数量庞大的属地化群体,纳入社会应急志愿者组织体系,通过派单机制将需求和供给精准匹配。

　　全国人大代表杨元庆:

　　构建中小企业数字化转型加速平台

　　全国人大代表杨元庆今年带来了《关于用数字化转型推动更多中小企业迈向“专精特新”的建议》,提出构建中小企业数字化转型加速平台,为中小企业提供数字化评估咨询、培训与资助方案。

　　“数字经济跟实体经济的发展是相互促进的,数字经济只有根植于实体经济的基座中,才能焕发出更大的价值,根深才能叶茂。”杨元庆表示。今年1月,国务院出台了《“十四五”数字经济发展规划》。根据规划,数字经济的发展包括“数字产业化”和“产业数字化”两个主要方面。

　　杨元庆认为,一方面,要大力发展以“端-边-云-网-智”新IT技术架构为基础的“新基建”产业,让数据中心、5G网络、云计算、边缘计算、人工智能等数字产业不断发展壮大,形成核心技术,做强做优做大数字经济；另一方面,要以“新IT”助力各行各业的数字化、智能化转型,实现传统实体经济提质增效、转型升级,才能增强中国制造的核心竞争力。

　　杨元庆告诉南都记者,“在我国数字经济发展的国家战略中,中小企业和大型行业企业同样重要。中小企业不仅是产业链供应链不可或缺的组成部分,而且是创新的重要源泉,对就业、民生等问题都影响重大”。但在数字经济发展进程中,不少中小企业存在数字化基础薄弱,资金和技术人才匮乏等挑战,升级改造动力不足,也缺乏清晰的着力点和抓手。为了更好地推动中小企业数字化转型,培育更多“专精特新”企业,杨元庆建议:第一,政府和相关协会共同建立“中小企业数字化发展指数”,为评估中小企业发展水平提供科学依据。这样有利于相关部门更好地把准不同行业与区域中小企业的数字化水平,更高效地帮助中小企业“补课”；第二,构建中小企业数字化转型加速平台,为中小企业提供数字化评估咨询、培训与资助方案,切实促进中小企业数字化转型,解决中小企业数字化转型“不会转、不敢转”的问题；第三,科学精准制定帮扶政策,优化营商环境,助推中小企业数字化转型,包括加大财税支持力度、完善信贷支持政策、畅通市场化融资渠道等。

　　出品:南都人工智能课题组

　　采写:南都记者　胡耕硕　蒋琳　黄慧诗　吴璇　孔学劭　实习生　姬涵雅　姜梦雪　郭一蒨　张丽缇　崔眠曲