此前,根据国务院2021年立法计划,国家网信办11月14日公布《网络数据安全管理条例(征求意见稿)》,并向社会公开征求意见。征求意见稿对互联网平台运营者义务作出规定,要求互联网平台运营者应当建立与数据相关的平台规则、隐私政策和算法策略披露制度,及时披露制定程序、裁决程序,保障平台规则、隐私政策、算法公平公正。那么平台经济如何保证算法公平?针对这个问题,中国财富管理50人论坛编辑部专访了《平台金融新时代——数据治理与监管变革》作者之一,招商银行首席经济学家丁安华先生。
正文
《网络数据安全管理条例(征求意见稿)》征求意见稿对互联网平台运营者义务作出规定,要求互联网平台运营者应当建立与数据相关的平台规则、隐私政策和算法策略披露制度,及时披露制定程序、裁决程序,保障平台规则、隐私政策、算法公平公正。日活用户超过一亿的大型互联网平台运营者平台规则、隐私政策制定或者对用户权益有重大影响的修订的,应当经国家网信部门认定的第三方机构评估,并报省级及以上网信部门和电信主管部门同意。
为此,征求意见稿要求,互联网平台运营者不得利用数据以及平台规则等从事以下活动:一是利用平台收集掌握的用户数据,无正当理由对交易条件相同的用户实施产品和服务差异化定价等损害用户合法利益的行为;二是利用平台收集掌握的经营者数据,在产品推广中实行最低价销售等损害公平竞争的行为;三是利用数据误导、欺诈、胁迫用户,损害用户对其数据被处理的决定权,违背用户意愿处理用户数据;四是在平台规则、算法、技术、流量分配等方面设置不合理的限制和障碍,限制平台上的中小企业公平获取平台产生的行业、市场数据等,阻碍市场创新。
算法不公正导致的掠夺性消费、大数据杀熟、隐私暴露等问题以及科技伦理问题备受诟病。算法不公的问题是一种金融科技伦理问题,算法权力与算法歧视问题为其主要表象。
《平台金融新时代》一书中以平台金融为例,分析了平台经济存在的算法不公的风险所在,提出金融科技公司基于海量用户的另类数据,通过大数据算法深度计算分析消费者的行为习惯、性格爱好、经济条件等,实现对消费者的精准画像,进而匹配符合其最大偏好和意愿的金融产品,达到“千人千面”的个体化服务。这在一定程度上满足了用户更深层次的金融需求,但同时也形成了一种新型权力形态:“算法权力”。即金融科技公司运用大数据算法引导甚至操纵用户的需求与痛点。
典型的例子如大数据杀熟。又如,算法的“茧房效应”限制用户对信息的自由选择,将用户置于算法建立起来的泡沫之中,只接触自己喜欢或认同的内容,造成用户自我封闭或产生某些偏见,影响用户的思维模式并扭曲用户的认知,不利于用户的长远发展。由于金融科技公司的行为主要通过算法实现,因此,人文社会中所关注的歧视(性别、年龄、种族、宗教、残疾等)问题很有可能被无意或有意地嵌入算法程序之中。
丁安华分析,金融科技公司的目标客户大部分是通过算法发现的。由于涉及广大消费者的利益,所以要保证算法公正,为此要强化针对算法的合规监管。
丁安华表示,算法合规主要聚焦于数据加工环节,侧重于防范金融科技公司的算法歧视和过度开发问题,背后涉及到更为本质的伦理问题。算法歧视来源于算法的设计和处理过程中被有意或无意地嵌入伦理偏见,这些偏见可能被复杂晦涩的计算过程所迷惑。因此,金融监管需要适当介入,以保证算法的客观公正有效。目前主要国家对算法的监管原则,是强调算法本身必须是可解释、可验证、透明和公平的。
“除了算法歧视之外,数据处理过程中还牵涉数据采集的原始意图问题。”丁安华说,现实中,数据驱动的平台科技公司,不断开发新的算法,将数据的商业价值最大化,可能超出了最初收集个人信息的原意。这违背了数据“专事专用”的原则,过度开发增加了滥用个人数据的风险。
《平台金融新时代》的核心观点之一,就是对于平台金融而言,数据治理和数据安全保护也是核心问题。丁安华说,算法合规,是金融监管中的一个明显的薄弱环节,亟待加强。为此,需要强化针对算法的行为监管,构建算法合规的内部治理和外部审计体系;提高算法透明度,要求企业数据自动化决策系统可追溯与可验证;同时,将监管要求、社会伦理和反垄断审查等嵌入到算法合规监控之中。
算法本质上是以数学方式或者计算机代码表达的意见,用非人格的技术性手段承载了人文社会的价值观,设计者和开发者的偏见可能会被嵌入算法系统,隐藏于算法黑箱之中。加之考虑到数据的准确性和有偏性,机器具有自我学习、自我适应的能力,人类社会基于信息、认知的“反身性”特性等,更容易强化隐藏于数据、算法中的偏见,激化社会伦理上的矛盾,典型例子如信息茧房、算法偏见等。
在此背景下,对于平台运营者,如何建立合理有效的算法促进自身高质量发展,同时在效率和社会公平方面做好平衡?
“对于平台经营者而言,需要建立完善的内部的数据治理体系,避免出现如隐私泄露、非授权使用、数据独裁、算法偏见等一系列问题,主动把好算法合规第一关。”丁安华建议。
在监管方面,《平台金融新时代》中还提出根据平台金融进入金融业务的节点给予有限分级牌照。
丁安华介绍,在实际操作中,总的原则是坚持一致性与差异化相结合。鉴于金融科技公司对金融业务的节点式介入,需要根据分工状况,拆解现有的全牌照,构建分级牌照体系。
“建立分级牌照体系,可以在防范监管套利的同时,保持监管的针对性和灵活性。我们建议,可划分为全牌照和有限牌照,按金融科技公司实际从事的节点业务类型,颁发相应的业务准入牌照。有限牌照,需要与全牌照或其它有限牌照结合,才能构成从事某项业务的完整资质。在涉及专业技能和面对公众的岗位时,须严格资质管理,约束从业人员行为。”丁安华表示,对节点式介入金融的平台金融科技公司,即使获取有限牌照,如不涉及资金收付,可能不会面临信用风险,其风险主要来自数据安全和技术风险,其监管方式应从传统信用业务的资本管理、流动性管理转向数据安全、算法合规和技术风险为主的数据治理。
(本文转载自中国财富管理50人论坛(CWM50))
-END-
责任编辑|余然
点击“在看”传递最新研究报告