制约算法不合理应用存在难题 合理提高算法应用的透明度

大数据“杀熟”，刷好评、隐差评，混淆竞价排名与自然排名……

一些算法应用缘何成了“算计”消费者的武器?

阅读提示

目前，网络消费领域涉及消费者权益的算法应用问题主要有推荐算法、价格算法、评价算法、排名算法、概率算法、流量算法等。中消协指出，算法应用问题具有技术性和隐秘性，潜移默化影响着消费者的决策，消费者以个体力量没法抗衡，应加强对算法应用的有效规制。

网络游戏企业公示了游戏道具的抽奖概率，但用户反映实际中奖概率低于企业公示的抽奖概率;区别对待新老用户，老用户看到的价格比新用户看到的更高;部分平台和平台经营者为了获得好评，运用刷单等方式编造虚假高分评价，或者隐匿中差评，使真实评价无法全部显现，误导消费者;混淆竞价排名与自然排名，左右消费者决策……《工人日报》记者从中国消费者协会1月7日在北京举行的“网络消费领域算法规制与消费者保护座谈会”上获悉，在网络消费领域，存在一些企业利用算法钻法律的漏洞，侵犯消费者权益的问题，导致消费者被算法应用“算计”。

对此，中消协秘书长朱剑桥表示，常见的网络消费领域算法应用问题具有技术性和隐秘性，潜移默化影响着消费者的决策，消费者以个体力量没法抗衡。如果无视这些现象，任其继续发展，一方面不利于市场经济公平竞争，另一方面将使一些消费者成为算法应用的受害者。因此，急需社会各界共同努力，加强对算法应用的有效规制，促进其合理规范应用。

投诉网游道具抽奖概率问题难解决

朱剑桥表示，根据消费者投诉、有关调查和相关媒体报道，网络消费领域涉及消费者权益的算法应用问题主要有推荐算法、价格算法、评价算法、排名算法、概率算法、流量算法等。

“以概率算法为例，一些线上经营者开展有奖销售、抽奖兑换，特别是部分网络游戏公司经常性推送游戏道具抽奖活动，虽然公示了中奖(掉落)概率，但是其算法程序不透明，实际中奖概率缺乏管控，屡遭消费者诟病。”朱剑桥说。

在当天的座谈会上，安徽省消费者权益保护委员会秘书长丁涛介绍说，去年12315热线等渠道共接到消费者关于安徽芜湖一家网络游戏公司的投诉举报953件，主要反映该公司在道具抽奖概率方面的一些问题。例如，该公司公示了道具抽奖概率，但用户反映抽奖多次，计算概率达不到公示的概率。

丁涛表示，对于网络游戏抽奖概率及规则设置问题，以前《网络游戏管理暂行办法》里面有相关的条款，但该办法2019年7月已经废止。

“此外，由于游戏公司自述其网络游戏抽奖概率合法合规，这一观点与消费者投诉的情况截然相反。为了尊重事实，正确处理，芜湖市消保委组织召开了市区两级市场监管部门、文旅部门、公安部门等相关部门联合处理推进会，共同对该游戏公司存在的概率等问题进行调查核实。因为对概率规则等问题缺乏专业的认定能力，也找不到权威第三方机构进行认定，使调查受到一定的阻碍。这个问题目前也没有得到很好的解决。”丁涛说。

制约算法不合理应用存在多方面难题

“针对算法应用问题，电子商务法对于算法应用中的推荐算法、价格差别待遇、竞价排名等都进行了规制。”北京工商大学法学院教授吕来明表示，但当前算法应用规制条款在实践中面临的问题主要是，推荐算法规制中要求同时公布的不针对特定消费者的选项难以落实和验证，算法歧视中的大数据“杀熟”问题在执法中并未实现有效监管，网络游戏等特定行业的算法监管规则和监管部门缺失等。

不过，中国法学会消费者权益保护法研究会副秘书长陈音江指出，大数据“杀熟”等算法应用具有隐蔽性强、消费者维权举证难的特点，且部分商家虽然存在特定推送行为，却难以界定是否属于法律规定的不合理推送，而且涉事企业否认大数据“杀熟”。消费者虽然对此颇有怨言，却又无可奈何。

“造成这一问题的原因是多方面的：在法律规制层面，仅针对推荐算法特定现象的粗略性规定，在技术支撑上缺乏可操作性与可验证性，对算法应用规制整体上没有形成相对完整的逻辑链条。在监管方面，实践中对算法应用进行规制存在技术门槛且认定困难，目前的监管能力和技术水平有限。在消费维权方面，消费者发现侵权和举证比较困难，而且多数是小额财产利益损害，积极维权的情形不多。”吕来明说。

应合理提高算法应用的透明度

针对一些算法应用侵犯消费者权益的问题，中消协副秘书长栗元广认为：“不论算法这种技术本身是否中性，算法应用背后潜藏的经营者价值观念并不是中立的，流量至上、利润至上的算法应用，可能会使经营者行为有悖法律、有失道德、有违伦理。因此，为更好保护网络领域消费者权益，应有效规制算法应用中的问题。”

栗元广表示，经营者应在算法应用中加强自律，守法经营，诚信应用算法，不得利用技术手段欺骗隐瞒真实情况，欺骗消费者，或者实施不正当竞争行为。

“互联网与算法应用十分广泛，建议有关行政部门加强相关协调，细化监管职责，完善执法依据，做好规章废改衔接;建立算法投诉审评机制，保障消费者和社会各界的投诉、监督权;培育第三方技术鉴定机构，强化对算法应用的技术审核力量。在个人信息保护法、反垄断法、反不正当竞争法、价格法等相关法律中，建议增加算法应用的相关规定。”栗元广说。

吕来明建议，应合理提高算法设计和运行中的透明度。由于技术和法律原因，要求算法完全透明并不现实，因此算法透明化需要限定在一定程度和范围之内，以取得创新与监管的合理平衡。同时，分类型或层次，根据风险不同确定监管强度，根据不同的风险等级，对算法给予市场调节、备案、增加透明度、许可、说明与解释、限制使用等不同措施。(记者 杨召奎)