新闻内容
2018年09月03日 上一期 下一期

警惕算法危机

本力

    本力

    作为有二十年互联网从业经历的“老网民”,笔者亲身经历、见证了互联网从世纪之交的萌发到泡沫速生速灭,再到指数级爆发,最终成为成熟产业并赢得全球竞争力的全过程。几乎与此同步,经济学在中国的普及和发展也不啻为改革开放以来关于市场精神和现代思想最重要的启蒙。

    在这两方面,笔者都有幸参与其中,并始终作为一个观察者、亲历者关注它们的发展、变迁。近来最重要的一个感触是,由于众多极端甚至是灾难性的事件,特别是今年连续发生的两起女性乘坐滴滴顺风车被害案件,已经使全社会发自内心地从新经济的便利、实惠、自由所带来的乐观和狂欢中清醒,开始全面反思互联网给消费者带来的侵犯和伤害。尤其难得的是,对“市场从来不会失灵”的“经济神学”的再认识,与前几年皮凯蒂《二十一世纪资本论》一书引发的关于“不平等”问题的争论一起,很有可能已经共同开启了一场新的经济学启蒙。

    是时候从对新技术和商业创新的盲目乐观崇拜中走出来了!

    在新经济引擎中,最新的一个受追捧的词语是算法。“从南京到北京,买家没有卖家精”,这说的是算账,而现在这些互联网企业尤其是超级平台拥有了无往不利的算法和大数据,算法与算账相比,无异于原子弹与冷兵器。“店大欺客”古来有之,但从引起社会强烈关注的携程、百度等超级平台公司爆出的欺诈、虚假信息到人命关天的网约车,解决算法带来的隐患恐怕是目前保障消费者权益和产业健康发展最迫切的一个问题。更何况人工智能和算法的发展越快,互联网企业对消费者的操控能力也越强。同时,具备高自主性的算法给反垄断和市场监管执法带来更多困难。如果没人意识到这些风险,那我们将在对科技进步的欢呼雀跃中缓慢步入真实的“楚门的世界”。

    那么,如何看待算法带来的危机和灾难?牛津大学竞争法与政策中心主任阿里尔·扎拉奇教授等编著的《算法的陷阱——超级平台、算法垄断与场景欺骗》一书用多学科的研究成果回应了这个问题。

    在扎拉奇教授看来,数字化经济的蒸蒸日上掩盖不了其核心是将市场的准入门槛拉低的事实,“市场充分竞争的外衣掩盖了新经济时代下的财富转移与企业的反竞争行径,消费者在不知不觉中被其操纵。”他说的也许有些理论化,对此,国人经常说的“监管套利”、“技术套利”,甚至还有“道德套利”,似乎更加直截了当。

    具体而言,书中将算法带来的种种威胁总结为三大方面:企业之间操纵价格的共谋、对用户的价格歧视、在超级平台与软件的“生态圈”中带着用户遨游(抑或“裸奔”)的虚拟助手。

    作者还给出了各个细分的场景,如十分隐蔽的“电子眼”,按照书中的说法,“这是一种接近上帝的视角”,这来源于2014年引起轰动的一则新闻——优步的前雇员透露,优步员工可以通过一个被称为“上帝视角”的程序,轻易追踪到曾经用过网约车服务的用户所在的位置。在这种环境下,企业可以运用计算机算法在更短的时间内获得范围更大、信息更完整、更难以察觉和监管的营销策略的共谋,这也包括了对参与共谋的企业“不守信”行为的监测和还击。

    至于利用算法以价格歧视和虚拟助手操控用户,相信每个人都有切身体验,比如订机票中的价格“陷阱”,比如号称智能和算法的新闻平台对那些彰显人性弱点的低级趣味和情绪化内容的精准推送。但更可怕的并不是这种“剥夺”消费者权益的精妙技术和话术,而是整个行业都陷入一种“逐底竞争”(Race to the Bottom),也就是逆淘汰或者比烂,从而改变了市场竞争的业态。这种类似国产奶业因添加三氯氰胺事件几乎崩溃的悲剧,最终的结果是全社会的信任机制受到重创。

    在这种状况下,如果还保持“自由放任主义就是好事,监管只能带来麻烦”的固执认识,与“不要资本主义的苗”无异。

    但与此同时,书中仍然强调要警惕政府采取先入为主的干预或者一关了之的思路,而是将培育鼓励市场竞争的框架作为保护消费者权益与隐私的先决条件。所以,作者提供的监管工具箱,除了从设计入手保护隐私、赋权消费者、针对算法稽核外,也有许多促进市场竞争机制的方式,比如补贴编写反制措施的算法开发商、降低新行业进入者的门槛、鼓励共谋的“价格叛徒”等。这种“以野心制约野心”的思路及其设计机制在我看来是最有前途的方向。

    归根结底,算法本身是一种权力,防止消费者被侵权和操控,就应该赋予用户更大的算法知情权和数据控制权限。比如,在这次滴滴乘客被杀害的案件中,如果乘客能了解顺风车司机的信用记录和被骚扰投诉的情况,如果严重偏离路线等异常状态下可以根据算法自动报警,如果车辆和司机信息可以被当事人亲属和警方及时掌握,惨剧或许可以避免。(编辑 董明洁 许望)