“应摆脱‘技术崇拜’心理，审慎把握算法应用场景。要加强行业协会的监督作用，并激励消费者挑战算法个性化决策，建立多样化的算法决策的申诉、救济渠道。”

近日，国家互联网信息办公室、工业和信息化部、公安部、市场监管总局联合发布的《互联网信息服务算法推荐管理规定》(下称《规定》)正式施行。

算法是实现数据价值的基础设施，是人类社会技术应用的巨大进步，但算法推荐技术确是一把“双刃剑”。随着算法技术被广泛应用于商业交易中，算法推荐乱象饱受诟病。一些具有技术和市场优势地位的经营者频繁使用算法技术在信息采集、特定推送与个性定价等交易阶段实施算法歧视行为，在交易条件上对消费者实施不合理的差别待遇，掠夺消费者剩余价值，甚至排除、限制其他企业参与市场竞争，进而从市场垄断中攫取利润。此次《规定》的正式施行是在数字化变革时代对算法治理的有效回应，具有鲜明的时代意义和现实需求。

值得注意的是，算法决策在提升经济效率并促使市场各方主体对自动化决策产生依赖的同时，消费者也无时无刻地被算法定义、评级和处置。北京大学互联网发展研究中心与互联网公司联合发布的《中国大安全感知报告(2021)》显示，70%的受访者感到算法能获取自己的喜好和兴趣从而“算计”自己，有近50%的受访者表示在算法束缚下想要逃离网络、远离手机。确实如此，在数字技术的层层包装下，“智能化”的算法能够表现出更强大的支配力，这导致人们往往没有选择的权力，对网络空间的传播秩序、市场秩序和社会秩序都带来了严重的负面影响。而由此引发的过度创新与竞争所产生的市场无序与损害后果，最终都将累及市场本体和普通消费者。因此，明晰算法歧视“隐蔽性”的肇因，在规定制度的施行中“对症下药”，才能精准、高效地解决算法歧视消费者问题。

具体而言，算法会在信息采集、特定推送和个性定价等阶段，对消费者实施多阶段多环节的“显性歧视”或“隐性歧视”。在无形中削弱了消费者行使其知情权、选择权、公平交易权等基本权利的能力，更侵蚀着数字经济市场的竞争秩序。

其一，技术鸿沟与选择限制。算法使用者与消费者之间本来就存在着技术鸿沟，算法使用者利用算法技术内部的不透明性以及商业秘密保护制度的掩盖，故意持续巩固算法的黑箱效应。在消费者难以察觉的地方将其归类为各种群体，以各种行为模式为指标进行选择限制，无论最终的分析正确与否，这种算法黑箱的不透明性都会构成算法歧视的基础。此次《规定》也提出要优化检索、排序、选择、推送、展示等算法规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。其二，信息采集与价格歧视。主要表现为以消费者性别、消费者来源地与消费者职业等身份信息采集作为算法歧视的基础。基于强大的数据清洗和处理能力可以充分掌握消费者的支付意愿，最大限度地抓取消费者的消费倾向和价格上限信息，间接限制了消费者自由选择交易的权利。目前法律法规就算法层面包括个人信息保护法和数据安全法的立法已经完成，未来将能够以此为规范。其三，特定推送与诱导消费。随着算法自主性的增强，作为主体的消费者的自主性却随之减弱，平台会依托算法技术反复推送基于消费者浏览数据判定为高关注度的商品，主动诱导消费者实施非理性消费，甚至导致“信息茧房”，使得处于信息弱势一方的消费者成为数字经济时代的“信息难民”。

为了解决上述困境，首先应该摆脱“技术崇拜”心理，审慎把握算法应用场景。一方面，通过技术手段，以“算法”约束“算法”，加强行业协会的监督作用。如美国相关法律制度即倡导由独立的第三方机构对算法进行预先审查，即算法可审计原则，要求从事算法活动的企业必须如实记载算法模型、基础数据和决策环节，便于第三方机构审查;另一方面，在《规定》赋予消费者选择退出权的基础上，激励消费者挑战算法个性化决策，建立多样化的算法决策的申诉、救济渠道，通过用户使用体验反查算法问题，让消费者去发现、上报潜在的问题，并适当给予线索奖励。在维护消费者基本权益的同时促进市场自由公平竞争，从而真正实现技术推动经济、造福社会。