算法新规剑指大数据杀熟、操纵热搜等问题！人民要算法，不要“算计”

会员服务 ·

算法新规剑指大数据杀熟、操纵热搜等问题！人民要算法，不要“算计”

2022 年 1 月 5 日 AI前线

整理| 刘燕

算法新规来了。

为了规范互联网信息服务算法推荐活动，国家出台了针对性的算法推荐规章制度。

1 月 4 日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布了《互联网信息服务算法推荐管理规定》（以下简称《规定》），自 2022 年 3 月 1 日起施行。

《规定》明确，应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

算法推荐服务者的信息服务规范

《规定》明确了算法推荐服务提供者的信息服务规范。

具体而言，《规定》要求算法推荐服务提供者应当坚持主流价值导向，积极传播正能量，不得利用算法推荐服务从事违法活动或者传播违法信息，应当采取措施防范和抵制传播不良信息；

建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施，定期审核、评估、验证算法机制机理、模型、数据和应用结果 等；

建立健全用于识别违法和不良信息的特征库，发现违法和不良信息的，应当采取相应的处置措施不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。

加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则；

加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在重点环节积极呈现符合主流价值导向的信息；规范开展互联网新闻信息服务，不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息；

鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。这一条规定，无疑将会影响到抖音、快手等强算法推荐平台，据悉，目前今日头条已在其 App 中提供了关闭个性化推荐选项。

强化算法垄断监管

《规定》要求，算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。

近两年，国家针对算法垄断、“二选一”等问题不断加强监管措施。2020 年 12 月，阿里收到 182 亿元天价罚单，原因为“二选一”式垄断。经调查，自 2015 年以来，阿里巴巴集团滥用该市场支配地位，对平台内商家提出“二选一”要求，禁止平台内商家在其他竞争性平台开店或参加促销活动，并借助市场力量、平台规则和 数据、算法 等技术手段，采取多种奖惩措施保障“二选一”要求执行，维持、增强自身市场力量，获取不正当竞争优势。

“控制热搜”或将休矣

新规还对控制热搜等算法影响、控制舆论的行为加强了监管。

《规定》明确 不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报备案信息，履行备案手续；备案信息发生变更的，应当在规定时间内办理变更手续。算法推荐服务提供者应当依法留存网络日志，配合有关部门开展安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。

《规定》第十四条，算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。

充分保障用户权

算法左右着用户决策，但在这个过程中，用户的合法权益往往容易被忽视。《规定》明确了算法推荐服务提供者的用户权益保护要求。

具体来说，包括保障算法 知情权，要求告知用户其提供算法推荐服务的情况，并公示服务的基本原理、目的意图和主要运行机制等；

保障算法 选择权，应当向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。

对向未成年人、老年人、劳动者和消费者等主体提供算法推荐服务的，《规定》明确了具体要求，如 不得利用算法推荐服务诱导未成年人沉迷网络，应当 便利老年人安全使用算法推荐服务；

前段时间刷屏的《外卖骑手，困在系统里》一文引发了人们对于算法控制的广泛讨论。此次新规也明确，算法推荐服务提供者向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

大数据“杀熟” 将成过去式

如今，我们已生活在算法无孔不入的时代。电商购物、新闻资讯、交通出行... 大量的线上应用都以算法作为底层支撑。算法推荐带来了更为繁荣的经济和更加便利的生活。

但与此同时，算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用也带来了很多不利影响。这些问题早已积弊已久。

2015 年，Facebook 曾因其人工智能推荐内容存在政治偏见，备受争议。2018 年 3 月，Facebook“数据门”事件轰动全球，8700 万 Facebook 用户的个人数据被出售给剑桥分析公司，该公司利用这些数据、不正当使用算法用于操纵英国脱欧、特朗普当选等选举程序。

在国内，大数据杀熟也乱象频出。

2018 年 10 月，知名作家王小山炮轰飞猪旅行 App 利用大数据杀熟，购买同一航班机票，飞猪卖给他的比别家高出 700 多元。飞猪随后回应系是航司自身变价导致，飞猪从来不会，也永远不会利用数据坑蒙消费者；

2019 年 3 月。前 360 移动搜索负责人 @陈利人在一篇名为《携程的牌坊塌了》的文章中爆料，携程利用大数据杀熟，他首次购买机票总价为 17548 元；当他发现没有选择报销凭证退回重选时，提示已无票，重新搜索价格变成了 18987 元。随后携程致歉，携程表示，“二次支付显示无票”确认为程序 bug，携程绝不存在任何“大数据杀熟”行为。

这次新规也对“大数据杀熟”行为作出了规范。《规定》明确，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，以及不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。