给“算法应用”立规矩（网上中国）

3月28日，在位于重庆市大渡口区的“大众创业万众创新示范基地”内，大学毕业生和青年人才正在大数据公司工作。新华社记者 唐 奕摄

使用某个应用程序后，它就能“猜”到你喜欢什么，并且精准推送相关内容，滋生“信息茧房”、大数据“杀熟”等问题。这样的情况最近终于开始有了改变。随着国家网信办等4部门联合发布的《互联网信息服务算法推荐管理规定》近日正式施行，很多APP先后上线算法关闭键，允许用户在后台一键关闭“个性化推荐”。专家表示，要继续压实平台责任，促进算法应用向上向善，让算法更好地为用户服务，推动信息服务行业长远、健康发展。

可一键关闭“个性化推荐”

通过参考互联网上的“攻略”，北京的王女士最近终于将一款社交应用中的“个性化推荐”服务选项关闭，“再打开这个APP，感觉安心不少”。

王女士之所以下决心关掉“个性化推荐”服务，源于此前遇到的一些糟心经历。她在这款应用里曾发表过皮肤干燥的言论，此后便在各个平台不断收到面部“保鲜”秘笈的文章、美容产品的推销广告，让王女士不堪其扰。

在移动互联网时代，每一个人都在生产“数据”。此前，这些“数据”被平台以各种方式采集，然后通过算法分析出用户行为、习惯和喜好，进而精准地提供信息、娱乐、消费等各类服务。这种基于算法的技术创新在为用户提供精准信息服务的同时，也滋生出不少问题。

《互联网信息服务算法推荐管理规定》（以下简称《管理规定》）近日正式施行，将算法推荐服务全面纳入监管。《管理规定》提出，算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。

3月28日，在位于重庆市大渡口区的“大众创业万众创新示范基地”内，大学毕业生和青年人才正在大数据公司工作。新华社记者 唐 奕摄

使用某个应用程序后，它就能“猜”到你喜欢什么，并且精准推送相关内容，滋生“信息茧房”、大数据“杀熟”等问题。这样的情况最近终于开始有了改变。随着国家网信办等4部门联合发布的《互联网信息服务算法推荐管理规定》近日正式施行，很多APP先后上线算法关闭键，允许用户在后台一键关闭“个性化推荐”。专家表示，要继续压实平台责任，促进算法应用向上向善，让算法更好地为用户服务，推动信息服务行业长远、健康发展。

可一键关闭“个性化推荐”

通过参考互联网上的“攻略”，北京的王女士最近终于将一款社交应用中的“个性化推荐”服务选项关闭，“再打开这个APP，感觉安心不少”。

王女士之所以下决心关掉“个性化推荐”服务，源于此前遇到的一些糟心经历。她在这款应用里曾发表过皮肤干燥的言论，此后便在各个平台不断收到面部“保鲜”秘笈的文章、美容产品的推销广告，让王女士不堪其扰。

在移动互联网时代，每一个人都在生产“数据”。此前，这些“数据”被平台以各种方式采集，然后通过算法分析出用户行为、习惯和喜好，进而精准地提供信息、娱乐、消费等各类服务。这种基于算法的技术创新在为用户提供精准信息服务的同时，也滋生出不少问题。

《互联网信息服务算法推荐管理规定》（以下简称《管理规定》）近日正式施行，将算法推荐服务全面纳入监管。《管理规定》提出，算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。

《管理规定》出台后，多家平台先后上线算法关闭键，允许用户在后台一键关闭“个性化推荐”。用户关闭“个性化推荐”后，平台会根据内容的热门程度进行分发，推送内容更加体现应用特色。很多网友表示，以前总是被“安排”看一些内容，关闭“个性化推荐”后，感觉看到了更广阔的世界。

记者在体验后发现，目前多数APP还是默认打开“个性化推荐”，要找到“个性化推荐”关闭键并不太容易。以一款电商应用为例，需先后点击进入数个页面，然后在呈现的10多个选项里找到“个性化推荐”的关闭按钮。有用户认为，这样的设置方式难言“便捷”，其目的是让用户“知难而退”。

关闭个性化推荐，是否意味着算法推荐技术走到尽头？中国人民大学信息学院教授程絮森分析，随着新规实施，如何使个性化推荐更加规范，是很大的挑战，但也相应促进了各互联网平台的技术发展进步，有利于加速推进相关行业的数字化转型与平台经济的健康发展。

合力推动产品向善

同样的订单，熟客比新客多付钱，被用户质疑平台利用算法模型进行大数据“杀熟”。《管理规定》提出，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

中国信息安全研究院副院长左晓栋认为，大数据“杀熟”等顽疾归根结底是滥用用户个人信息导致的。解决这类问题首先要在治理违法违规收集用户个人信息上下功夫，其次要保障用户的选择权、删除权等权益。

“刷短视频、玩游戏的时候，没感觉时间过得很快，但每次放下手机，发现已经几个小时过去了。”在上海一家企业工作的陈先生感慨，每次拿起手机娱乐时，感觉像中毒一样停不下来。另有不少网友抱怨，当自己反复浏览某件商品时，平台就会显示一连串促销优惠信息，很多人因此盲目下单。

《管理规定》提出，算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

北京大学中国社会与发展研究中心主任邱泽奇对记者说，社会学把人们偏好的内容区分为两个理想类型，一类是理性的，类似于对人对事物的观点，这种对“自我”的偏好是人类认知偏好的一部分，容易形成“信息茧房”效应或“回音壁”效应；另一类是感性的，类似于对人对事物的情感，人们在情感上容易受到他人的感染，易产生“情绪传染”效应。

邱泽奇认为，在数字时代，诸多产品都是动态产品，需要根据交互数据对产品不断进行优化迭代，通过产品升级、算法升级以满足用户需求。基于人类认知偏好的复杂性，企业除了承担产品责任，还要承担起相应社会责任，把用户纳入产品的开发、生产与服务中，通过政府、企业和用户共同参与、建立相应规则，不断推动产品向善、科技向善。

实现负责任的创新

近年来，一些企业利用算法注册虚假账号、雇佣网络“水军”，鼓动“饭圈”粉丝互撕谩骂、刷量控评；操纵干预热搜、榜单或检索结果排序；向未成年人推送不良内容……针对这些问题，《管理规定》提出“建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度”“提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德”等措施。

从更深层意义看，因算法技术创新而衍生的一系列问题涉及科技伦理。中共中央办公厅、国务院办公厅近日印发的《关于加强科技伦理治理的意见》提出，加强源头治理，注重预防，将科技伦理要求贯穿科学研究、技术开发等科技活动全过程，促进科技活动与科技伦理协调发展、良性互动，实现负责任的创新。

中国社科院信息化研究中心主任姜奇平表示，从技术创新层面看，应推动算法技术回到正常轨道，比如单纯基于人们的偏好推荐阅读内容，错误之处在于对人的理解不足，把人理解成机器，没有考虑到人还具有自由意志。从价值伦理层面看，哲学上的善和伦理的本质都源于自由意志，因此应该在技术创新过程中把人之为人的一面、人和人的关系摆进技术里考虑。

专家认为，数字时代的算法技术创新应是一种负责任的创新，要进一步压实平台责任，确保科技活动符合科技伦理。只有坚持把消费者对信息服务的评判权置于采集权之上，才能更好把握个性化信息服务业态的发展方向，促进数字经济高质量发展。

《人民日报海外版》（ 2022年04月06日 第 08 版）