剑指“算法歧视”“大数据杀熟”！国家网信办等四部门发布《互联网信息服务算法推荐管理规定》

　　中国青年报北京1月4日电(记者何春忠发自Zhongqing.com)近日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》)，自2022年3月1日起施行。国家互联网信息办公室相关负责人表示，《规定》的出台旨在规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康发展。近年来， 在算法应用为政治、经济、社会发展注入新动能的同时，算法歧视、“大数据杀熟”、诱导成瘾等算法不合理应用引发的问题也深刻影响着正常的传播秩序、市场秩序和社会秩序，给维护意识形态安全、社会公平正义和网民合法权益带来挑战。在互联网信息服务领域出台有针对性的算法推荐规章制度，是防范和化解安全风险的需要，也是促进算法推荐服务健康发展、提升监管水平的需要。《规定》明确，算法推荐技术的应用，是指利用生成合成类等算法技术向用户提供信息， 个性化推送类、排序选择类、检索过滤类和调度决策类。国家网信部负责协调全国算法推荐服务的治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门按照各自职责负责算法推荐服务的监督管理。地方网信部门负责协调本行政区域内的算法推荐服务治理及相关监督管理工作。地方有关部门按照各自职责负责本行政区域内算法推荐服务的监督管理。《条例》 明确算法推荐服务商的信息服务规范，要求算法推荐服务商坚持主流价值导向，积极传播正能量。他们不得利用算法推荐服务从事非法活动或传播非法信息，应采取措施防止和抵制不良信息的传播；建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急响应等管理制度和技术措施，定期对算法、机制、模型、数据和应用结果进行审核、评估和验证；建立和完善用于识别违法和不良信息的特征数据库，发现违法和不良信息，采取相应的处置措施。《条例》 明确算法推荐服务提供者的用户权益保护要求，包括保障算法知情权，要求告知用户其提供算法推荐服务，公开服务的基本原则、目的和意图以及主要运行机制等。为了保证算法的选择，应该为用户提供不针对其个人特征的选项，或者方便关闭算法推荐服务的选项。此外，《规定》对向未成年人、老年人、劳动者和消费者提供算法推荐服务提出了具体要求。如果不允许算法推荐服务诱导未成年人沉迷网络，应当方便老年人安全使用算法推荐服务，平台订单分发等相关算法， 应当建立和完善报酬构成和支付、工作时间、奖惩等制度，不得根据消费者偏好和交易习惯的特点，利用算法对交易价格等交易条件实施不合理的差别待遇。《规定》要求，具有舆论属性或者社会动员能力的算法推荐服务提供者，应当自提供服务之日起十个工作日内，通过互联网信息服务算法备案系统填写备案信息，履行备案手续；备案信息发生变更的，应当在规定时间内办理变更手续。算法推荐服务提供者应当依法保存网络日志，配合有关部门开展安全评估和监督检查， 并提供必要的技术和数据支持和协助。国家互联网信息办公室相关负责人指出，算法推荐服务的治理需要政府、企业、社会、网民等各方的共同参与，促进算法推荐服务的公平、规范、透明，推动算法推荐服务的完善，营造更加清朗的网络空间。国家网信办就《互联网信息服务算法推荐管理规定》答记者问。今日，国家互联网信息办公室有关负责人就《规定》答记者问。一、问:能否简单介绍一下《规定》出台的背景？答:条例的出台主要基于以下两点考虑:一是， 需要进一步推进互联网信息服务算法的综合管理。中共中央印发的《建设法治社会实施纲要(2020-2025年)》提出，制定完善算法推荐、深度伪造等新技术应用的规范化管理办法。网络安全法、数据安全法、个人信息保护法等法律，以及《关于加强互联网信息服务算法综合治理的指导意见》等政策文件已经出台并做出相关顶层设计。在此基础上，这不仅是落实党中央决策部署的重要要求， 还需要落实相关法律和行政法规，加强网络信息安全管理，及时制定有针对性的算法推荐法规，明确算法推荐服务商的主体责任。二是积极推动算法推荐服务规范健康发展。随着算法应用的普及和深入，在为经济社会发展注入新动能的同时，算法歧视、“大数据杀熟”、诱导成瘾等算法不合理应用引发的问题也深刻影响了正常的传播秩序、市场秩序和社会秩序，对维护意识形态安全、社会公平正义和网民合法权益提出了挑战。迫切需要建立算法推荐服务的规章制度，加强规范， 着力提升防范和化解算法推荐安全风险的能力，促进算法相关行业健康有序发展。2.问:《规定》中提到的应用算法推荐技术是什么？答:《规定》所称的应用算法推荐技术，是指利用生成合成类、个性化推送类、排序选择类、检索过滤类、调度决策类等算法技术向用户提供信息3 .问:《规定》对算法推荐的服务提供者规定了哪些信息服务规范？答:规定要求算法推荐服务提供者应当坚持主流价值导向，积极传播正能量。他们不应利用算法推荐服务从事非法活动或传播非法信息， 并应采取措施防止和抵制不良信息的传播；建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施，提供与算法推荐服务规模相适应的专业人员和技术支持；定期对算法的机理、模型、数据和应用结果进行评审、评估和验证；建立和完善用于识别违法和不良信息的特征数据库，发现违法和不良信息，采取相应处置措施；加强用户模型和用户标签管理，完善用户模型中记录的兴趣点和用户标签管理规则；加强算法推荐服务页面的生态管理， 建立健全人工干预、用户自主选择的机制，在关键环节主动呈现符合主流价值导向的信息；规范发展互联网新闻信息服务，不得生成合成虚假新闻信息，不得传播国家规定范围以外的单位发布的新闻信息；不得利用算法实施影响网络舆情、逃避监督管理、垄断和不正当竞争的行为。4.问:对于群众普遍关心的用户权益保护问题，《条例》是如何规定的？答:《规定》明确了算法推荐服务提供者的用户权益保护要求。首先是知道算法的权利， 其中要求告知用户提供算法推荐服务的情况，宣传服务的基本原理、目的和意图以及主要运行机制。二是算法的选择，需要为用户提供不针对其个人特征的选项，或者方便关闭算法推荐服务。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者应根据用户的个人特征，为用户提供选择或删除算法推荐服务用户标签的功能。三是对为未成年人、老年人、劳动者、 消费者等主体。不允许算法推荐服务诱导未成年人沉迷网络的，应当方便老年人安全使用算法推荐服务，建立和完善平台订单分配、报酬构成和支付、工作时间、奖惩等相关算法，不允许利用算法根据消费者偏好和交易习惯特点对交易价格等交易条件实施不合理的差别待遇。5.问:《规定》对算法推荐服务提供者提供互联网新闻信息服务有哪些要求？答:算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可， 规范互联网新闻信息采编发布服务、转载服务、传播平台服务，不得产生合成虚假新闻信息，不得传播国家规定范围以外的单位发布的新闻信息6、问:《规定》对算法推荐服务提供者规定了哪些备案义务？答:条例明确规定，具有舆论属性或者社会动员能力的算法推荐服务提供者，应当自提供服务之日起十个工作日内，通过互联网信息服务算法备案系统填写服务提供者名称、服务形式、应用领域、算法类型等备案信息，履行备案手续。同时，标记记录号、更改记录信息， 和取消记录。7.问:《条例》对算法推荐服务提供者履行安全评估和配合监督检查义务有哪些要求？答:条例明确规定，具有舆论属性或者社会动员能力的算法推荐服务提供者，应当按照国家有关规定进行安全评估。算法推荐服务提供者应当依法保存网络日志，配合网信部门和电信、公安、市场监管等相关部门开展安全评估、监督检查，提供必要的技术和数据支持和协助。(来源:中国青年报客户端)举报/反馈