算法推荐新规出台,哪些规范需要遵守?

2022-01-12 08:35:14
计算机世界
文章摘要: 算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。

当前,算法在服务新一代信息技术的同时,暴露出传播违法和不良信息等诸多问题,如何营造清朗的网络空间?近日出台的《互联网信息服务算法推荐管理规定》提供了规范和指引。

2021年12月31日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》),自2022年3月1日起施行。

国家互联网信息办公室有关负责人表示,出台此项《规定》,旨在规范互联网信息服务算法推荐活动,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展。

首先,《规定》明确了应用算法推荐技术的定义:指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

其次,推荐服务提供者在开展新闻信息推送、热点榜单、信息发布等活动时,存在传播违法和不良信息的乱象。针对违法和不良信息传播问题,《规定》明确了算法推荐服务提供者的信息服务规范:

具体要求算法推荐服务提供者应当坚持主流价值导向,积极传播正能量,不得利用算法推荐服务从事违法活动或者传播违法信息,应当采取措施防范和抵制传播不良信息;

建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施,定期审核、评估、验证算法机制机理、模型、数据和应用结果等;

建立健全用于识别违法和不良信息的特征库,发现违法和不良信息的,应当采取相应的处置措施;

加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则;加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在重点环节积极呈现符合主流价值导向的信息;

规范开展互联网新闻信息服务,不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息;不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为等。

针对侵害用户权益乱象,《规定》明确了用户权益保护要求:

算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。

算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。

此外,对向未成年人、老年人、劳动者和消费者等重点主体提供算法推荐服务的,《规定》也明确了具体要求。如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,以及不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

对于如何搭建我国平台算法的治理体系,《规定》提供了清晰的可行路径,构建了算法安全风险监测、算法安全评估、算法备案管理和违法违规行为处置等多维一体的监管体系。

算法规制与平台治理是人工智能和大数据时代各国普遍面临的一大挑战。《规定》的出台不仅直接将算法作为规制对象,更使得平台治理的层次与方式迈上了新的台阶。

信息化软件服务网 - 助力数字中国建设 | 责编:夏丽
文明上网,理性发言!请遵守新闻评论服务协议
评论