当前位置:首页 > IT新闻 > 大数据“杀熟”将被整治!四部门出手了!

大数据“杀熟”将被整治!四部门出手了!

go1233周前 (11-25)IT新闻102

11月24日,网信中国发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》(下文简称《通知》),有关工作方案主要任务包括:重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,督促企业深入对照自查整改,进一步提升算法安全能力。此次《通知》内容具体包括:第一,深入整治“信息茧房”、诱导沉迷问题。严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签,不得将

11月24日,网信中国发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》(下文简称《通知》),有关工作方案主要任务包括:重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,督促企业深入对照自查整改,进一步提升算法安全能力。

此次《通知》内容具体包括:第一,深入整治“信息茧房”、诱导沉迷问题。严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人信息用于内容推送。第二,提升榜单透明度打击操纵榜单行为,严管不法分子恶意利用榜单排序规则操纵榜单、炒作热点行为。第三,严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。第四,严禁利用算法实施大数据“杀熟”。第五,增强算法向上向善服务保护网民合法权益。第六,落实算法安全主体责任。

《通知》出台的背景,是算法推荐模式盛行之下,内容生产方式、传播介质、运转模式以及用户信息行为模式都发生转变,由此带来对网络舆论场的冲击,导致网络舆论生态面临挑战。

此次《通知》对算法治理工作提出具体目标,包括算法导向正确、公平公正、公开透明、自主可控、责任落实。如不得设置诱导用户沉迷、过度消费等的算法模型;不得利用算法干预信息呈现,实施影响网络舆论或者规避监督管理行为;定期审核、评估、验证算法机制机理、模型、数据和应用结果等,常态化开展算法安全自评估。

《通知》要求此次专项行动自即日起至2025年2月14日,组织企业自查自纠,简单问题立即整改,复杂问题明确整改举措和期限。积极落实属地管理责任,对照《算法专项治理清单指引》(附件),对企业自查自纠情况进行深入评估。对自查不认真、整改不彻底的企业,及时组织技术力量进行核查并督促整改。

同时,《通知》要求各地网信部门要发挥统筹协调作用,牵头开展专项行动。加强与属地电信、公安、市场监管等相关部门联动,细化工作分工,压实工作责任。运用好央地各方有效技术支撑力量,积极有效推动各项任务落实,确保取得工作成效。

目前,算法治理已是行业共识,《通知》也并非行业首次提出规范。复旦大学管理学院信息管理与商业智能系教授张成洪撰文表示,当算法决策或应用结果损害特定主体权益时,由于规则和原则不明确,可能导致利益救济不足的风险;滥用或误用算法也是一个潜在的风险,算法产生的决策效果可能会破坏社会的公正和社会凝聚力。因此我们迫切需要对AI算法进行有效的治理。

2021年9月,《关于加强互联网信息服务算法综合治理的指导意见》出台;2021年11月19日,《互联网信息服务算法应用自律公约》发布;2021年12月31日,《互联网信息服务算法推荐管理规定》发布;2024年7月11日,《互联网信息服务算法推荐合规自律公约》发布。

同时,算法的复杂使得算法治理不可一蹴而就,清华大学人工智能国际治理研究院副院长、人工智能治理研究中心(清华大学)主任梁正表示,算法治理面临多重挑战,包括技术固有的“黑箱”特征,即随着模型的日趋复杂、数据日趋多元,算法的不可解释、不可控性有增加的倾向。

其次,梁正认为,如何在效率和公共利益最大化之间的权衡,是算法治理时要考虑的重要部分。以及针对算法合规审计,缺乏独立专业的第三方机构和成熟统一的评估标准,同样是目前国内算法治理存在的困境。许多平台都是自主做相关工作,但平台是否能够完全承担相应责任,无论从意愿还是能力上都有待商榷。

张成洪认为,AI算法治理至少要包含三个层次。第一个是算法治理的政策法规,由国家行业的主管部门制定政策,给予指导;第二是算法合规性的审计,依据法律法规或者行业要求对企业展开检查和监管,可能由企业内部做,也可能需要行业或国家成立专门的监管机构去做;第三开发出合规合法的AI算法,这对开发人员、对算法工程师是有要求的。

工信部信息通信经济专家委员会委员盘和林对记者表示,算法推荐并不适用于避风港原则,不可单纯通过该原则封闭自身算法规则机制,之前法律已要求各大平台有责任对平台数据采集和算法进行备案。通过对推荐算法进行报备,由监管部门对算法的合理性进行审查。

至于此次《通知》对行业算法治理的影响,盘和林对记者表示,此次通知后,行业将有一轮具体行动,仅靠平台自查不可行,第三方机构和成熟统一的评估标准可能在此次指导文件发布后逐步完善。该过程需要时间,也需要政府侧配备相关人才等资源。

声明:本站所有内容均为自动采集而来,如有侵权,请联系删除

相关文章

国产数据库圈,为啥那么多水货?

国产数据库圈,为啥那么多水货?

如今,在 “国产化” 的趋势下,国产数据库范畴的创业浪潮一浪高过一浪。截至 2023 年底,中国市场上有将近 300 款数据库产品,约有 100 家数据库厂商。著名投资机构如红杉、高瓴、腾讯等纷纭下场,每家手上投资的数据库至少在 3 个以上,可见资本的青睐。一些数据库凭借自身的实力,拿下了亿元融资,...

阿里云:以后公司20%代码由通义灵码编写

阿里云:以后公司20%代码由通义灵码编写

阿里云正在内部全面推行 AI 编程,应用通义灵码帮助程序员写代码、读代码、查 BUG、优化代码等。阿里云还专门给通义灵码分配了一个正式的员工工号 ——AI001。阿里云表现:“以后公司 20% 的代码都由通义灵码编写,程序员将更加专注于体系设计和核心业务开发。”据介绍,传统开发模式下,程序员每天须要...

微软正式开源专为Windows打造的Sudo

微软正式开源专为Windows打造的Sudo

微软已在 Windows 11 Insider Preview Build 26052 中宣布实用于 Windows 的 Sudo,并将其在 MIT 协定下进行开源。Sudo for Windows 将许可用户直接从未提权终端窗口运行提权命令。如何启用 Sudo for Windows导航至 Set...

免费编程神器,人人必备的AI编程助手:Fitten Code

免费编程神器,人人必备的AI编程助手:Fitten Code

 现在程序员的工作中,AI的才能已经越来越经常被用到。今天我们要推举一款国产编程神器,它基于自研代码大模型,可以赞助程序员更迅捷、更精确、更高质量地完成编码义务,大幅晋升开发效力,并且它完整免费应用!它就是: Fitten CodeFitten Code 是什么Fitten Co...

27K star!开源AI程序员,可独立完成95%的开发任务

27K star!开源AI程序员,可独立完成95%的开发任务

IT 咖啡馆,摸索无穷可能!恭喜你发现了这个宝藏,这里你会发现优质的开源项目、IT知识和有趣的内容。 应用AI来生成一部分代码比拟常见,那你斟酌过让AI完成全部项目吗?今天我们介绍的开源项目,它愿望为世界上第一位人工智能开发伙伴,可独立完成95%的开发义务,它就是:GPT Pilot&nb...

听说Signals快要登陆React了?

听说Signals快要登陆React了?

“Signals”专门用于管理客户端状况,而且从最近的趋势来看,其很有可能在 React 中施展作用。就在上周,Dashi Kato(Waku 的缔造者)宣布了 use-signals,一个面向 TC39 signals 的试验性 React hook,旨在演示 Signals 如何在 React...