快手发布《2023暑期青少年数据报告》 处置不良违规视频18万余条

  9月5日消息,快手今日发布《2023暑期青少年数据报告》。报告显示,今年6月28日起,快手开展为期2个月的暑期未成年人网络环境专项治理,全面深入清理不良信息和内容,对于涉未成年人不良信息从深从细整治、从严从重处置。

  专项治理重点包括:涉未成年人的有害信息,尤其利用谐音变体、AI等传播有害信息;欺骗、诱导未成年人,如教授未成年人破解防沉迷系统等;未成年人网络霸凌,如恶意传播泄露未成年人隐私的欺凌视频;利用未成年人群体或身份炒作、博取关注;影响未成年人身体健康的不良信息和行为,如诱导吸烟喝酒等;其他严重侵害未成年人合法权益的有害信息。

快手《2023暑期青少年数据报告》截图

  来源:快手大数据研究院公众号

  报告数据显示,在两个多月的时间里,快手通过暑期专项治理共处置违规视频182778条、违规账号6387个。

  据介绍,随着生成式AI技术的迅速发展和普及,在“不良内容、重点账号、评论治理”等3个传统场景进行重点治理的基础上,快手今年在“生成式人工智能”场景下专项提升算法的识别能力,围绕未成年人暑期网络环境专项治理重点领域,根据治理要求的迭代,不断细化审核规则、搭建1个专项审核队列,通过“4+1”的模式全面压缩有害信息隐形变异的生存空间,遏制侵害未成年人权益的违法行为。

快手《2023暑期青少年数据报告》

  来源:快手大数据研究院公众号

  快手面向4大治理场景升级了青少年保护专属算法模型。其中,针对不良内容,采用了未成年人算法识别模型、皮肤裸露面积识别模型;针对重点账号,采用了儿童人脸与场景结合识别模型、异常用户识别算法模型;针对评论治理场景,采用了语音语义识别算法模型和谐音词、变异词识别模型;针对生成式人工智能,采用了Al转换内容识别模型。

  此外,根据新出现的不良内容样本,在此前三重机审+多重人审的基础上,进一步细化审核规则在暑期专项期间,搭建涉及校园主题专项审核队列。要求审核经验丰富审核员对相关内容进行专审,按照从严审核的标准处置相关不良视频。

电商资讯*版权声明:本网站所收集的部分公开资料来源于互联网,转载的目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。 本网站所提供的信息,只供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。本网站及其雇员一概毋须以任何方式就任何信息传递或传送的失误、不准确或错误,对用户或任何其他人士负任何直接或间接责任。在法律允许的范围内,本网站在此声明,不承担用户或任何人士就使用或未能使用本网站所提供的信息或任何链接所引致的任何直接、间接、附带、从属、特殊、惩罚性或惩戒性的损害赔偿。
文章网址:http://www.cnecn.com.cn/hangye/lingshou/2023-09-06/13540.html
赞 | 0