快手发布《2023暑期青少年数据报告》 处置不良违规视频18万余条
9月5日消息,快手今日发布《2023暑期青少年数据报告》。报告显示,今年6月28日起,快手开展为期2个月的暑期未成年人网络环境专项治理,全面深入清理不良信息和内容,对于涉未成年人不良信息从深从细整治、从严从重处置。
专项治理重点包括:涉未成年人的有害信息,尤其利用谐音变体、AI等传播有害信息;欺骗、诱导未成年人,如教授未成年人破解防沉迷系统等;未成年人网络霸凌,如恶意传播泄露未成年人隐私的欺凌视频;利用未成年人群体或身份炒作、博取关注;影响未成年人身体健康的不良信息和行为,如诱导吸烟喝酒等;其他严重侵害未成年人合法权益的有害信息。
快手《2023暑期青少年数据报告》截图
来源:快手大数据研究院公众号
报告数据显示,在两个多月的时间里,快手通过暑期专项治理共处置违规视频182778条、违规账号6387个。
据介绍,随着生成式AI技术的迅速发展和普及,在“不良内容、重点账号、评论治理”等3个传统场景进行重点治理的基础上,快手今年在“生成式人工智能”场景下专项提升算法的识别能力,围绕未成年人暑期网络环境专项治理重点领域,根据治理要求的迭代,不断细化审核规则、搭建1个专项审核队列,通过“4+1”的模式全面压缩有害信息隐形变异的生存空间,遏制侵害未成年人权益的违法行为。
快手《2023暑期青少年数据报告》
来源:快手大数据研究院公众号
快手面向4大治理场景升级了青少年保护专属算法模型。其中,针对不良内容,采用了未成年人算法识别模型、皮肤裸露面积识别模型;针对重点账号,采用了儿童人脸与场景结合识别模型、异常用户识别算法模型;针对评论治理场景,采用了语音语义识别算法模型和谐音词、变异词识别模型;针对生成式人工智能,采用了Al转换内容识别模型。
此外,根据新出现的不良内容样本,在此前三重机审+多重人审的基础上,进一步细化审核规则在暑期专项期间,搭建涉及校园主题专项审核队列。要求审核经验丰富审核员对相关内容进行专审,按照从严审核的标准处置相关不良视频。