1. 首页>
  2. 腾讯云代理

践行科技向善,腾讯优图联合腾讯天御发布面向未成年人的内容安全审核解决方案

腾讯云 2020年09月15日 浏览30

    腾讯云代理 腾讯云新闻 腾讯云代理 腾讯云直播申请 游戏上云

摘要:

日前,在2020腾讯全球数字生态大会AI专场上,腾讯优图实验室副总经理黄飞跃发表了以《技术爆炸时代里的优图:从跋山涉水,到越过山丘》为主题的演讲,并正式发布了面向未成年人的内容安全审核解决方案。


这是腾讯优图联合腾讯天御推出的首个专门面向未成年人的内容安全审核解决方案,既体现了腾讯的相关技术实力,也是公司整体“科技向善”的最新举措。 

开展未成年人内容审核

势在必行


根据《2019年全国未成年人互联网使用情况研究报告》显示,2019年我国未成年网民规模为1.75亿,未成年人互联网普及率达到93.1%。有统计数据显示,目前我国年龄低于10岁的网民已超过1800万,56%的儿童初次上网的年龄低于5岁。


15.6%的未成年人表示曾遭遇网络侵害,最常见的是网络欺凌、色情引诱、个人信息泄露等。特别是疫情防控期间,网络侵害问题更为突出。这些未成年人因为自身年龄上的差异,对于内容往往没有明确的辨识和过滤能力,极有可能导致身心健康受到影响,甚至在部分极端视频的引导下做出不理智的行为。


目前,我国在多个互联网内容领域均施行了监管审核,但针对更广泛的网络内容监管审核手段较少,存在较大的真空地带,未成年人上网内容审核和分级迫在眉睫。


国家监管机构也已经注意到未成年内容杂乱的情况,国家网信办今年5月启动的2020“清朗”行动中专门组织针对未成年人暑期网络环境的整治,国家扫黄打非办上半年的“护苗2020”专项行动中,更是查删处置淫秽色情、恐怖暴力、低俗恶俗等不良信息超过603万条;查缴非法有害少儿类出版物13.2万多册。此外,查办网上传播涉未成年人色情信息、制售非法有害少儿出版物等“护苗”类案件70多起。

以AI为筛

净化未成年人网络环境

此次推出的未成年保护方案,在标准内容审核基础能力之上增加了很多针对未成年设计的能力。例如性感、抽烟、喝酒等成年人内容,都有相应的识别过滤能力。还专门扩展了违规内容主体是否是未成年人的识别能力,如识别“未成年人直播”、“儿童裸露”等不良行为和图片等。


目前,这套解决方案对于明显色情图片的召回率超过 96%;对于烟赌毒、纹身、床上直播等行为的召回率能够达到80%以上。


在识别“未成年人直播”、“儿童裸露”等不良行为和图片,以“区分14岁以上或以下”为测试标准,准确率接近80%。


也正是因为AI技术的介入,让内容审核的速度和效率大大提升,通过应用“AI机器审核+人工复审”的模式,能够更快更好地覆盖更广泛的内容,让对未成年人的内容管理真正成为可能。


自上线内容安全服务以来,腾讯优图与腾讯天御联合为1500+家平台提供内容安全服务,共计审核图片总量已突破1000亿+,累计拦截不良内容51263万。优化传统内容审核场景,覆盖直播、社交、媒体等十多个行业,协助打击各种不良内容的传播行为,与内容平台共同建设绿色健康的环境。


随着科技的创新发展,AI技术的落地应用在优化生活方式的同时,也不断刷新着我们对于世界的认知。在众多场景规模化应用落地的过程中,腾讯优图始终秉持着“科技向善”的愿景,让AI能够更好的为社会服务。


以本次发布的未成年内容审核解决方案为例,就是腾讯优图首个专门针对未成年人这一网络弱势群体的可落地技术方案。这种基于保护未成年人的技术研发和能力实现,就是腾讯科技向善的最好体现。

AI应用场景规模化

加速产业数字化升级


作为腾讯旗下顶尖的AI实验室,腾讯优图通过视觉AI能力的持续输出,进一步夯实技术底座,为产业互联网提供源源不断的动力。目前,优图通过腾讯云输出超过100+AI原子能力,联合腾讯云打造了超过30种AI技术解决方案,并为数万家内外部客户提供技术服务 ,凭借云+AI的方式打造的TI-Matrix人工智能服务平台,沉淀大量行业模型,解决企业人才和数据积累的问题,让企业在产业互联网的浪潮中实现“降本增效”。


腾讯天御基于腾讯安全20余年黑产攻防经验,依托人工智能的核心和面向场景的风控能力打造内容安全解决方案。为企业提供从内容识别,到平台搭建、策略运营等全流程服务,助力精准识别涉黄、涉恐、涉政等有害内容,基于AI智能风控节省平台审核人力,释放业务安全风险。目前,腾讯天御的内容风控通过腾讯云和微信小程序已服务超过5万家开发者,行业渗透率达90%,审核效率提升20倍以上,业务健康程度达到99.89%。备受年轻人追捧的生活方式平台小红书,在腾讯天御的助力下内容作弊识别能力上提升了30%,打造了更真实多元的内容社区氛围。


在推动产业数字化升级过程中,腾讯优图与腾讯天御将持续前沿技术研究和产业应用落地两条腿走路的发展战略,与腾讯云与智慧产业深度融合,深度挖掘各行各业客户痛点,切实为行业降本增效。同时基于AI开放生态构建,深化产业应用规模化落地,持续助推产业互联网发展,加速实现科技普惠全民美好智慧生活。


相关文章