近日,为推动信息技术助力网络生态治理,解决当前技术落地面临的突出问题,中国信通院云大所牵头,依托中国通信标准化协会(CCSA)TC602网络治理能力工作组,围绕商用网络信息监测分析服务(舆情分析)、内容治理组织了系列研讨活动。数美科技作为一家在内容风险识别领域拥有六年研究积淀的企业,受邀参加此次会议,与各企业专家就议题进行探讨。
一、研讨商用网络信息监测分析服务可信评估规范
为解决当前商用网络信息监测分析服务市场上存在的行业门槛低、鱼龙混杂、信息数据安全意识薄弱等问题。本月初,中国信通院召开了标准编写的启动会,根据启动会上形成的编写思路,工作组完成了可信商用网络信息监测分析服务评估规范(以下简称“规范”)初稿。研讨会上,专家们首先明确了规范的意义和对产业发展的重要性,肯定了规范的可行性,讨论并通过了整体编写思路。同时,专家还对规范中关于信息分析、信息存储等具体指标项提出了修改意见。
二、讨论内容治理标签体系
中国信通院自2019年起,参照网络治理能力标准体系,对当前市场上的有害内容识别检测服务开展了三批测评。
当前,内容治理服务提供商主要是通过训练审核模型,再通过审核模型审核传入的数据的方式,开展的内容治理工作。但由于用户的需求不同,且市场上缺乏统一的数据标签标准,因此,用户在选型过程中会存在一定的困惑;服务商在制定内部标签的时候也会存在一定程度上的困难。
在此背景下,工作组根据前期调研的情况,初步编写了图片、视频、音频和文本的一级和二级标签及各个标签的定义。下一步,中国信通院、中国通信标准化协会TC602网络治理能力工作组将深入调研当前主要企业在内容识别方面的工作,特别是在标签方面的制定思路,汇总、完善标签体系的标准,并在完成相关标准之后,以评测的形式促进服务商提供规范、可信的服务。
数美科技基于6年来在内容识别领域的积淀,依靠风险内容的海量样本库,已建立起一套完备的风险内容标签体系,助力平台实现更全面更精细化的内容管理,同时为中国信通院的内容治理标签制定工作提供了借鉴。
目前数美科技的风险内容标签体系根据内容形式分为文本、音频、视觉(图片与视频)三类,每类都精细化地做到三级分层,包括色情、暴恐、违禁等8个大标签共1000多个细化标签,基本覆盖了对平台内容的所有监管要求,为各行各业提供了具体可执行的审核标准参考,在实际应用中效果显著。
未来,数美科技将与信通院携手,坚持以人工智能技术为依托,助力内容治理标签体系向着更精细化更完善的方向发展,为不同平台的内容管理体系提供更高效、更规范、更可信的参考路径。