AI应用实例（三）：音频审核

　　编辑导语：在数字化时代，内容审核变得尤为重要，特别是音频内容的审核。本文将探讨AI技术在音频审核领域的应用，解析其关键技术和产品设计。

一、背景

　　随着内容型产品的兴起，内容管理不当容易触碰国家监管政策。有效避免违规内容传播成为内容厂商关注的焦点。因此，内容审核需全面到位。传统的人工审核方式在规模较大的平台上效率较低，如头条号等平台每日需审核的内容量巨大。目前，各平台普遍采用基于AI的内容审核系统，涵盖视频、文本、图片和音频等素材的审核，涉及色情、涉政、暴恐等多个维度。本文将聚焦于音频审核的维度。

二、关键技术

　　音频审核的关键技术可划分为“有语义”和“无语义”两类。

1. 有语义类型：涉及明确的语义信息，如广告词、违禁词等。通过语音识别（ASR）技术将音频转换为文本，再运用自然语言处理（NLP）技术识别违规内容。
2. 无语义类型：包括娇喘、呻吟等无明显语言含义的音频内容。这类内容通过提取声纹特征进行分类识别。
3. 特殊类型：如违禁歌曲识别，需结合声纹识别与音频检索技术，构建违禁歌曲库进行比对。

三、产品设计

1. 应用场景

• 场景：语音聊天室、视频直播间、FM电台等均需音频审核确保内容安全。
• 审核内容：涉黄、广告、涉政及违禁内容等。
• 场景发散：未来可探索AR内容及元宇宙内的信息审核。

2. 业务流程

• 源数据+预处理：对接待审核内容，进行预处理如分段。
• 模型处理：通过AI分析输出审核结果，包括违规、疑似违规及未违规。
• 人工复审：对疑似违规内容进行复核，并抽样审核其他内容以提高准确性，同时回流badcase数据用于算法升级。

3. 产品功能设计

• 功能接口：提供API和SDK能力，支持数据请求分析、结果查询及规则定义等。设计时应考虑字段支持，如URL及审核模板等。
• 可视化界面：提供上传音频文件分析、规则设定及数据统计等功能，提升用户体验并辅助产品使用。

4. 评估指标

• 违规识别准确率：衡量机器识别与人工复核的一致性。
• 违规识别召回率：衡量机器识别覆盖实际违规内容的程度。

　　音频审核技术的发展对音频市场的扩展和内容监管的增效有重要作用。然而，实际应用中需考虑具体业务场景，针对特定场景优化技术，如车载音频的审核因受噪声影响而具挑战性。因此，产品需结合业务实现场景可控，让AI发挥实效。