新的AI谣言加剧“认知战争” 面对低质AI内容治理，今日头条如何接招？

　　AI技术的迅猛发展正重塑各行各业，同时也带来了前所未有的挑战。在2月24日举办的今日头条“平台治理开放日”上，清华大学新闻与传播学院副教授陆洪磊指出，AI谣言在跨平台影响力、传播速度及逼真性上较传统谣言更具破坏性。

　　作为国内领先的内容平台，今日头条在应对“进化”中的虚假信息和低质内容方面，其拦截措施也在持续升级。今日头条安全运营负责人闫梦茹在接受《每日经济新闻》采访时表示，随着平台上发文量的激增，人工审核已难以满足需求，目前超过90%的审核工作依靠机器完成。然而，机器审核并非万能，其准确率虽高但非100%，仍需人工校准和更精准的样本训练以提升性能。

　　除了传统谣言外，AI内容的治理成为新课题。今日头条生态治理运营负责人韩雨桐透露，过去一年，他们投入大量精力升级AI低质模型识别能力，并收紧治理标准。2024年，平台识别并管控了超93万条低质AI内容，对近3万个违规账号进行了处罚，有效降低了用户对AI内容的负向反馈。

　　闫梦茹指出，AI技术的发展降低了低质内容的创作成本，市面上甚至出现专业洗稿工具，这加大了治理难度。今日头条通过巡查团队和模型识别相结合的方式，对同质化内容进行精准识别和评估。陆洪磊建议，应持续迭代和加强机器识别能力，同时上线“AI创作标签”以辅助用户辨别内容真伪。

　　韩雨桐介绍，今日头条已建立起包括谣言库、权威信源库和专业审核团队在内的三大核心治理能力。2024年，平台累计拦截不实信息超500万条，封禁违规账号4.77万个，并积极配合警方打击诈骗活动。

　　面对“认知战争”，内容平台如何获得主动权？陆洪磊认为，网络谣言的隐蔽性、分散性已逐渐演变为新闻性、说服性和强传播性，这要求平台、政府、媒体和公众协同治理。今日头条推出的《头条讲真的》项目旨在传播真实信息，通过联合专业创作者进行辟谣和反诈宣传，截至2024年，相关视频在全网话题讨论量已超过36亿。

　　今日头条内容策划负责人刘姗姗表示，平台选择与活跃创作者合作，传达治理决心，让用户在接收信息时明确感知到今日头条的参与和贡献。这一系列举措旨在提升用户信任度，构建更加健康的内容生态。