今日头条迎来AI挑战：去年拦截低质AI内容超93万条

　　2月24日，在今日头条举办的“平台治理开放日”活动中，该公司发布了《2024年度治理报告》。报告显示，全年共拦截不实信息超过500万条，涉嫌诈骗内容超过200万条。随着人工智能技术的快速发展，今日头条也面临着诸多挑战，去年共拦截低质AI内容超过93万条，并对781万篇同质化发文进行了处罚。

　　今日头条内容策划负责人刘姗姗在开放日表示：“作为内容资讯平台，我们有责任确保用户看到真实、有用的信息。消灭虚假信息，主动传播真实信息，是我们团队最重要的工作之一。”

　　今日头条生态治理运营负责人韩雨桐提到，随着更多用户在平台上参与创作、记录生活，海量内容中的虚假谣言和低质AI内容对平台生态造成了破坏，也不利于创作的公平性。

　　为了应对虚假谣言，今日头条建立了包括谣言库、权威信源库和专业审核团队在内的三大核心治理能力。2024年，平台在发文下方增加了权威媒体报道来源标签，以提供更真实的资讯和更多客观视角。针对AI技术和低质内容问题，平台在鼓励用户使用AI提高效率的同时，加大了对AI内容的审核力度，保护原创空间。

　　安全问题是各大互联网资讯平台的治理重点。今日头条安全运营负责人闫梦茹分享了2024年在安全治理领域取得的成果。近年来，公司建立了“风险发现→风险识别→风险处置”的全流程治理体系，遵循“早识别、多拦截、多提示、快速干预”的原则，加大了对同质化发文、网络诈骗和网络水军等乱象的治理力度。

　　清华大学新闻与传播学院副教授陆洪磊指出，生成式AI正在重塑谣言的传播生态。技术的加持使得AI谣言在传播空间、速度以及结构和方向上更具“说服性”、虚假性和强传播性，使得传统辟谣手段难以应对。陆洪磊表示，今日头条近年来构建了包括内容治理制度、内容审核、辟谣教育和内外联动的四位一体防御体系，取得了显著效果。他呼吁更多平台携手合作，共同应对网络乱象治理的挑战。

　　北京师范大学法学院院长梁迎修教授在演讲中系统分析了网络谣言的类型、变体及发展趋势，并从法律角度阐述了治理的理论基础。他提出，随着AI技术的发展，AI虚假谣言层出不穷，增加了甄别和治理的难度。然而，我们也可以利用AI技术作为新工具，在谣言内容识别、路径追踪和自动化辟谣等方面实现“用魔法打败魔法”。梁教授强调，网络平台应积极承担社会责任，重视内容整治。同时，政府机构、媒体和公众等应加强协同合作，共同应对网络谣言治理的挑战。