中国のニュースアグリゲーションプラットフォーム「今日頭条（ジンリートウティアオ、Toutiao）」が、AI技術の進化に伴う虚偽情報や低品質コンテンツの増加に対応するため、AIを活用したコンテンツ審査体制を強化中。2025年2月24日に北京で開催された「プラットフォームガバナンスオープンデー」では、今後の取り組みを発表した。

今日頭条は、ByteDance（バイトダンス）社が運営するAIベースのニュース配信プラットフォームで、ユーザーの興味に合わせた個別化されたニュースを提供するのが特徴。ニュース記事だけでなく、動画やエンタメ、ライフスタイルなど幅広いコンテンツを扱い、国内で数億人のユーザーを持つ影響力の大きなメディアだ。

「2024年度ガバナンスレポート」によれば、今日頭条は過去1年間で500万件以上の虚偽情報や低品質AI生成コンテンツ、同質化投稿に対して対応を行った。これにより、プラットフォーム内のコンテンツ品質の維持と、情報の信頼性向上を図っている。

清華大学ニュース・コミュニケーション学院の陸洪磊副教授は、AIによる虚偽情報は従来の手法では対処が難しいと指摘。今日頭条が採用する「コンテンツガバナンス制度、コンテンツ審査、デマ対策教育、内外連携」の四位一体の防御策を評価し、「AI対AI」のアプローチが実効性を持つと述べた。

今日頭条のエコシステムガバナンス運営責任者、韓雨桐氏は、クリエイターのAI技術活用を支援する一方、AI生成の低品質コンテンツには断固とした対策を実施中。AIコンテンツの流通割合を技術的に監視し、コンテンツエコシステムの健全性を確保する方針だ。

安全運営責任者の闫夢茹氏は、同質化投稿のガバナンスにおいて、リスクの発見から識別、処理までをカバーするガバナンスシステムを構築したと説明。AI能力を審査チームとメカニズムに組み込み、大量情報の迅速な識別と抽出を実現している。今後もモデル能力の向上を進め、不良情報の早期識別、ブロック、警告、迅速な介入を強化する方針だ。

今日頭条は「AI対AI」の手法を用いてAI生成の虚偽情報に対処し、プラットフォームの安全性とエコシステムガバナンスの向上を目指す。社会とユーザーに、より信頼性の高いインターネット環境を提供することに注力している。

解説：同質化投稿とは？
同質化投稿とは、インターネット上で同一または非常に類似した内容の投稿が大量に行われる現象のこと。同じ記事やコンテンツが異なるアカウントから繰り返し投稿されることで、情報の多様性が損なわれたり、虚偽情報があたかも多くの人々に支持されているように見せかけるリスクがある。今日頭条はAIを活用して、こうした同質化投稿を自動的に検出し、プラットフォーム内の健全な情報エコシステムを維持する取り組みを進めている。