合肥市公安「三只羊」関係者の偽音声を拡散した25歳男性を逮捕

2024年9月26日、合肥市公安局高新分局の発表によると、インターネット上で拡散された中国の大手食品会社「三只羊」の関係者である盧氏の音声は偽造されたものでした。

これらの音声や映像はAIを使って合成されたものであり、事実無根であることが判明しました。事件は、9月20日に「三只羊」社が警察に通報したことで発覚したそうです。

この報告によれあば、9月22日夜、合肥市公安局は容疑者の王氏（25歳、男性）を逮捕しました。

警察は王容疑者の自宅から、彼が使用したパソコンやスマートフォン、さらにAI音声を生成したウェブサイトの証拠を押収しました。

これらの証拠と王容疑者の供述に基づき、捜査当局は偽造音声の詳細を確認しました。

王容疑者は9月16日に、インターネット上で収集した音声や映像資料をもとに、盧氏の酒の席での発言を捏造しました。

AIツールを使用して盧氏の偽音声を作成し、さらに女性の声もAIツールで生成しました。その後、これらの音声を動画編集ソフトで合成し、インターネット上に流布しました。

この偽情報は瞬く間に拡散され、噂として広まりましたが、警察の捜査によって虚偽であることが確認されました。現在、容疑者は刑事拘束されており、事件は引き続き捜査中です。

今回の事件は、AI技術が悪用されるリスクが現実のものとなった事例の一つです。AIによる音声や映像生成技術が進歩する中、正確な検証が行われないまま偽情報が拡散される危険性が高まっています。

特に、今回のような著名人や企業に関連するデマは、社会的な混乱を引き起こす可能性があります。

この事件はAI技術の規制や管理の必要性についても考えさせられる出来事です。今後、AIツールの利用が増加する中で、その使用に対する法的な枠組みやモラルの遵守が求められるでしょう。

参考：合肥警方通报“三只羊”卢某某录音事件：为AI伪造，嫌疑人落网