Google社の最新AI動画生成ツール「Veo 3」で作られた人種差別的コンテンツが、TikTok上で数百万回再生されています。わずか8秒の動画が持つ破壊力と、AI技術の意図しない悪用が明らかになりました。私たちが目撃しているのは、単なる技術的な問題ではありません。
ARCHETYP Staffingでは現在クリエイターを募集しています。
エンジニア、デザイナー、ディレクター以外に、生成AI人材など幅広い職種を募集していますのでぜひチェックしてみてください！
ボタンから募集中の求人一覧ページに移動できます。
Google Veo 3が生み出す「8秒の憎悪」
Veo 3は、Google社が5月20日にリリースしたテキストから動画を生成するAIツールです。ユーザーが文章を入力すると、その内容に基づいて最大8秒間の動画を自動作成します。現在は一般公開されており、誰でも無料で利用できる状況にあります。
問題となっているのは、このツールで作成されたとみられる人種差別的な動画がTikTok上で大量に拡散されていることです。調査機関のMedia Matters社によると、これらの動画には共通点があります。すべて8秒以内の長さで、動画の角に「Veo」というラベルが表示されています。また、Veo 3やAIに関連するハッシュタグが使用され、AIが生成した特徴的な不自然さも見受けられます。拡散されている動画の内容は深刻です。黒人を猿に見立てた映像や、人種差別的な固定観念を助長する内容が数多く確認されています。例えば、「アトランタの平均的なワッフルハウス」と題された動画では、猿がレストラン内を暴れ回り、スイカやフライドチキンを扱う様子が描かれています。この動画だけで60万回以上再生されました。さらに衝撃的な数字もあります。白人警察官が「黒人だ！」と叫んで銃を発砲する動画は、なんと1,420万回も再生されています。8秒という短時間にも関わらず、これほどの拡散力を持つ理由は明確です。短い動画は視聴者にとって消費しやすく、ソーシャルメディアのアルゴリズムにも好まれる傾向があります。
コメント欄の反応も問題の深刻さを物語っています。「AIでさえ黒人疲れしている」といった差別的なコメントが2,000以上のいいねを獲得するなど、視聴者がこれらの内容を差別的メッセージとして受け取り、支持していることが明らかになっています。
プラットフォームの限界と野放し状態の現実
TikTokには明確なコミュニティガイドラインが存在します。人種や民族グループを非人間化する動画や、個人やグループに身体的危害を加えることを脅迫する内容は禁止されています。しかし、現実には数百万回再生される差別的コンテンツが堂々と配信され続けています。
TikTokは過去にも、ヘイトスピーチ、暴力的コンテンツ、誤解を招くAI生成コンテンツの抑制に苦戦してきた歴史があります。今回Media Matters社が特定した動画群も、プラットフォーム上で野放し状態となっているのが実情です。
特に深刻なのは、AIが歴史的トラウマを「娯楽」として再現している点です。ある動画では、男性がナチの強制収容所での日常をブログのように語っています。火葬場の煙突の前で「少し煙たいですが、何かとても良い匂いがします」と発言し、靴の山を指して「あそこにエアジョーダンがあるかしら」と続けます。この動画は100万回再生されました。別の動画では、クー・クラックス・クランのローブを着たキャラクターが馬に乗って黒人男性を追いかける場面が描かれています。これらは明らかにTikTokのガイドラインに違反する内容ですが、削除されることなく拡散を続けています。
移民や抗議者を標的にした暴力的コンテンツも確認されています。車で抗議者を轢く場面を描いた動画では、運転手が「私はこれらの新しいスピードバンプが大好きです。ドスン、ドスン」と発言しています。こうした内容が90,000回再生されている現状は、プラットフォームの監視体制に重大な問題があることを示しています。
問題の根深さは、単純な技術的解決では対処できない複雑さにあります。AI生成コンテンツは従来の自動検出システムでは識別が困難で、人力での監視にも限界があります。また、8秒という短時間での差別表現は、文脈を理解する必要があり、機械的な判定では見逃されやすい特徴を持っています。
AIプロパガンダ時代の到来と私たちへの影響
従来、AI生成コンテンツに関する議論は「どれだけ現実的に見えるか」という信憑性に焦点が当てられてきました。しかし、今回の事態が示しているのは、憎悪的なメッセージが視聴者の心に人種差別的信念を根付かせるために、必ずしも現実的である必要がないという事実です。
アメリカには、漫画を使って憎悪的な反黒人プロパガンダを伝えてきた長い歴史があります。現在のAI生成動画による差別的コンテンツは、この手法の現代版と言えるでしょう。重要なのは映像の真偽ではなく、繰り返し視聴されることで無意識に刷り込まれる偏見や固定観念です。実際の視聴者反応がこの懸念を裏付けています。猿を使った差別的動画に対して「彼らの行動様式すべて…完璧に…」といったコメントが寄せられ、多くの支持を得ています。8秒という短時間でも、確実にメッセージが伝わり、共感を呼んでいることが分かります。
現在のAI技術開発競争では、機能向上や処理速度の改善に注目が集まりがちです。しかし、今回の問題は、技術の進歩と並行して考慮すべき人権的側面の重要性を浮き彫りにしています。Veo 3のような高性能ツールが一般公開される際、悪用防止策についても同等の注意が払われる必要があると考えられます。私たちが直面している課題は、技術そのものの善悪ではありません。問題の核心は、誰でも簡単に差別的コンテンツを大量生産できる環境が整ったことです。従来は専門知識や高額な機材が必要だった動画制作が、文字入力だけで可能になりました。この変化により、差別的メッセージの生産コストが劇的に下がったと言えるでしょう。
今後、似たような問題が他のプラットフォームや他のAIツールでも発生する可能性は十分に考えられます。私たちは、AI生成コンテンツを見る際に、その制作意図や背景にある偏見について、これまで以上に注意深く判断する必要があるでしょう。
まとめ
いかがだったでしょうか？
Google社のVeo 3を悪用した人種差別的動画の拡散問題は、AI技術の発展がもたらす新たな課題を浮き彫りにしました。問題の本質は技術そのものではなく、その使用者の意図と、社会全体の監視体制にあります。私たちは、AI生成コンテンツが持つ影響力を正しく理解し、差別的メッセージに対してより敏感になる必要があります。技術の進歩と人権保護のバランスを取るためには、開発者、プラットフォーム運営者、そして私たち利用者すべてが責任を持って行動することが求められています。
参考記事：Racist AI-generated videos are the newest slop garnering millions of views on TikTok
ARCHETYP Staffingではクリエイターを募集しています！
私たちはお客様の課題を解決するweb制作会社です。現在webサイト制作以外にも、動画編集者や生成AI人材など幅広い職種を募集していますのでぜひチェックしてみてください！
また、アーキタイプではスタッフ１人１人が「AI脳を持ったクリエイター集団」としてこれからもクライアントへのサービス向上を図り、事業会社の生成AI利活用の支援及び、業界全体の生成AIリテラシー向上に貢献していきます。
生成AIの活用方法がわからない、セミナーを開催してほしい、業務を効率化させたいなどご相談ベースからお気軽にお問い合わせください！
ボタンから募集中の求人一覧ページに移動できます。
