チェスの動画が人種差別的！？

YoutubeではAIによる自動判定によって、有害な動画の管理が行われており、中でも人種差別的で攻撃的なものは有害と考えられ、削除の対象に含まれている。

だが、この自動判定によってあるジャンルが大きな影響を受けいるという。

それは、なんとチェスの動画。

米カーネギーメロン大学のコンピューター研究者によると、昨年6月、Youtubeで人気のあるチェスのチャンネルが突如有害で危険なコンテンツとしてブロックされたあと、AIの不具合とする調査が開始されたという。

ブロックされてしまったのは、クロアチアのチェスプレイヤー、アントニオ・ラディック氏が所有するチャンネルで、登録者数は100万人以上にのぼる世界で最も人気のチャンネルである。

ところが6月24日、グランドマスターであるヒカル・ナカムラ氏との動画を、突如Youtubeがブロック。

ラディック氏は運営に抗議をし、24時間後には動画は復活したとのこと。

Youtubeのモデレーションシステムは、動画自体のAIによる判定と、コメント欄による判定が行われている。研究者はこれに関し、「人種差別的な言語を検出するために、人工知能に依存している場合、このような事故が発生する可能性がある」と述べている。

過去にヘイトスピーチとして分類された1000件以上のコメントを手動で確認したところ、「黒」「白」「攻撃」といった単語が複数含まれているものだった。これが原因で、およそ82%が誤って分類されていたとのこと。

こうしたことから、「黒と白が戦う」という要素から、人種差別を扇動すると勘違いされ一時的にブロックされたと考えられている。

この論文は今年のアメリカ人工知能学会の年次会議に提出されたとのこと。Youtubeにはシステムの改善が求められている。

参照元：Independent、Facebook