あるアニメのライヴ動画がYouTubeで流され、数百人が視聴する出来事が3月26日（米国時間）の朝にあった。その内容とは、「マインクラフト」の女性アヴァターが胸を露出し、うんちの絵文字が詰まったプレゼントの箱を開けるというものである。この動画のサムネイルは、膨れ上がったふたつの胸がうんちの形をしたマインクラフトのレンガを掲げているというものだった。
YouTubeのトピック機能を使って「マインクラフト」を検索したところ、ほかにも複数の不穏かつグロテスクなマインクラフトのアニメ動画が見つかった。トピック機能とは、2019年に導入されたコンテンツのソート機能を指す。
発見された同様のマインクラフト風サムネイルには、目がハート型で血まみれのナイフを持ったアヴァターが、鎖で拘束されたビキニ姿の女性に笑みを向けているもの、父親と母親が泣き叫ぶ幼児に棒を突き立てているもの、お腹に排泄物をため込んだ女性が男性の上に座ろうとしているものなどがあった。こうしたライヴ動画は数時間にわたって連続でループ再生され、計数万回も視聴されているものもある。これらのチャンネルには、1日あたり数万回の視聴数を稼いでいるものもあった。
「エルサゲート」に続く事件
YouTubeでは2017年、子どもに適した内容であるはずの「YouTube Kids」アプリにおいて、子どもにも安心な内容であることを装った生々しい性的または暴力的な動画が数百件も投稿されている事態を、複数のジャーナリストが発見している。この事件は、のちに「エルサゲート」と呼ばれることになった。
子どもの虐待、殺人、その他のR指定コンテンツを含むこれらの動画は、「ペッパピッグ」や「アナと雪の女王」のエルサといった子どもたちに人気のキャラクターが登場するものや、無害なタイトルを隠れ蓑にしているものが多かった。それらがYouTubeのアルゴリズムの目をかいくぐる上でひと役買ったことは明らかだろう。
また、そうした動画は個人のアニメーターらによって作成されていた。これに対しYouTubeは15万件以上の動画を削除し、200万件以上の動画から広告を除外した。こうしてYouTubeが“エルサゲート”を排除したことで、YouTube最大の視聴者層のひとつである子どもたちをターゲットにする悪徳コンテンツクリエイターたちは、一部のあからさまな方法を使うことが難しくなった。
ところが17年以来、YouTubeはトピック、ハッシュタグページ、ヴィデオゲームのディレクトリーなど、検索しやすさを向上させる新機能を複数追加してきた。いまやペッパピッグを使った不道徳な動画はそう簡単には見つからなくなったが、『WIRED』US版の調査によってマインクラフトや「Among Us」のファンをターゲットにした日和見的なチャンネルが多数存在することが明らかになっている。
衝撃的なサムネイル
今回問題になった動画はYouTube Kidsには表示されていなかったようだが、YouTube動画における視聴回数の上位の半数以上は、子どもを対象にマーケティングされている。童謡や教育動画は、休憩が必要な親たちにとっては子どもたちを楽しませ、落ち着かせるためのものである。そして親たちはそうした動画を繰り返し再生することから、視聴回数が数百万回に達することも多い。
子どもをターゲットにした動画の多くは、子どもたちに人気のキャラクターの知的財産権を保有している公式チャンネルが制作したものだ。それ以外は、ストリーミングという娯楽を飽きることなく楽しんでくれる子どもたちから利益を得ようと第三者がつくる、低予算のアニメーションである。
マインクラフトはYouTubeで最も人気のあるゲームで、常に数万人がマインクラフトのライヴコンテンツを視聴している。その視聴者の多くは子どもたちだ。
YouTubeの「ゲーム」カテゴリーのトップからマインクラフトをクリックすると、ユーザーはマインクラフトのトピックページに移動する。標準設定では、現在の視聴者数の多い順に動画が表示されるようになっている。
このセクションにおいて3月29日に最初に表示されていた動画のサムネイルには、よだれを垂らした目がハート型の警察官と、ピンクのパンツを横に脱ぎ捨てた胸の大きなアヴァターが描かれていた。この動画をライヴで視聴していたのは6,000人である。
マインクラフトのほかのグロテスクな動画と同じく、この動画で最もショッキングなのはサムネイルだった。性的なほのめかしや暴力は、そのアニメ動画にはほとんど登場しなかったのである。
「ライブ」セクションに潜む悪質な動画
YouTubeはトピックページを5つのセクションに分けている。「ライブ」以外の4つのセクションの動画の大半は、マインクラフトのアニメーション、ハイライト、チュートリアルといった内容になっている。
不適切なサムネイルは、特にユーザーが視聴または検索した場合には各所にばらばらに表示されるが、まず最初に表示されるライブセクションには、そうした動画が最も集中している。マインクラフトの3月26日のライブセクションには、例のうんち動画が表示されていた。そして少し右にスクロールしたところに、血まみれのナイフを握った手がビキニ姿の女性に向けられているサムネイルの動画があった。
YouTubeの検索において特に目立つライブセクションで、数十万回の視聴数を稼ぐことが可能だ。『WIRED』US版が2020年に調査したところ、YouTubeのゲームカテゴリーのライブセクションの大半は詐欺動画で、通常時の同時視聴者数が数千人に上っていたことが明らかになっている。
例えば、「グランド・セフト・オートV（GTA V）」のチート販売を謳う動画には、ユーザーの認証情報を盗み取ろうとしていると見られるものなどを含め、怪しげなサイトへのリンクが貼られていた。不快なマインクラフト動画をトピックページのトップに表示し、そして無防備な視聴者に見せることで押し上げている視聴者数のうち、正当な視聴者の割合がどれほどなのかは不明である。
「Among Us」の動画にも同様の問題
2018年に導入されたYouTubeのハッシュタグでは、同じタグが付いたすべての動画がひとまとめにされる。ここで「トピック」機能に比べて特にモデレーションがうまく機能しているということはない。
例えば「Among Us」のハッシュタグでは、Among Usの女性アヴァターが下着を脱いでいるものや、男性アヴァターが女性の尻を叩いたり、スカートの中をのぞいているサムネイルの動画がリストの上位に並んでいた。このページにはハッシュタグを含め、Among Usのあらゆる動画から簡単にアクセス可能になっている。
特に驚きの強い動画の多くは数百万回の視聴数を稼いでおり、なかにはマインクラフト風のものとAmong Usのクロスオーヴァー形式になっているものもあった。例えば、切り開かれたお腹に便が詰まっている女性の下に男性が横たわっているものや、近くに3人の子どもがいるなかで箱に排泄している女性アヴァターがサムネイルになっているものなどもあった。
同じく子どもたちに人気のあるゲームでも、同様の問題が起きていないように見えるものもある。「フォートナイト」のハッシュタグに問題はない。「Roblox」も同様だ。不穏なコンテンツの大半はショッキングなサムネイルに限定されていることから、おそらくはユーザーに動画をクリックさせることが目的だろう。
監視の目をすり抜けるコンテンツ
YouTubeは設立当初から、子どもにとって安全な環境づくりに苦労してきた。そして成長を遂げ、忙しい親たちのための子ども用ネットワークとして定着しても、問題は悪化するだけだった。
こうしたなか『WIRED』US版は2019年、ソフトコア児童ポルノがいかにYouTubeで数百万回の視聴数を稼いでいるかを報じた。こうした動画は、4A Gamesやエピックゲームズといったゲーム会社によるプレロール広告によって収益化されており、これを受けてエピックゲームズはYouTubeでの広告表示を一時的に停止することになった。
同じく19年、YouTubeはインターネット上で子どもたちの行動をトラッキングしていたことなどを含め、児童オンラインプライヴァシー保護法に違反したとして1億7,000万ドルの罰金を課されている。これを受けてYouTubeは、子どもたちに人気の動画からのユーザーデータの収集を停止した。児童オンラインプライヴァシー保護法により、YouTubeは13歳未満の子どもにサーヴィスを提供できなくなっている。
今年3月25日（米国時間）に開かれた米下院公聴会では、議員たちがYouTubeが一貫性をもってこのルールを実行できていないことを批判した。これに対してグーグルの最高経営責任者（CEO）であるスンダー・ピチャイは、YouTube Kidsを引き合いに出している。
実際のところYouTube Kidsでは、重層的に監視が実施されている。非営利団体「Common Sense Media」のソーシャルメディアおよび学習リソース部門のシニアエディターのクリスティン・エルガースマによると、不穏なコンテンツがそうした監視のフィルターを通り抜けているかどうか知ることは難しいという。
「わたしたちは、アルゴリズムが簡単に操られてしまうことを学んでいるのだと思います。また、モデレーションが必要な動画の量は、YouTubeが管理しようという意思をもっている、あるいは管理可能な人力でのモデレーションのレヴェルを超えています」と、エルガースマは指摘する。「これまでに起きた問題を考えると、子どもたちに人気のトピックに対するモデレーションが強化され、安全に見せかけた不穏なコンテンツにYouTubeが目を光らせておくのが理想的です」
より広範な問題は、YouTubeがマインクラフトのように主に子どもたちに人気のあるトピックを通じて、子どもたちに不適切なコンテンツを提供していることだろう。「コンテンツの見つけやすさに影響するアルゴリズムのさまざまな調整や、子ども向けに見える不穏なコンテンツをつくろうとするトラブルメーカーたちの継続的な取り組みにより、この問題は動く的のように狙いを絞りにくくなっています」と、エルガースマは語る。
YouTubeの取り組みに疑問符
『WIRED』US版は今回、新たに発見した多数の動画のうち3件をYouTubeに報告し、コメントを求めた。YouTubeはこのうち1件の動画が「子どもの安全に関するポリシー」に違反し、別の1件の動画のサムネイルが「ヌードや性的なコンテンツに関するポリシー」に違反しているとして削除している。
「エルサゲート以降、わたしたちは違反コンテンツを素早く削除できるようにシステムとポリシーへの大きな投資を進めてきました」と、YouTubeの広報担当は語る。「13歳未満の方はYouTubeを利用できないので、15年にYouTube Kidsをつくりました。そして最近では8～12歳、またはそれ以上の10代のお子さんたちがYouTubeの世界に飛び込む準備ができたと判断された保護者の方々のために、管理アカウントオプションを発表しています」
ゲームにひも付けられたYouTubeのこうした動画は、エルサゲートの直接的な再来ではない。まず、こうした動画の最も明白でショッキングな要素がサムネイルであることが理由のひとつだ。
また、YouTubeが13歳未満のユーザーを引き込もうとしているYouTube Kidsには、こうした動画は表示されていない。だが、マインクラフトの性的虐待動画にYouTubeのホームページから2クリックでたどり着けてしまうという状況では、YouTubeができる限りの手を尽くしてきたのか疑問が残るところだろう。
※『WIRED』によるYouTubeの関連記事はこちら。
RELATED ARTICLES
毎週木曜はオンラインイヴェント「Thursday Editor's Lounge」開催！
INFORMATION
限定イヴェントにも参加できるWIRED日本版「メンバーシップ」会員募集中！
次の10年を見通すためのインサイト（洞察）が詰まった選りすぐりのロングリード（長編記事）を、週替わりのテーマに合わせてお届けする会員サーヴィス「WIRED SZ メンバーシップ」。毎週開催の会員限定イヴェントにも参加可能な刺激に満ちたサーヴィスは、1週間の無料トライアルを実施中！詳細はこちら
からの記事と詳細 ( 子どもたちにとって“不適切”なYouTube動画が、「マインクラフト」の姿を借りて潜んでいる - WIRED.jp )
https://ift.tt/3mxiK9Z
No comments:
Post a Comment