タグ別アーカイブ: Content Moderation

YouTube銃撃事件により、コミュニティ管理に関する懸念がさらに高まる

【出典】https://www.theverge.com/2018/4/4/17199782/youtube-shooting-demonetized-video-moderation-channel

Picture1

YouTubeは初めて職場での銃撃をうけた。ナシム・アハダムという39歳の女性が、サンディエゴの自宅を出て4日後、拳銃を手にYouTubeの本部に忍び込み、3人を射殺し自ら命を落とした。我々は、犯罪に至ったアハダム氏の動機はわからない―彼女が精神的に不安定であったのか、過去にも暴力的なエピソードがあったのか、または全く関係のない出来事が犯罪を誘発したのか― が、彼女がYouTubeに対し強い感情を持っていたのは確かである。彼女の家族によると、彼女は自身のチャンネルが収益化されなくなった時からサービスを憎んでいた。そのため警察は、 銃撃の主な動機を恨みだとみている。

事件の翌日、私たちがアハダム氏について知っていることのほとんどは、彼女のYouTube動画から来ている。ビデオは銃撃の直後に削除されたが、断片的なバージョンはまだ存在していて、その大部分は音楽ビデオやエクササイズのチュートリアルだった。最も広範にシェアされているビデオは、彼女がYouTubeへの苦情を伝えているビデオだ。そのビデオでは、彼女の腹筋のエクササイズビデオが刺激的すぎると判断され、モデレーターにより年齢制限を課されたことを踏まえ、制限されていないもっと不適切なビデオをたくさん紹介している。彼女は怒っていた。それは公平には見えなかった。

コンテンツ自体がとても見慣れたものであるため、今はそれらを見るのが憂鬱なほどだ。 YouTubeで多くの時間を過ごせば、このような動画をたくさん見ることになる。同社がモデレーションを行えば行うほど、Youtuber達はそれについて不平を言う。ストライクベースのモデレーションは、通常、プラットフォームから完全に追い出されるのではなく、制限をかけられるか収益化できなくされる、ということを意味する。そのため、動画に疑いをかけられた過程を視聴者にアピールし、説明しやすい。Youtuberの次のステップは、通常、高圧的で独断的なモデレーションによるプラットフォームからの完全退去を発表するビデオだ。銃撃事件の結果、最も極端なYoutuberたちは今、自分たちはずっと正しかったという証拠としてアハダム氏のビデオを流出させている。

いくつかの点で、この種の摩擦は避けられない。 YouTubeは大規模なプラットフォームであり、モデレーションシステムは、微妙な差異を考慮する時間がない社員によるユーザーのフラグ、アルゴリズム、および即座の判定の組み合わせに依存している。そのシステムを、ビデオで小さな成功をしようとしている駆け出しセレブ軍団に適応すると、対立は避けられない。これはYouTube文化の定番となっており、今週までは暴力的になる可能性はないと思われていた。

多くの点で、モデレーションはYouTubeが行う最も重要なことだ。銃撃の2週間前に、プラットフォームは銃関連のビデオに関するポリシーを更新したことで、射撃場のデモ動画から数十万のサブスクライバーを持つTheGunCollectiveのようなチャンネルからの反感を買った。昨年子供向けコンテンツに乱れが見られると批判されたYouTubeは、アハダム氏を怒らせたのと同じ仕組みで、不適切だと思われる動画に対しては、より積極的な年齢制限で対応した。これらのすべてがYouTubeの積極的な動きであり、プラットフォームがユーザーや世界全体に及ぼす影響について責任を負うようになっているという兆候である。しかし、そのような動きは、憤慨するチャンネル所有者の犠牲があっての結果であり、彼らは、自分たちのビデオが制限されたり、完全に禁止されるのを決して見たくはないのだ。 YouTubeがより多くの問題に対してより多くの責任を負うに連れ、コミュニティの統制はますます重要になる。

はっきりさせておくと、アハダム氏は彼女がしたことに対して一人で責任を負い、YouTubeのモデレーションを銃撃の動機とするのは恐ろしいことだが、これは誰の行為も抑制しない。あるインターネットサイトでは、すでにアハダム氏をYouTubeのモデレーション制度の犠牲者として描いており、これまでの恨みをはらすために、今回の銃撃を利用しようとしている。ハッシュタグ「#censorshipkills」が新右翼らによって開始され、銃撃をモデレーションポリシーに対する既存の怒りに当てはめている。全米ライフル協会も、YouTubeの銃ポリシーに対する戦いから休むことなく介入している。ライフル協会の一人は、銃撃事件について、YouTubeのモデレーションポリシーは「多くの憎しみを触発した」と説明した。

問題は政治的な苦情よりもはるかに深刻だ。ほとんどのプラットフォームと同様、YouTubeの成功はユーザーに支えられている。彼らはYouTubeをそのような興味深い場所にするビデオとその文化を作り出している。 YouTubeの社員は、そのコミュニティを明るく保つ必要があるが、同時に、それを形式化し、誤った情報や搾取、憎悪から遠ざける必要がある。今回の銃撃事件を皮切りに、それらを遠ざけることなくコミュニティを形作るのは大変だ。今や恐ろしいことに、また予想外に、それらから自分たちをも守らなければならない。