暴力的な映像は見るものを消耗させているらしい

the verge 2019年12月16日の記事から抜粋

もはやTVのような存在になりつつあるgoogleのyoutubeは、時にその自由さから、不適切な画像がアップロードされる事がある。Googleはそれらを監視するためにアルゴリズムを作っているが、実際に機能しているのは、委託された会社の社員がその目で確かめるというアナログな手法であるが、時にそれはその回覧者を重篤なPTSDに陥れる可能性がある。

そういった企業の一つであるアクセンチェアはに勤める何百人のモデレーターは、youtubeを巡回し、暴力的なコンテンツがないかチェックを行っているが、そのほとんどが低賃金の移民であり、その報酬は１時間あたり18.50ドル（年間37,000ドル）で働く。そういったモデレーターは1日あたり5時間のビデオチェックを行うが、これはyoutubeのCEOであるスーザン・ウィジッキが、彼らの負担を1日4時間に減らす事を約束したのにも関わらず、5時間のチェックを行わされている。

モデレーターは、わずか６ヶ月間仕事をしたのち、不安、抗うつ、夜への恐怖、およびその他の深刻な精神健康への影響を感じているという。

ピーターは、暴力的な過激画像をチェックする「VEキュー」の担当であるが、暴力や虐待の画像を毎日閲覧する事によって深刻な影響があるという。

過去一年間に、ピーターは同僚の一人が苦しんで職場で倒れるのを目撃しており、その同僚は２ヶ月の無給休暇を取る事となったという。また別の同僚は仕事に起因する不安やうつ病に悩まされ、食事を摂らなくなり、急性ビタミン欠乏症で入院してしまったという。

この仕事を２年続けているピーターは、精神的健康が脅かされるのを心配しており、彼の家族も繰り返し仕事を辞めるように求めてきたのですが、この仕事以外見つける事が出来ないのではと心配し、辞職する事ができません。

しかし、ピーターは暴力的な画像を長く見たために、髪を失い、体重が増えたと言います。彼はひどく短気になり、たとえ休暇であっても、動悸が激しくなるのです。

「毎日、誰かが誰かを斬首したり、誰かのガールフレンドを銃で撃っているのを見ています」と言い、

「この世界は本当にクレイジーです。本当に気分が悪くなるます。生きる価値がないように思え、なぜ自分か生きているのか分からなくなります」

アクセチュアで働く多くの同僚と同じように、ピーターも移民であり、その多くは中東で育ちました。同社はヘイストピーチとテロリストのプロパガンダを正確に特定し、Youtubeから削除するために、彼らの言語スキルに依存しています。

しかし、それによって彼らの健康が損なわれています。彼らはアメリカ市民になる事を望み、このような過酷な環境に身をゆだねていますが、彼らの願いはトランプ政権により困難になったと言わざるを得ません。

現在多くのインターネットサービスがあり、それらは１０億人以上のユーザーが利用していると考えられます。youtubeだけでもGoogleは多くのモジュレーターが必要です。審査のために送信されたコンテンツの多くは無害で退屈であります。それらからスパムを削除したり、不正なコンテンツを削除したりしていても、不快な動画を見つけるのは意外なほど簡単です。Googleは2019年10月、Blogger,Gooleフォト,Googleドライブから暴力的な過激表現を含むコンテンツを1日438個削除したと発表した。

私たちは気軽にコンテンツを回覧できる環境にありますが、その暴力的なコンテンツがどのように影響しているかをあまり理解しては居ません。また、どこの市場でもそうなのですが、社会的に弱い人たちがそのようなコンテンツを管理する事で、彼らの健康を脅かすという事を考える必要があると考えます。また、更に優秀なアルゴリズムを考え出すか、そのような動画が投稿される社会的背景を鑑み、社会問題として考えていく必要がありそうです。