0001風吹けば名無し
2022/11/05(土) 07:35:06.21ID:JphPyLIG0彼が携わっていた仕事は、自社のサービスに「不適切なコンテンツ」が混じっていないかチェックすること。検索サービスやYouTube、画像管理ソフト、SNSなどに、児童ポルノや獣姦、糞尿愛好や死体性愛、斬首、四肢切断、自殺などの衝撃的内容を含んだ画像や動画があがってないか、日々確認していたという。
ネットユーザーからは感謝の声とともに「俺がやる」
グーグルの画像検索でファイルリングを「強」にすると、露骨な性描写を含む画像や動画のほか、「不適切なコンテンツ」にリンクされている可能性のある検索結果が除外される。
このような機能の精度を上げるためには、使われている単語や画像データの特徴を機械的に分析するだけでなく、人の目によるチェックも欠かせない。ユーザーからの「報告」への対応も必要だ。元従業員は、このような仕事に従事していたようだ。
米国では「不適切なコンテンツ」に対する規制が厳しく、児童ポルノは警告を受けてから24時間以内に削除を行い、連邦当局に通知する義務があるという。これを放置しておくと、会社のサービス全体の存続が危ぶまれてしまう。
写真だけでも1万5000枚のチェックを行うため、従業員のメンタル面にかかる負担は非常に大きく、中には精神を病んで自殺してしまう人もいたという。元従業員も、セラピストが見せた普通の父子の写真を「近親相姦」と誤認したことで、会社から「退職して本格的な治療を受けるよう」申し渡された。
このニュースに対し、ツイッター上には「これは辛いな」と同情する声や、「この人たちのおかげで安心して使えているのか。お疲れさまです」と労をねぎらう声が上がっている。
一方、ネット掲示板の２ちゃんねるには、
「俺が社員の半分の値段でやってやるよ。代われ！」
「給料いりません！成果を出せる自信あります！」
といった書き込みも見られる。
https://www.j-cast.com/kaisha/2012/08/31144502.html
