YouTuberの「マメ」（登録者数33万人）が3月13日、「原因はまさかの○○。友人のGoogleアカウントが一発BANされた話。」と題する動画を公開しました。マメは、スマホなどのガジェットの活用術を紹介している人気YouTuberです。

子供の裸の写真で“一発BAN”

最近、マメの友人がGoogleアカウントを“一発BAN”されてしまったのだとか。アカウントがBANされてしまうと、GmailやYouTubeなどGoogleのさまざまなサービスが利用できなくなってしまいます。この友人は結婚式を間近に控えていたといい、Googleフォトにアップロードした写真が一切見られなくなってしまったため、結婚式用のムービーづくりや写真選びができないという悲惨な状況に陥ってしまったそうです。

友人がBANされたのは、Googleフォトにアップロードした写真が「児童ポルノ」と判定されたためだそう。しかし実際には児童ポルノではなく、子供がお風呂に入っている写真や、プールに入っている写真といった日常の写真だったようです。

マメによると、Googleはアップロードされた写真が規約違反に当たるかどうかをAIを使って判別しているため、投稿主に悪気がなくとも規約違反だと判定される可能性があるとのこと。また、Googleがアメリカの会社であることから、日本での利用もアメリカの法律に基づいた規約が適用されるといった事情もある様子。

マメは言及していませんが、日本では当たり前の小さな子供との入浴が、欧米では性的虐待とされて警察に通報されることもあり、そういった考え方の違いも影響しているかもしれません。（参考：外務省 海外安全ホームページ）

現在問題なくてもアルゴリズムが変われば危険？

マメは、子供の裸の写真をアップロードしていてもBANされていない人も多いとはずだとも語ります。この理由については「AIがまだその画像に気づいていない」可能性があるとマメは推測。

例え現在では「セーフ」と判定されていたとしても、「AIのアルゴリズムが変わったらその瞬間にBANされる」可能性もあるとして、そういった写真をアップロードしている場合はすぐに削除することを勧めています。マメ自身は友人から話を聞き、自身の子供時代の裸の写真をすぐさま削除したそうです。

マメは、大事な写真や動画はGoogleフォトやiCloudなど、一箇所にまとめて保存しておかず、複数のサービスにバックアップを取ったり、自分専用のパーソナルクラウドなどのサービスを活用するのがよいと勧めています。

コメント欄では「むちゃくちゃ有益な情報、ありがとうございます」「これは拡散すべき動画ですね。BANされると、相当なダメージですよね。」といった声が寄せられています。