静岡県で猛威を振るっていた台風15号ですが、ひどい水害だとしてドローン撮影されたとされる偽の画像がツイッターで拡散され、話題となっています。
川の中に民家が溺れている様子に、一時は「大変だ…」と拡散されましたが、実はAIが作成したデマ画像であることが判明しました。
判明したきっかけは、最初にデマ画像を拡散したとあるツイッター民が画像の内容が偽物であることを発表したからです。
しかし、このユーザーについて調べてみると、過去にツイッターのアカウントを凍結されていることが判明しました。
今回の画像がなぜデマと言われているのか、そして作成し拡散したアカウントについてや、今回の件は取り締まり対象になるのか調べてみました。
静岡県水害の様子がAIデマ画像と言われている理由
台風15号にまつわる静岡県の水害状況（のデマ画像）が2022年9月26日4:39頃、ツイッターにて拡散されました。
画像と一緒に「マジで悲惨すぎる…」との文言が添えられています。
5,000近くのいいねがついていることから、凄まじい拡散力によって多くの人に広められてしまったこともうかがえます。
しかし、上記の画像は全てフェイク画像でした。
実際の静岡県の被害状況はこのような形となっています。
（現地民の方の投稿です）
今回の静岡県のドローン撮影の写真がデマ画像と言われている理由は、ITジャーナリストの篠原修司さんのヤフーニュース記事によれば、
- 自然豊かな街が水に浸かっているように見えるが、よく見ると木と家が不自然に合体している部分がある
- 多くの家があるにも関わらず、電柱がどこにも見当たらない
- 一般的な住宅しかないはずのところの水面にビルらしきものが写り込んでいる
- 川の中に家が建っている。家が流された可能性もあるが、今回は家が流された報道は出ていない
- 水の流れをさえぎるようなものがないのに水面が急に穏やかになっている
- 街と街のあいだを森のような自然がさえぎっているが、日本の平地の少なさを考えればこんな森による分断を許すとは考えづらく、そもそも言えばビルの形も不自然
これらの不自然な部分があるからだと言われています。（※一部修正・加筆）
とはいっても、パッと見ただけでは嘘か本当かの見分けが難しいのが正直なところです。
AI技術が進んで、まるで実在するかのような世界を創り上げることができるようになってきている今、私たちは自分の目をより養う必要があるのかもしれません。
静岡県水害のAIデマ画像を作ったのは誰?
今回のAIデマ画像を作成したのは、「くろん（@kuron_nano）」というユーザーのようです。
実際に画像を拡散した張本人であることは、その後の謝罪文がこのアカウントから出ていることからも、ほぼ確実と言ってよさそうです。
ただ、一見謝罪の文に見えるこちらの文章を最後まで読んでいくと、
騙されて拡散した人、「明らかにおかしい」と言って騙されていないフリをしている人、ばーか！ｗｗｗ ざまあｗｗｗｗｗｗｗｗｗｗｗ
ろくに確かめもせず、パッと見て信じ込んじゃってね。
お前らの常識とネットリテラシーの無さが露呈しましたね！ｗｗｗ
どのような主張をしても、こんなデマをソースにしたのであれば正しいとは認められませんよ。○ヨクさん。
正しい根拠を用いて主張をしましょうね。
引用元：https://twitter.com/kuron_nano/status/1574292749364342784
と、ツイートを拡散した人たちや騙されていないフリをしている人？達を煽るような文章が書かれています。
文章からは“キッズ感”が否めず、また本人も「ママにバレたらどうしよう」などと子ども風のツイートをしていますが、中身は恐らく大人である可能性が高いのではと考えます。（個人の考察です）
※ちなみに本人曰くAdoさんと同い年の19歳だそうですが、正直デマ情報を流している張本人なので確証はありません。
（仮に19歳だとして、ママと呼んでいる時点で違和感がありますが…）
「くろん」という人物が大人であるという理由は、
- Stable Diffusionで画像を作っている
- 過去に垢BAN経験がある
- 「ｗｗｗ」の多様や煽り方の文章構成力的に子どもだと違和感がある
という特徴があるからです。
「くろん」というアカウントを動かしている人物は、AI画像が作成できる「Stable Diffusion」というツールを使って今回の水害デマ画像を作ったことを明らかにしています。
しかしこのStable Diffusionは実際に動かそうとすると、知識が必要です。
実際に、ソフトダウンロードサイトの「窓の杜」に書かれているレビューでは、
ソースの公開から数日で、他の利用者が様々な環境構築手順をインターネット上で公開している。ただその多くがPythonに関する知識がある前提のものが多く、それゆえ独自のやり方になっているものが多い。またOSがWindowsではないことも多々ある。
引用元：https://forest.watch.impress.co.jp/docs/special/1437123.html
と書かれており、コードを使って英数字を書いていくプログラミングのような作業が必要となります。
果たしてここまでの作業が子ども（キッズ）にできるのでしょうか…？
そして「くろん」という人物は以前にもツイッターアカウントを凍結されている経験を持っているようです。
つまり、今回のデマ画像拡散はたまたまタイミング的に広まってしまったのもあるかもしれませんが、以前から故意に何かをやらかしていたことは明らかです。
そして、子どもだという割には煽りに使うワードや表現の仕方が中年男性のような感じがします。
これらのことから、少なくとも小学生あたりの年齢ではないと考察します。
もし本当に19歳くらいなのだとしたら、エンジニアとかもっと他の事に才能を活かした方がいいようにも思えますが…。
【2022.10.02追記】デマ画像を作成したとみられる男性がニュース番組「バンキシャ」にてインタビューを受けていました。↓
年齢からして若そうですが「AIで画像を作ることがSNSで流行っていたので」という理由で今回作成に至ったようです。
そして今回のデマ画像は布団の中で投稿したようですね。
特に深く考えることもなく、これほどまでに反響があるとも思っていなかった様子です。
ネット上では「鋼のメンタル」と声が上がっています。
デマ画像(情報)の拡散は取り締まり対象になる？
今回のデマ画像の拡散は警察の取り締まり対象になる可能性があります。
ポイントは、大きく3つ考えられます。
- 悪意があり、炎上を楽しんでいる反省の色が見えない姿勢であること
- ただのクソコラ案件ではなく、災害や人命に関わる大切な情報でデマを流したこと
- 確信犯であり、過去に垢BANされていること（何らかの悪いことをしている可能性高）
「くろん」という人物は、反省の謝罪文を出してからも、まったく反省しているようには思えないようなツイートを連発しています。
（このほかにも他のユーザーに噛みついている様子です）
そして今回のデマ情報は、人命にかかわるテーマであるのが大きいポイントです。
台風15号で実際に命を落としている方もいらっしゃいますし、災害時には適切な情報が何よりも早く求められる場面です。
そういった点を果たしてどこまで理解して画像をネット上にあげたのかと言うのは疑問点です。
そして、過去にやはり過去に一度垢BANをくらっているという点では「ここまでの影響があるとは思わなかった」では済まされないのではという感じがします。
実際に2016年4月に起きた熊本地震の際には、ライオンが動物園から逃げたという文言と画像（ガセ情報）が出回り、20歳の男性が「偽計業務妨害の疑い」で逮捕されました。
4月14日に発生した熊本地震の直後に「熊本の動物園からライオンが逃げた」というデマ情報をTwitterに投稿して、動物園の業務を妨害したとして、神奈川県に住む20歳の会社員の男が逮捕された。
引用元：https://www.huffingtonpost.jp/2016/07/20/lion-escape_n_11081056.html
災害時にデマ情報を流し、業務妨害をしたとして逮捕されたのは日本でも初めてのことでしたが、今回のケースもほぼ同じような状況ではないでしょうか？
これらの観点から、今回逮捕に繋がるのかは分かりませんが、正直逮捕されてもおかしくないレベルのデマ事件だと個人的には思います。
画像の持つ視覚的インパクトは、文章を読むよりも強いと言われているからこそ、情報を鵜吞みにせず、引っかからないようにしたいですね。
