台風15号による影響で静岡県に見舞われた水害。
SNS上では現地の厳しい状況や地元民救援情報などが出回っている中
どさくさに紛れ「ドローンで撮影された静岡県の水害の状況というフェイク画像」が
Twitterで3600RTもされ拡散された。
静岡の水害のフェイク画像はAI画像生成ソフト[Stable Diffusion]で作成された画像で、
よく見たらおかしな点はあるものの、
前知識が無い状態だと「ぱっと見、遠目で見たら本物と見分けがつかない」「デマだと言われなければ気付つきにくい」程クオリティが高いです。
一部AIで作られたフェイク画像を「見ればわかる」と思う人もいるかもしれないが、
今回は大多数の人が見抜きにくかった事からデマ画像が拡散されてしまった。
SNSは頭を空っぽにして見る場所でもあるので、
気を抜いてあまり注視しなかった人も多いかもしれない。
今後もAI画像生成によってデマ画像が流れる可能性も高く、
現時点なら
- 「矛盾した箇所がある」
- 「細かい所をよく見れば雑に描かれている」
- 「大手メディアが流している情報を参照する」
などがあるので 人力でも見破ることができますが、
今後、技術の発展によって更に見分け難くなる事が考えられます。
[ディープフェイク]動いている人間の作り物ですら本物と見分けがつかなくなっている
AI画像生成で作られたフェイク画像が問題となっていますが、
海外でも度々完成度が高いディープフェイクでながされ問題になっている。
人力でAIのディープフェイクをどれだけ見破れるか調査している海外のサイト「Detect Fakes」で、
実際にどれだけリアルとフェイク画像を見分けれるか試すことが出来ます。
ディープフェイクを見抜けるかどうか調査する海外のサイト「Detect Fakes」
表示された動画や音声を見て[fake]か[real]かを当てていきます。
「Detect Fakes」で表示されたディープフェイクは見分け安いものがある中、
本物だと思ってしまうフェイク動画もあったり、
「本物の動画も偽物なんじゃないか」と疑ってしまったりもします。
現段階のディープフェイク技術なら細部を注視すれば「人力でギリギリ見分けられるぐらい」。
今後、ディープフェイク技術の精度が上がれば、近い未来に人力で見分ける事が出来なくなる可能性が高いです。
人力で見分けがつかない時に頼るのは判別ツール
AI画像生成技術によって誰でもフェイク画像が作れるようになっていますが、
もし 画像編集の職人、スキルを持っている人が本気を出して完成度が高いフェイク画像を作成したとなると、
見分けがつかない改変が出来ています。
「これじゃ人力じゃ見分けるのは無理じゃ」「本物か偽物か見分けるのがめんどくさい」となった時に頼みになるのが[判別ツール]。
画像編集で作成されたフェイク画像の場合は検知ツールやウェブサービスを使えば、
加工履歴の確認や不自然な箇所を検知する方法がある。
ディープフェイクにも作るAIもあれば、見破るソフトもあるので、
「ディープランニングで本物か偽物かどちらかわからん時代になってきた」となった時には判別ツールを使用する事が常になってきます。
いまや人間には見分けがつかないほど精巧になっていますが、人権侵害やプライバシー侵害、著作権侵害にも繋がるため、ディープフェイクを検出する技術の開発が求められています。そんななか、人間の瞳に着目してディープフェイクを見破るツールがアメリカで開発されました。
このツールは、人の顔から目と眼球、角膜に反射する光を検出し、左右の目の光の形や強さなどを分析します。ディープラーニングなどの評価指標として使われるIoU（Intersection over Union）スコアを使ったところ、実在する人物の画像のスコアは0.5〜1.0になるのに対して、ディープフェイクの画像のスコアは0.1～0.5と低いことが明らかとなりました。このツールを使うとディープフェイクかそうでないかを判断するのに、94％の有効性があると結論づけられたのです。
詳しくはこちらより 瞳は騙せない!「ディープフェイク」を見破るツールがついに誕生!!
コメント