SNSを見ていたら、知っている有名人が投資について話している。
家族から突然電話がかかってきて、「事故に遭った。すぐにお金が必要」と言われる。
会社では、画面の向こうに上司がいて、「今日中に振り込んで」と指示される。
顔は本人。声も本人。
そこまでそろっていたら、あなたは疑えるでしょうか。
AIで作った動画は、よく見れば分かると思っていました。
実際には、どこを見ればいいのでしょうか？
家族と同じ声で電話がかかってきたら、私はたぶん信じてしまいます。
有名人が話している動画もありますよね。
本人が本当に発信したものか、どう判断すればいいのでしょうか？
上記の疑問を解決します。
2026年8月7日、デジタル庁、警察庁、金融庁、消費者庁など7府省庁は、SNS事業者に対して「なりすまし詐欺広告」への対策強化を要請しました。
著名人の顔や音声をディープフェイクで無断利用した広告が広く流通し、投資詐欺などの被害につながっているためです。
では、AIで作られたフェイクは見抜けるのでしょうか？
結論から言うと、見抜けることはあります。
ただし、「自分なら見抜ける」と思いすぎるのは危険です。
研究結果を見ると、人はAIフェイクを毎回正確に見抜けるわけではありません。
だからこそ、「顔の輪郭がおかしい」「口の動きがずれている」といった特徴だけで判断するのは不十分です。
まずは、映像や声にどんな違和感が出やすいのかを知ること。
そして、少しでも判断に迷ったら、見た目だけで本物だと決めないこと。
AIフェイクを見抜くには、両方の視点が必要です。
記事では、その二段構えで考えていきます。
見抜く力を上げることは大切ですが、見た目だけで決めないことも同じくらい大切です。
迷ったら、送金や個人情報の入力を止めて確認しましょう。
この記事でわかること
- 人はAIで作られた顔や声をどこまで見抜けるのか
- フェイクを疑うときに見たい「3つのズレ」
- なぜ声が本人そっくりでも信用できないのか
- 約2億香港ドルの被害が起きた偽ビデオ会議の手口
- AIフェイクを見抜けなかったときに被害を止める方法
- SNSで有名人の動画を見たとき、顔より先に確認したいこと
目次
人はAIで作られた顔や声を見抜ける？
「AIで作ったものなら、どこか不自然なはず」
そう考える方は多いと思います。
実際、間違いではありません。
顔の輪郭、口の動き、影、声の間。
違和感からフェイクに気づける場合はあります。
ただ、人間の判別能力を調べた研究を見ると、少し違った景色が見えてきます。
2024年に発表されたメタ分析では、56本の研究、合計8万6,155人を対象に調べた結果、AIフェイクを正しく見抜いた割合は全体で55.54％でした。
2択なら偶然でも約50％は当たるため、人間が安定してAIフェイクを見抜けるとは言いにくい結果です。
同じ研究では、フィードバックやAIによる支援などを使った場合、判別成績が改善しています。
さらに2026年に発表された「顔」に絞ったメタ分析では、人間の平均判別精度は56.1％。何も訓練をしていないグループでも53.5％、判別を助ける介入を行ったグループでは62.2％まで上がりました。
つまり、
見る場所を知る意味はある。
ただ、見た目だけに最終判断を任せられるほど確実ではない。
ここがポイントです。
では、実際に何を見るのか。
「手がおかしい」「口元が変」といった特徴を丸暗記するより、私は3つのズレで見る方が分かりやすいと思います。
AIフェイクを見抜くなら「3つのズレ」を見る
フェイクを疑うときに見る3つのズレ
- 映像のズレ：顔やアクセサリー、影、動き、音声のずれを見る
- 会話のズレ：予定にない質問をして、やり取りがかみ合うかを見る
- 行動のズレ：その人が普段する行動かを考える
1．映像のズレ｜顔の中心より、動いた瞬間を見る
AI動画は、顔をじっと見れば分かりますか？
顔だけを見るより、変化した瞬間に注目します。
FBIは、AIを使ったなりすましを疑うポイントとして、
- 手足の形が崩れている
- 顔立ちが不自然
- メガネやアクセサリーに違和感がある
- 影が合っていない
- 動きが不自然
- 音声に遅れがある
などを挙げています。
例えば、正面を向いて話している間は自然でも、顔を横へ向けた瞬間に輪郭が揺れる。
メガネのつるが一瞬消える。
口は動いているのに、音声と微妙に合っていない。
静止した一場面より、動いたときの方がズレを見つけやすい場合があります。
ただし、
「手が普通だから本物」
とは考えないでください。
生成AIは変わり続けます。
以前よく見られた弱点が、次のモデルでも同じように残るとは限りません。
映像の違和感は気づくきっかけにはなります。
ただし、自然に見えても本物とは決められません。
2．会話のズレ｜予定にない質問を混ぜる
映像が自然だったら、もう判断できないのでしょうか？
次に見るのは、映像ではありません。
会話です。
例えば家族なら、
「昨日話していた件、どうなった？」
会社なら、
「その件、○○さんにも相談していましたよね？」
本人なら意味が分かる、予定にない質問を入れてみます。
質問を無視する。
同じ話を繰り返す。
急に話題を変える。
答えが妙にかみ合わない。
そんな反応なら、画面が自然でも一度止まる理由になります。
なぜ会話を見るのか。
後ほど紹介する香港の事件で、その意味がはっきり分かります。
予定にない質問は、相手が本当にその場で会話しているかを確かめる手がかりになります。
3．行動のズレ｜「その人が普段やるか」を考える
三つ目は、AIらしさとは少し違います。
顔や声ではなく、相手の行動を見る方法です。
例えば、
普段は電話をしてくる家族が、突然メッセージだけで高額な送金を頼んでくる。
いつも経理担当を通している社長が、なぜか自分だけに「今日中に振り込んで」と言う。
これまで投資について発信していなかった有名人が、急に「絶対に儲かる」と特定の商品をすすめる。
映像そのものに不自然さがなくても、
「いつもの本人なら、そんなことする？」
というズレは残ります。
FTCも家族を装う詐欺について、犯人が「緊急」「秘密」を強調し、被害者が家族や友人へ確認する時間を与えない手口を紹介しています。
AIっぽい顔を探すだけではないんですね。
そうなんです。
映像。
会話。
行動。
三方向から見ると、「顔がおかしいかどうか」だけで考えるより、気づける材料は増えます。
ところが、まだ問題が残ります。
3つとも自然だったら？
声まで本人そっくりなら、私たちは気づける？
電話は、映像より厄介かもしれません。
画面の乱れも、顔の輪郭も見られないからです。
しかもAI音声は、「なんとなく似ている」という段階からかなり進んでいます。
2025年にScientific Reportsで発表された研究では、参加者が本物の声とAIで複製した声を聞き比べました。
その結果、AI音声を元の本人と同じ人物の声だと判断した割合は約80％。
一方、「AIで作られた声かどうか」を正しく判定できた割合は約60％でした。
80％も本人だと思ってしまうんですか？
研究条件の中では、かなり高い割合です。
だからFTCも、家族から緊急の電話が来た場合に、
「声を信用しない」
と明確に案内しています。
短い音声がオンライン上にあれば、家族に似た声を作る材料として使われる可能性があるためです。
では、
「見ても分からない」
「聞いても分からない」
となったら、もうお手上げなのでしょうか。
ここで、実際に起きた事件を見てみます。
AIフェイクの怖さは、映像が上手だったことだけではありませんでした。
上司も同僚も画面にいた。それでも会議は偽物だった
2024年1月、香港。
ある企業の社員に、英国本社の最高財務責任者、CFOを名乗る人物からメールが届きました。
内容は、機密性の高い取引について。
その後、社員はグループビデオ会議へ参加します。
画面にはCFOらしき人物。
さらに、ほかの会社関係者らしき人物もいました。
知らない誰かから届いた怪しいメールだけなら、警戒したかもしれません。
ところが今回は違います。
知っている上司や関係者が、画面の中にいる。
社員は指示に従い、5つの銀行口座への送金を承認。
被害額は約2億香港ドルに達しました。
ここまでは「精巧なディープフェイク事件」として理解できます。
ところが、さらに驚く点があります。
香港警察の調査によると、ビデオ会議はオンライン上に公開されていた本人の映像や音声を材料に作られた事前録画でした。
つまり、
社員と画面の中の人物は、実際には会話していません。
録画だったため、リアルタイムのやり取りそのものが存在していなかったのです。
送金指示を出した後、犯人は理由をつけて会議を終了。
その後はインスタントメッセージで送金の指示を続けました。
先ほど、
「予定にない質問をしてみる」
と書いた理由がここにあります。
もし録画にない質問を投げたら。
もし普段とは違う送金方法について尋ねたら。
どこかで会話がかみ合わなかった可能性があります。
もちろん、「そうすれば必ず防げた」とは言えません。
重要なのは別のところです。
偽物だったのは、顔だけではありません。
上司がいる。
同僚もいる。
会議まで開かれている。
「本人だと信じてもおかしくない状況」そのものが作られていたのです。
AIフェイクを見るときに、口元や指ばかり探していてはいけない理由が分かります。
この事件では、顔や声だけでなく会議の場そのものが作られていました。
重要な指示ほど、別の経路で確認することが大切です。
AIフェイクで怖いのは「そっくり」だけではない
ここで少し視点を変えます。
詐欺を成立させているのは、AIの性能だけでしょうか。
実際には、
- 知っている人から連絡が来たように見える
- 緊急だと言われる
- 他人へ相談する時間を与えない
- 普段とは違う方法でお金や情報を求める
といった、人を急がせる流れも組み合わされています。
FTCが紹介している家族の緊急事態を装う詐欺でも、「急いで」「秘密にして」という心理的な圧力が使われます。
つまり、AIフェイク対策で見るべきなのは、画像や音声の不自然さだけではありません。
「なぜ、いま判断を急がされているのか」という状況そのものにも目を向ける必要があります。
AIの生成精度が上がっても、急な送金や重要な指示をその場で決めない、という対策は使えます。
では、顔や声からフェイクだと判断できなかった場合、どうすれば被害を防げるのでしょうか。
ここからは、見抜けなかった場合の対処法を見ていきます。
見抜けなかったフェイクを、被害の手前で止める
対策を何十個も覚える必要はありません。
まず二つ。
1．相手が作った連絡経路から、一度外へ出る
家族から、
「事故に遭った。すぐにお金が必要」
と電話が来た。
声は本人にしか聞こえない。
そんな場合は、その電話の中で「本物か偽物か」を決めようとしません。
いったん切って、スマートフォンに以前から登録してある本人の電話番号へ、自分からかけ直します。
つながらなければ、別の家族や知人へ連絡する。
FTCも、AI音声を使った家族のなりすましについて、本人だと分かっている電話番号を使って連絡し直すよう案内しています。
会社でも考え方は同じです。
ビデオ会議で上司から突然送金を頼まれたなら、普段使っている社内チャットや登録済みの社内電話から確認する。
「画面の人物が偽物だと証明する」必要はありません。
確認できるまで、お金を動かさなければいい。
ここが大きな違いです。
2．お金と重要情報だけは、一人で完結させない
すべての仕事を二重確認すると、会社は回りません。
だから対象を絞ります。
例えば、
・新しい振込口座への送金
・高額な決済
・パスワードや認証コード
・顧客情報
・社外秘データ
・普段の手順を飛ばす例外指示
こうした影響の大きい操作だけ、別の担当者を入れる。
社員全員がディープフェイクを100％見抜ける会社を作るより、
一人が信じても、お金が動かない会社を作る。
その方が現実的です。
AIを仕事へ取り入れるときにも、「人がどこで判断するか」という考え方は共通します。
AIが仕事を代わりに進める時代へ｜私たちがまず覚えたい「任せ方」と「確認の仕方」3選
AIへ作業を任せる場合に、人が確認する場所がどこかを紹介しています。
AIを使うときも、送信や公開の前に人が確認する場所を決めておくと安心です。
SNSの有名人動画は、顔より先に「誰が出したか」を見る
有名人が本人の声で話していたら、やっぱり信じてしまいそうです。
2026年8月に7府省庁が対策強化を求めた理由の一つが、まさにそこです。
著名人の肖像や音声をディープフェイクで無断利用した広告が流通し、投資詐欺などへつながっている状況が指摘されています。
そんな動画を見つけたら、
口元を拡大する。
指の形を見る。
声を何度も聞き直す。
その前に、もっと簡単に確認できることがあります。
誰が投稿しているのか。
本人の公式SNSにも同じ発信があるか。
本人や所属先の公式サイトにも情報が出ているか。
大きな発表なら、別の信頼できる情報源でも確認できるか。
ここで覚えておきたいのは、
「本人が映っている」と「本人が発信している」は別
ということです。
顔が本物かどうかを考える前に、動画の外側を見る。
SNSでは、こちらの方が早く違和感に気づける場合があります。
確認できなければ、その場で申し込まなくても構いません。
送金しない。
個人情報を入れない。
拡散しない。
分からないまま保留する。
AIで情報を簡単に作れる時代には、かなり重要な判断です。
SNSでは、動画の中だけでなく、投稿したアカウントや公式サイトも一緒に確認しましょう。
でも、何でも疑っていたら疲れませんか？
ここまで読むと、
「もう電話も動画も何も信用できない」
と思う方がいるかもしれません。
そこまで疑い深くなる必要はありません。
毎日届くすべての動画を、ディープフェイク鑑定する必要もないでしょう。
判断を一段増やしたいのは、失敗したときの影響が大きい場面です。
例えば、
判断を一段増やしたい場面
- 突然、お金を要求された
- パスワードや認証コードを聞かれた
- 普段とは違う連絡方法で重要な指示が来た
- 「誰にも言わないで」と言われた
- 有名人が突然、投資や高額商品をすすめている
そんなときだけ、
「本人に見えるから大丈夫」
で終わらせない。
普段の家族との雑談まで疑う必要はありません。
重要な場面でだけ、判断を一段増やす。
そのくらいが現実的です。
詐欺かもしれないと思ったら、確定するまで待たなくていい
すでに送金してしまった。
個人情報を渡した。
家族からの電話が、本物だったのか分からない。
そんな場合は、「偽物だと確定してから相談しよう」と考えないでください。
警察庁の特殊詐欺対策ページでは、不安を感じた場合の相談先として、
- 警察相談専用窓口「#9110」
- 消費者ホットライン「188」
が案内されています。
送金した直後なら、利用した金融機関への連絡も早めに行います。
企業の場合は、上司や情報システム・セキュリティ担当者へ共有し、追加の送金や情報提供を止めることが先です。
「本物か偽物か分からない」
その状態で相談して構いません。
まとめ｜AIフェイクは「顔の間違い探し」だけでは防げない
AIフェイクを見抜くときは、
- 映像のズレ
- 会話のズレ
- 行動のズレ
を見る。
顔の輪郭や指だけを探すより、判断材料が増えます。
ただ、人間の判別能力には限界があります。
声についても、AIで作られた音声を本人の声だと感じるケースが研究で確認されています。
だから、
見抜けるか。
だけで終わらせない。
見抜けなかったときに、どこで止めるか。
そこまで決めておく。
フェイクの特徴は、AIの進化とともに変わっていくでしょう。
それでも、
「急な送金は一度止める」
「別の連絡方法を使う」
「影響の大きい判断を一人で終わらせない」
という行動は使い続けられます。
AI時代に必要なのは、全部を疑うことでも、全部を見破ることでもありません。
違和感に気づけること。
分からないときに、止まれること。
まずはそこからで十分です。
AIを使う側でも、出力をそのまま信じず、影響の大きい場面では確認を一段増やすことが大切です。
AIを使う側でも、「AIが出したものをどこまで信用し、人がどこを見るか」という考え方は同じです。
AIを基礎から学びたい方は、
大阪・京橋でChatGPTを学ぶなら｜初心者向けAIスクールの選び方5選も参考にしてください。
生成AI未来創造スクール 大阪校では、AI初心者の方に向けた60分のお試しレッスンを受け付けています。
ChatGPTを触ったことがない方でも、実際の画面を見ながら基本操作から始められます。
「AIを使ってみたいけれど、情報が正しいか判断できるか不安」
「仕事で使う前に、安全な使い方も知っておきたい」
そんな方は、実際に触りながら疑問を整理してみてください。
参考情報
- デジタル庁「SNS等におけるなりすまし詐欺広告に関する対策強化のための7府省庁合同要請の実施」
- Hong Kong Government「Combating frauds involving deepfake」
- Federal Trade Commission「Scammers Use Fake Emergencies To Steal Your Money」
- FBI IC3「Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud」
- Diel et al.「Human performance in detecting deepfakes: A systematic review and meta-analysis of 56 papers」
- Barrington, Cooper & Farid「People are poorly equipped to detect AI-powered voice clones」
- 「Are humans able to discriminate between real and deepfake faces? A systematic review and meta-analysis」
- 警察庁「SOS47 特殊詐欺対策」