スタンフォード大学の研究者、ルネ・ディレスタさんのもとに、LinkedInでメッセージが届きました。差出人は「キーナン・ラムジー」。同じ起業家のグループに入っていますね、という親しげな書き出しで、最後は電話やビデオ会議をまとめるソフトウェアの売り込みでした。

興味はありませんでした。引っかかったのは、プロフィールの写真です。イヤリングが片方の耳にしかない。髪の一部が、消えたり現れたりしている。目が、画像のちょうど真ん中にある。背景はぼやけている。

その顔は、偽物だと目に飛び込んできた。(筆者訳)

2022年3月のNPRの報道で、ディレスタさんはこう話しています。ただ、彼女は偽の情報の研究者で、こうした顔をたくさん見てきた人でした。続けて、何度も見ていれば顔のパーツの配置に見慣れてくる、とも話しています。

では、見慣れていない人はどうか。不自然さの目立つ画像を除いたAIの顔を使った実験では、人は本物とほとんど見分けられず、しかもAIの顔のほうを信頼できそうだと感じました。

顔はあった。卒業の記録はなかった

ディレスタさんは同僚のジョシュ・ゴールドスタインさんと調べ、AIで作られたとみられる顔を使ったLinkedInのアカウントを、1,000件以上見つけました。ネット上のほかの場所には、この人たちの痕跡が見つかりませんでした。

NPRが確かめると、勤務先として載っていた会社は70社を超えていました。仕組みはこうです。偽の担当者が見込み客に声をかけ、返事をした人だけを、本物の営業担当者に引き継ぐ。人を増やさずに、声をかける相手を増やせます。NPRは、これを「デジタル時代のテレマーケティング」(筆者訳)にたとえています。

経歴も作られていました。NPRが57件のプロフィールについて28の大学に問い合わせたところ、回答した21大学のどこにも、その卒業生の記録はありませんでした。

勤務先とされた会社が知っていたとも限りません。RingCentralという会社を勤務先にしていた60件は、誰一人として同社で働いたことがありませんでした。同社は、外部の委託先が作ったものだと説明し、セキュリティ責任者は「これは私たちのやり方ではない」(筆者訳)と述べています。LinkedInは、規約に反したプロフィールを削除しました。なおNPRは、違法な行為は確認しておらず、誰がプロフィールを作ったかも確かめていないと書いています。

正解率48%。見分け方を教えても59%

同じ年の2月、米国の学術誌『PNAS』に、英国ランカスター大学のソフィー・ナイチンゲールさんと、カリフォルニア大学バークレー校のハニー・ファリドさんの論文が載りました。題名は「AIが作った顔は本物と見分けがつかず、しかもより信頼される」(筆者訳)です。

二人は、AIで作った顔400枚と、性別・年齢・人種・全体の見た目を1枚ずつそろえた実在の人の顔400枚を用意しました。AIの顔は、目立つ不自然さのあるものを除いて選んでいます。最初の実験では、315人が1人128枚ずつ、本物かAIかを答えました。正解率は48.2%。コインを投げて決めるのと変わりません。

次の実験では、別の219人に、先にAIの画像に出やすい不自然な点を説明し、1問答えるごとに正解か不正解かを伝えました。正解率は59.0%に上がりました。ただ、前半の64枚が59.3%、後半の64枚が58.8%で、答えを重ねても伸びませんでした。論文は、そもそも不自然な点が見つからない顔があるためだろう、と考えています。

ディレスタさんが気づいた片方だけのイヤリングは、まさにこの「不自然な点」です。見つかれば手がかりになります。けれど、見つからない顔が混ざっている限り、粗探しで見分ける方法には限界があります。

いちばん信頼された3つの顔は、AIだった

三つ目の実験が、この論文の題名の後半です。223人が、顔を見て、どのくらい信頼できそうかを1から7で評価しました。

平均は、実在の顔が4.48、AIの顔が4.82。差は小さいものの、AIの顔のほうが信頼できそうだと評価されました。最も信頼された3枚はすべてAIの顔で、最も信頼されなかった4枚はすべて実在の顔でした。笑顔の写真の割合は実在の顔のほうがやや多く、笑顔のせいでは説明がつきません。

論文は、AIの顔は平均的な顔に近くなりやすく、平均的な顔は信頼されやすいからかもしれない、としつつ、理由はまだ分からないと書いています。ファリドさんはNPRの取材に、その顔は見覚えがあるから信頼できそうに見える、知っている誰かに似ているからだ、という趣旨のことを話しています。

ここが、冒頭の営業メッセージとつながります。知らない相手から届いた売り込みで、相手が信頼できそうかを判断する材料の一つが、プロフィールの顔です。その材料が、偽物のほうに有利に働くかもしれないのです。

間違える人ほど、自信があった

2023年には、オーストラリア国立大学などの研究チームが、さらに踏み込んだ結果を『Psychological Science』に発表しました。

新たな実験では、白人の参加者124人が白人の顔を判定し、AIの顔のほうが、実在の人の顔よりも「人間だ」と判定されやすい結果になりました。人間だと判定された回数が最も多かった5枚は、すべてAIの顔でした。研究チームは、これを「AIの超リアリズム」と名付けました。

そして、間違いが多かった人ほど、自分の判断に自信を持っていました。

一方で、2022年の研究のデータを再分析すると、白人以外の顔では、AIの顔と実在の顔で差がありませんでした。研究チームは、顔を作るAIの学習データに白人の顔が多いことが理由だと考えています。つまり、どの顔がどれだけ本物らしく見えるかは、AIが何を学んだかで変わります。日本人の顔で同じことが起きるかは、この研究からは分かりません。ただ、どの顔でも安心してよいという話ではありません。2022年の論文でも、全体の正解率は半分前後でした。

面白いのは、この研究で使った顔については、機械のほうが見分けられたことです。参加者は、目の特徴、しわ、顔の左右対称、写真の写り具合などを手がかりにしたと答えていました。研究チームの分析では、人は手がかりの一部を読み違えていました。一方、顔の14の特徴を使った機械学習では、AIの顔を高い精度で見分けられました。手がかりは顔の中にあった。人の目が、その読み方を間違えていたのです。

顔で決めず、在籍を確かめる

では、私たちはどうすればよいのか。答えは、冒頭の調査がすでに示しています。

ディレスタさんが疑ったきっかけは顔でした。けれど、偽物だと裏付けたのは、顔以外の事実です。この人たちの痕跡が、ネット上のほかの場所に見つからないこと。大学に問い合わせても、卒業の記録がないこと。会社に聞くと、そんな社員はいないこと。どれも、写真の外にあります。

会社の仕事に置きかえると、確かめる先は二つあります。

一つは、知らない相手から届く連絡です。営業の売り込み、取引の申し込み、採用の応募。感じのよい写真でも、本人の実在や在籍を確かめたことにはなりません。メールのドメインを相手の会社の公式サイトと照合し、大事な取引なら、自分で調べた会社の代表窓口に在籍を問い合わせる。ネット上の痕跡が少ない実在の人もいるので、確かめられなければ「偽物」と決めつけず、結論を保留にします。顔や声が本物らしく作れる時代の本人確認の考え方は、「その音声、本物ですか?」ディープフェイクが企業を狙う理由でも取り上げました。

もう一つは、自分の会社の名前です。RingCentralは、偽のプロフィールは外部の委託先が作ったものだと説明しました(NPRは作成者を独自には確かめていません)。問題は、AIが誤作動したことではありません。AIで作った顔に、架空の営業担当者という身元を背負わせて使ったことです。SNSでの営業や集客を外に頼むなら、架空の人物のアカウントを使わないことを依頼の条件に入れ、自社の社名を勤務先にしているアカウントをときどき検索してみる。顔を見分ける力は要りません。

印をつける仕組みも、まだ完全ではない

AIが作った画像に、作ったときから印をつけておく動きもあります。PNASの論文も、画像を作る仕組みに消えにくい透かしを組み込むことを対策として挙げていました。

別の取り組みとして、画像の来歴を記録する仕組みもあります。C2PAという業界団体が作った「コンテンツ・クレデンシャル」という規格です。画像がいつ、どんな道具で作られ、どう手を加えられてきたかを記録し、暗号で署名します。生成AIで作られた画像かどうかを知る手がかりになります。文章に埋め込む「電子透かし」については、AIが書いた文章だと、後から見分けられる時代に。「電子透かし」という新しい安全策で紹介しました。

ただ、うまくいかない点もあります。C2PA自身が、この記録は画像ファイルから切り離され得ると説明しています。取り戻すための仕組みも用意されていますが、印の付いていない画像が出回る限り、「印がない=本物」とは言えません。それに、記録が示すのは画像の作られ方で、写っている人が本当にその会社で働いているかまでは教えてくれません。

PIMOAのこのコラムも、文章はAIが書いています。そのうえで、記事の画像には写真素材サイトの実写を使い、実在の人物を装った証言は作らない、と決めています。素材写真に写っているのは、PIMOAの社員でもお客様でもありません。だから、写真に名前や肩書や証言を添えて、誰かであるかのように見せることはしません。写真に架空の身元を背負わせないことは、出す側が自分で守れます。

ディレスタさんは、片方だけのイヤリングから疑いを持ちました。けれど、その手がかりが見つからない顔もあります。届いた写真を前に迷ったら、問いを変えてみてください。この写真がなくても、相手の実在や所属を確かめられるか。確かめられなければ、結論は保留です。その笑顔だけで、信用を決める理由はありません。

参考文献・資料

Shannon Bond "That smiling LinkedIn profile face might be a computer-generated fake"(NPR、2022年3月27日)
Sophie J. Nightingale, Hany Farid "AI-synthesized faces are indistinguishable from real faces and more trustworthy"(PNAS、2022年)
Elizabeth J. Miller ほか "AI Hyperrealism: Why AI Faces Are Perceived as More Real Than Human Ones"(Psychological Science、2023年)
C2PA "FAQ"