AIが作った偽のレントゲン写真、医者も見抜けなかった

骨が折れてないのに「折れてる」レントゲンをAIが作る。医者が見ても分からない。これ、かなりまずくない？

放射線学の学術誌『Radiology』に掲載された研究で、6カ国17人の放射線科医にAI生成のレントゲン写真を見せたところ、正確に見分けられたのは平均75%。偽物が混ざってると知らされてない場合は、異常に気づいた医師は41%だけ。

経験年数と正解率に相関なし。ベテランでも見抜けない。

何が怖いの

保険詐欺。 骨折してないのにAIで骨折のレントゲンを作って保険金を請求する。交通事故の示談金を吊り上げるために「むちうちのMRI」を偽造する。

サイバー攻撃。 ハッカーが病院のネットワークに侵入して、患者のレントゲン画像を偽物にすり替える。健康な人に「腫瘍がある」と誤診させたり、本当に病気の人の画像を「正常」に書き換えたりできる。

マウントサイナイ医科大学のミカエル・トルジマン博士は「詐欺訴訟における高リスクの脆弱性」であり「患者の診断を操作するサイバーセキュリティ上の重大なリスク」と警告してる。

GPT-4o、GPT-5、Gemini 2.5 Pro、Llama 4 Maverickの4つのAIモデルでも検出テストをした。正解率は57〜85%。人間の医師と大差ない。

つまり「AIに判定させればいい」という簡単な解決策もない。

バッファロー大学の研究チームが、AI生成のレントゲン報告書を検出するシステムを開発した。14,000件のデータセットで訓練して、正解率92〜100%。

ただしこれは「報告書」（テキスト）の検出であって、「画像」の検出ではない。画像自体にデジタル透かしや暗号署名をつけて、撮影時点で「本物」であることを証明する仕組みが必要。

レントゲンのディープフェイクが作れるなら、保険の書類、法的証拠、学術論文のデータ、財務報告——何でも偽造できる。

「見れば分かる」時代は終わった。これからは「それが本物であること」を技術的に証明する仕組みが必要になる。ブロックチェーンとか、電子署名とか、撮影時にメタデータを埋め込むとか。

AIが便利になるほど、「本物であること」の価値が上がっていく。皮肉な話だけど、それが現実。