アメリカの大学病院で、AIが書いたカルテの記録に、患者が言ったことと反対のことが入っていました。
医師の報告によると、AIは「お酒は飲んでいない(not drinking alcohol)」を「今は飲んでいる(now drinking alcohol)」と聞き違えていました(筆者訳)。英語では1文字の違いで、意味が反対になります。誤りに気づいたのは患者でした。患者は怒りはせず、ただ直してほしいと伝えたといいます。
この話は、医学誌に載った比較試験の中で、医師が報告した誤りの一つです。診察中の会話を聞き取り、カルテの下書きを作るAIは、アメリカの医療で急速に広がっています。英語では「アンビエントAIスクライブ」と呼ばれ、医師は下書きを確かめて直し、記録を確定させます。
このAIは、医師の仕事をどこまで減らしたのか。1年で約250万件の診察に使われた病院グループの報告と、医師238人を無作為に分けた比較試験を並べると、見えてくることがあります。カルテを書くAIは、配っただけで一律に仕事を減らすわけではない。使われ方には大きな偏りがあり、下書きを正しい記録にする確認は、なくならなかった。
250万件の利用。その89%は、上位3分の1の医師だった
アメリカの医療現場では、診察が終わっても記録が終わらず、残りを夜に家で書くことが珍しくありません。この勤務時間外の記録作業には、「パジャマ・タイム」という呼び名まであります。
北カリフォルニアの大手医療グループ、The Permanente Medical Groupは、2023年10月、このAIを1万人の医師とスタッフが使えるようにしました。最初の10週間で、3,442人の医師が約30万件の診察で使っています。
1年あまり後の分析が、医学誌『NEJM Catalyst』に報告されました。2023年10月から2024年12月までの63週間で、7,260人の医師が約250万件の診察でこのAIを使い、記録にかかる時間を推計1万5,791時間減らした、というものです。勤務時間外の記録時間も、1件あたりの時間も、統計的に有意に減っていました。
医師の84%が、患者とのやりとりに良い影響があったと答えています。患者の側でも、47%が医師がパソコンを見る時間が減ったと答え、39%が医師が自分に直接話す時間が増えたと答えました。
一方で、使われ方には大きな偏りがありました。利用回数の多い上位3分の1の医師が、全体の起動回数の89%を占めていたのです。よく使う医師ほど、1件あたりに減った時間も大きくなっていました。ただし、これが「使い続けたから効果が出た」のか、もともと記録の負担が大きい医師や、診療とAIの相性が良い医師がよく使ったのかは、この数字だけでは分かりません。
この分析では、医師の年齢や経験年数と利用との関連は確認されませんでした。よく使われたのは、精神科、プライマリケア(かかりつけ医の診療)、救急です。
利用が少ない医師の障壁として挙がったのは、AIの下書きが病院の記録の様式とうまくつながらないこと、そして、AIの下書きを直すより、自分で一から打った方が早いという感覚でした。
無作為に比べると、記録時間は9.5%短くなった
病院グループの報告は、使った医師の記録をもとにした推計です。では、AIを使う医師と使わない医師を無作為に分けて比べると、どうなるのか。
ロサンゼルスのUCLA Healthは、外来の医師238人(14の診療科)を3つのグループに分けました。Microsoftの「DAX Copilot」を使う組、Nablaの製品を使う組、そしてAIを使わない組です。期間は2024年11月から2025年1月まで。結果は2025年11月、医学誌『NEJM AI』に載りました。
記録1件にかかる時間は、試験の開始時点で4分半から5分ほどでした。そこからの変化は次のとおりです。
| グループ | 1件あたりの記録時間の変化 |
|---|---|
| AIを使わない組 | 18秒減 |
| DAX Copilotの組 | 23秒減(使わない組との差は統計的に確認されなかった) |
| Nablaの組 | 41秒減(使わない組と比べて、記録時間が推定9.5%短縮) |
注意したいのは、この数字が、AIを実際に使わなかった記録も含めた、各グループ全体の平均だという点です。AIを使った組でも、AIが使われたのは、DAXの組で診察の33.5%、Nablaの組で29.5%でした。割り当てられた医師の約15%は、一度も使っていません。著者は、測り方の都合で、AIの画面での作業時間が数字に入っておらず、削減が大きめに出ている可能性も書いています。
つまり、医師にAIを割り当てても、グループ全体で見た記録時間の短縮は、1割に届きませんでした。一方で、燃え尽きの度合いや仕事の負担感を測る指標は、AIを使った2つの組で改善した可能性がありました。著者はこれを、より大規模な試験で確かめる必要がある副次的な結果として扱っています。
二つの研究は、施設も期間も測り方も違うので、数字をつなげて計算することはできません。ただ、どちらでも、使われ方には偏りがありました。
下書きを、正しい記録にするまで
UCLAの試験では、AIの下書きの誤りも調べています。医師たちに「臨床的に重要な不正確さ」(筆者訳)がどのくらいあったかを5段階で聞くと、答えは平均して「時々」でした。
医師が書いた例には、冒頭の飲酒のような聞き取りの誤りのほかに、次のようなものがありました。
- 性別を取り違えた
- 親の病歴を、患者本人の病歴として書いた
- 話していないことに触れていた
- 小さな問題について、残しておきたかった情報が抜けていた
軽い有害事象も1件報告されています。医師が患者に時間をかけて説明した内容が、記録の評価・計画の欄にも、患者向けの指示にも入っていなかったのです。
否定と肯定、誰の病歴か、何を残すべきか。どれも、その場で会話を聞いていた人なら自然に分かる区別です。病院グループの説明でも、このAIは診断や治療の提案はせず、医師が確かめて直すための下書きを作るものとされています。AIの出力を確かめる考え方は、「AIに『本当か』と聞いても、裏付けにはならない」でも書きました。
UCLAの試験で、AIの下書きが自分で書いた記録と同じくらい良いかを聞くと、5段階で2.9から3.4でした。病院グループで、利用が少ない医師の障壁として、直すより自分で打つ方が早いという感覚が挙がっていたことと、あわせて読むべき数字です。下書きができる速さと、正しい記録になるまでの速さは、同じではありません。
日本でも、2024年4月から勤務医に時間外・休日労働の上限規制が適用され、多くの医療機関に当てはまるA水準では、年960時間(休日労働を含む)が上限になりました。記録の時間は、減らす候補に挙がりやすい仕事です。ただ、アメリカの結果は、日本語の診察や日本の電子カルテで確かめられたものではありません。入れるなら、自分たちの診察で測り直す必要があります。
PIMOAの議事録の確認項目にも、抜けていたもの
規模はまったく違いますが、PIMOAも、打ち合わせの音声をAIで文字起こしし、議事録に整理しています。手順は「AIで議事録作成を効率化。PIMOAが実際に行っている方法」で紹介しました。
実際に使ってみると、AIが固有名詞を聞き間違えたり、文脈上おかしな箇所が出たりしました。そこで、固有名詞・数字・決定事項・担当者は、必ず人が確認しています。AIへの指示にも、「文字起こしにない情報は推測して補完せず、『不明』としてください」と書いています。
ただ、医師たちの報告と見比べると、PIMOAが公開している手順では、否定と肯定の取り違えや、誰の発言かの取り違えを、確認項目として明示していません。打ち合わせでも、「A社は導入しない」が「導入する」になったり、相手の発言がこちらの約束として書かれたりすれば、議事録の意味は反対になります。
カルテでも議事録でも、入れる前に決めておく3つの測定項目
話した内容を記録にするAIを入れるなら、導入前に、次の3つを測る準備をしておくことをおすすめします。
- 実際の利用率と、その偏り: 対象の診察や会議のうちAIを使った割合と、使っている人が一部に集中していないか
- 確定までの時間: 下書きができるまでではなく、確かめて直し、正しい記録として確定させるまでの時間。AIを使わない人や期間と比べる
- 誤りの割合と種類: 確認した記録のうち誤りがあった割合と、否定と肯定・誰の発言か・大事な説明の抜けといった種類
冒頭の「飲んでいない」が「今は飲んでいる」になった記録の誤りに気づいたのは、医師ではなく患者でした。AIが下書きを作っても、それを正しい記録として確定させるまでの確認は残ります。導入の効果を測るなら、下書きができる速さだけでなく、その確認まで含めた時間を測る必要があります。
参考文献・資料
Permanente Medicine "Analysis: AI scribes save physicians time, improve patient interactions and work satisfaction"
American Medical Association "AI scribes save 15,000 hours—and restore the human side of medicine"
"Ambient Artificial Intelligence Scribes: Learnings after 1 Year and over 2.5 Million Uses"(NEJM Catalyst)
Kaiser Permanente Division of Research "Ambient Artificial Intelligence Scribes to Alleviate the Burden of Clinical Documentation"(NEJM Catalyst、2024年)
"Ambient AI Scribes in Clinical Practice: A Randomized Trial"(NEJM AI、2025年)
厚生労働省「建設業・ドライバー・医師等の時間外労働の上限規制」