shoei05
検索English
技術・AI約8分

「検証してから信頼する」— AI時代の医学教育における批判的思考の育て方

NEJMの医学教育シリーズをもとに、臨床でAIを使う研修医をどう指導するかを、「検証してから信頼する（verify, then trust）」という原則に沿って考えます。GPT-5(thinking)とClaude Sonnet 4.0 （とちょっとだけ私）の合作です。

Educational Strategies for Clinical Supervision of Artificial Intelligence Use. N Engl J Med. 2025 Aug 21/28;393(8):786-97. https://www.nejm.org/doi/pdf/10.1056/NEJMra2503232

朝の回診を終えた休憩室で、レジデントのAさんがスマートフォンを見ながら「胸痛の鑑別、ChatGPTにも聞いてみようかな」とつぶやいています。AIは確かに便利です。短時間で候補を挙げてくれるし、英語表現も整えてくれる。必要なら教科書的な説明まで付けてくれることもあります。ただ、その"思考プロセス"が見えにくいのも確かで、つい、もっともらしい答えをそのまま信じてしまいがちです。NEJMの総説が提案する「検証してから信頼する（verify, then trust）」という姿勢を、日常の対話の中で身につけていく必要があります。

休憩室でスマートフォンのAIに質問しようとしている研修医

Aさんがどんな質問をしたのかを振り返りながら、まず「誰に（どのAIに）、どんな場面で、何を知りたいと伝えたのか」を整理してみましょう。背景や前提をはっきりさせることで、AIの答えを評価しやすくなるからです。次に、その答えの根拠を探します。AIの答えをガイドラインや一次文献、自分の推論と照らし合わせると、どこが確実で、どこに不安が残るかが見えてきます。最後に、今回の学びを次にどう活かすかを短く確認しておけば、同じ場面で迷いにくくなります。

NEJMの論文が示すのは、こうした対話の流れを整理した「DEFT-AI」という枠組みです。Diagnosis/Discussion（診断と議論）、Evidence（根拠の検証）、Feedback（振り返り）、Teaching（教育）、そしてAI engagement recommendation（AI活用の提案）の頭文字を取ったもので、研修医がAIを使う場面で、指導医がどのように対話を進めるかの目安になります。

指導医と研修医がDEFT-AIの5つの段階（診断・議論、根拠、振り返り、教育、AI活用の提案）を順に進む

実際の場面を想像してみてください。指導医が「どのAIを使ったの？」と問いかけると、研修医は「スマホのChatGPT無料版で『喘鳴の鑑別診断は何ですか』と聞きました」と答えます。ここがDiagnosis/Discussionの段階で、どのような情報をAIに求めたかを明確にするところです。続いて根拠の検証（Evidence）に移ります。「AIの答えをどう確認した？」という質問に対し、「正直、していません。答えが合理的に思えたので」という返答があれば、そのAIツールの診断精度について査読済み論文での検証があるかを確認します。多くの場合「SNSで診断が得意だという投稿を見たので」といった、根拠の薄い理由が出てくるかもしれません。

次のFeedbackでは、研修医に自分の使い方を振り返ってもらうことが大切です。「ChatGPTは使い慣れているつもりでしたが、検証が甘かったかもしれません」といった気づきを引き出し、「次回改善したいポイントは？」と問いかけることで、学習者自身に改善点を見つけてもらいます。そしてTeaching（教育）の段階では、効果的なプロンプトの作り方を具体的に伝えます。AIとの対話は専門医への相談と同様で、誰が（AIと自分の役割）、どこで（状況説明）、何を（具体的な質問や目標）を明確に伝えることが重要だということを教えます。最後のAI engagement recommendation（AI活用の提案）では、AIの出力は放射線科の初期読影やECGの自動解釈と同じように扱い、まず検証してから信頼するという原則を確認します。

この対話では、どこまでAIに任せ、どこを人が担うかも考えます。考え方は大きく2つあります。一つは役割分担をはっきりさせるCentaur（分担型）で、最終判断のようにリスクが高い部分は人間が担い、要約や下書きはAIに任せます。もう一つは、やり取りを重ねながら一緒に作り上げるCyborg（共同作業型）で、複雑なケースや検討事項が多い時に向いています。どちらを選ぶかは状況次第ですが、大切なのは固定せずに切り替えられることです。胸痛のように見逃しリスクが大きい場面では、まずCentaurに近い分担で安全を優先し、根拠が固まってきたらCyborgに近い使い方に切り替えて精度を上げるのが現実的でしょう。

分担型（AIが下書きし人が最終判断する）と共同作業型（人とAIが一緒に組み立てる）

ただし、AIへの依存には看過できない副作用があります。せっかく身についてきたスキルが鈍る「deskilling」、基礎が育たない「never-skilling」、間違ったやり方が定着する「mis-skilling」——いずれも、自分で考える作業までAIに任せると起こりやすくなります。学びを広げる思考の支えとしてAIを使うのか、それとも思考の代わりにしてしまうのか。この微妙だが決定的な違いが、時間が経つほど大きな差となって現れます。だからこそ、DEFT-AIのように「今どこまでをAIに任せ、どこからは自分で判断しているのか」を言語化する習慣が、実務と教育の両面で役立ちます。

AIへの依存で起こりうること：スキルが鈍る、育たない、誤って身につく

先行研究もこの見方を裏付けています。症例シナリオを用いた無作為化調査研究では、AIの出力をよく確かめずに受け入れた人ほど、課題が複雑になるにつれて成績が落ちる傾向が報告されています〔1〕。放射線領域の大規模研究では、人とAIを組み合わせたときの効果が一様ではなく、元々の実力や使い方によっては、AIを組み合わせるとかえって成績が下がる場合があることが示されました〔2〕。人とAIの組み合わせが真に役立つ条件を整理したメタ解析も、AIを使うタイミングと、どの範囲を任せるかが成果を左右すると結論づけています〔3〕。加えて、検索やAIへの委ね方が強くなるほど、人の記憶や"自分で考える時間"が減ることを指摘した心理学研究があり〔4〕、AIツールの多用が批判的思考の弱まりにつながる可能性も議論されています〔5〕。これらを踏まえると、最終判断の責任は常に人間にあるという前提のもと、「検証→信頼」の順番を崩さないことが、臨床の安全と学びの両立に直結することがわかります。

AIの回答をガイドラインと照らして確かめてから信頼する

AIは学びを助ける道具になり得ます。そのためには、出力を検証し、場面に応じて分担型と共同作業型を切り替えることが大切です。迷いが生じる場面ほど、「検証してから信頼する」、そして「今は分担型か、共同作業型か」を意識すると、AIをどう使うか判断しやすくなるはずです。

参考文献

  1. Jabbour S, Fouhey D, Shepard S, et al. Measuring the impact of AI in the diagnosis of hospitalized patients: a randomized clinical vignette survey study. JAMA. 2023;330:2275-84. https://pubmed.ncbi.nlm.nih.gov/38112814/

  2. Yu F, Moehring A, Banerjee O, Salz T, Agarwal N, Rajpurkar P. Heterogeneity and predictors of the effects of AI assistance on radiologists. Nat Med. 2024;30:837-49. https://pubmed.ncbi.nlm.nih.gov/38504016/

  3. Vaccaro M, Almaatouq A, Malone T. When combinations of humans and AI are useful: a systematic review and meta-analysis. Nat Hum Behav. 2024;8:2293-303. https://pubmed.ncbi.nlm.nih.gov/39468277/

  4. Sparrow B, Liu J, Wegner DM. Google effects on memory: cognitive consequences of having information at our fingertips. Science. 2011;333:776-8. https://pubmed.ncbi.nlm.nih.gov/21764755/

  5. Gerlich M. AI tools in society: impacts on cognitive off-loading and the future of critical thinking. Societies (Basel). 2025;15:6. https://www.mdpi.com/2075-4698/15/1/6

  6. Newman-Toker DE, Nassery N, Schaffer AC, et al. Burden of serious harms from diagnostic error in the USA. BMJ Qual Saf. 2024;33:109-20. https://qualitysafety.bmj.com/content/33/2/109

  7. Rencic J, Trowbridge RL Jr, Fagan M, Szauter K, Durning S. Clinical reasoning education at US medical schools: results from a national survey of internal medicine clerkship directors. J Gen Intern Med. 2017;32:1242-6. https://pubmed.ncbi.nlm.nih.gov/28840454/

  8. Aquino YSJ, Rogers WA, Braunack-Mayer A, et al. Utopia versus dystopia: professional perspectives on the impact of healthcare artificial intelligence on clinical roles and skills. Int J Med Inform. 2023;169:104903. https://pubmed.ncbi.nlm.nih.gov/36343512/

  9. Verghese A, Shah NH, Harrington RA. What this computer needs is a physician: humanism and artificial intelligence. JAMA. 2018;319:19-20. https://pubmed.ncbi.nlm.nih.gov/29261830/

  10. Restrepo D, Rodman A, Abdulnour R-E. Conversations on reasoning: large language models in diagnosis. J Hosp Med. 2024;19:731-5. https://pubmed.ncbi.nlm.nih.gov/38678438/

主要文献：Educational Strategies for Clinical Supervision of Artificial Intelligence Use. N Engl J Med. 2025 Aug 21/28;393(8):786-97.

noteで公開した記事を収録しています。公開日は元記事の初出です。
noteの元記事を見る