據英國衛報報道，英國國家醫療服務體系（NHS）的一家監管機構警告，用於傾聽並轉錄醫患問診的 AI 技術正給患者帶來風險，這類工具可能錯誤識別藥物名稱和疾病名稱。患者權益機構 Healthwatch England 披露了多起案例，說明這項被快速推廣的技術已對患者安全構成實質威脅。
把"無脫髓鞘"記成"脫髓鞘"
一起案例中，一名女性患者被 AI 記錄工具錯誤總結爲患有"脫髓鞘"——一種可能導致多發性硬化症的嚴重神經損傷。她本人也是 NHS 醫療專業人員，在質疑 MRI 結果後醫院才發現記錄有誤，並更正爲本應記錄的"無脫髓鞘"；她形容 AI 先給出錯誤診斷、後又說只是拼寫錯誤，是"非常痛苦的經歷"。
另一起案例中，AI 把全科醫生開具的藥物與另一種名稱相似的藥物混淆，最終發現錯誤的是患者本人而非醫生。還有一次，AI 生成的總結信遺漏了專科醫生要求患者向全科醫生申請續開偏頭痛處方的內容，這一遺漏可能導致患者拿不到所需藥物。
監管缺位與"雙刃劍"
Healthwatch 指出，這些錯誤若未被及時發現就會被錄入患者檔案、影響後續治療，機構已接到"患者發現錯誤而專業人員沒有發現"的多起反饋。更令其擔憂的是，英國藥品和保健產品監管機構（MHRA）決定不將這類工具歸類爲醫療器械，意味着英格蘭不會建立覆蓋全境的監管機制來確保安全有效——而當地醫生已在使用的此類工具已達 27 種。
倫敦全科醫生 Shier Ziser Dawood 曾遇到 AI 記錄她讓患者"繼續服用百憂解"，而她既沒開過也沒討論過該藥，這正是典型的"AI 幻覺"；她提醒醫生仍需逐條覈對全部記錄，工具並未真正省下時間，而英國全科醫生單次問診時長本就處於全球較短水平。烏普薩拉大學的 Charlotte Blease 博士坦言"AI 確實會犯錯，而且已經在犯錯"，在多名患者在場、病史複雜或患者母語非英語時更易出錯；但她對 1003 名英國全科醫生的調查顯示，超過半數仍認爲 AI 生成的記錄比自己動手記錄更準確。
