医療ドラマシリーズ「ザ・ピット」では、今年初頭にAIによる音声をテキストへ変換する技術がスポットライトを浴びました。登場人物の医師、バラン・アル＝ハシミは仲間たちに新しいAI音声認識ツールを示しつつ「記録作成に費やす時間を80％減らせる」という研究結果を語ります。しかし、ある懐疑的な同僚は、そのツールが患者の薬剤名を聞き間違えた場面をきっかけに懸念を表明しました。
ドラマはフィクションですが、現実にも問われる問題を提起します。これらのAIツールのリスクは、得られる報酬を上回るのか。シンシナティ大学の准教授ネリー・エルサイドは、この問いに答えるだけでなく、医療文書作成における安全で信頼できるAIシステムを前進させる具体的な解決策を見いだそうとしました。彼女の論文「臨床音声起こしシステムの社会技術的リスク――AI駆動の文書化における透明性、プライバシー、信頼性の課題」は、国際医療情報学ジャーナルに新たに掲載されました。研究は、既存の研究、倫理ガイドライン、政府規制を多角的に検討し、AI導入が監督を上回って進んでいる現状を浮き彫りにしました。「これらのAIツールの質は向上しているが、より効率的で透明にするためには配慮すべき他の側面がある」とエルサイドは述べています。
テキストが話された内容と正確に一致しているかを確認するために、人間をループの中に置く必要があります
Nelly Elsayed
この研究は、AIの採用が監督を凌駕して進んでいる現状を見極めるべく、既存の研究、倫理ガイドライン、政府規制を広範に検討しました。「これらのAIツールの質は向上しているが、より効率的で透明にするために私たちが配慮すべき他の側面がある」とエルサイドは語っています。
論文は臨床音声起こしの五つの主要なリスクを指摘しています：
- 開示と同意の実務が一貫性を欠く
- 訛りのある話し方や言語障害を含む音声の性能低下
- 臨床施設の雑音がAIの正確さを低下させる
- AIが生成したテキストの人間による検証が欠如し、誤りが放置される
- 誤りの責任所在が不明確：ソフトウェア側か臨床医側か
エルサイドは、最終版に先立ってデータを人間が検証するだけで、これらの懸念のかなりを減らせると述べました。「テキストが話された内容と正確に一致しているかを確認するには、人間をループに入れる必要があります」とエルサイドは説明します。「その検証は全文に対して行われるべきで、最初の数文だけを対象にしてはいけません」
また、現実の場面にはAIが正しく記録する能力を乱す要因が多いことも分かりました。AIはしばしば「理想的な」環境で訓練され、機械のブザー音や医師同士の会話といった臨床現場の雑踏は再現されません。特定のシナリオ、異なる訛り、発話障害に対応する大規模言語モデルを訓練していないと、現実の場で信頼性を確保することは難しいのです。
誤りを抑制する別の方法として、臨床医が実務に導入する前にソフトウェアの訓練を受けてもらうことがあります。「システムを開発する組織は、医師に対して何を使えるか、何を使えないか、何に注意すべきかのガイドラインを提供する必要がある」と彼女は述べました。
出典: シンシナティ大学
