米国のデジタルヘルスの最先端は？といえば、2010年代に入って続々とFDA承認を獲得して市場に登場してきた医療AIだ。トレンド・セッターはAI援用の画像診断技術で、もっとも認可数が多い。心臓病の診断支援・スクリーニング技術がこれに続くが、いずれもその大半はAI/ML技術によって医師の診断支援を目指すシステムやアルゴリズムであり、これを搭載したデジタル機器である。
https://www.nature.com/articles/s41746-020-00324-0
　　
これらの医療AIはまずはユーザーである医師に信頼されなければ存在意義がない。医師はこれらの医療AIをどう受け止めているのだろうか？

CESが主催したパネル討議“Trust and the Impact of AI on Health Care“での米国医師会のJesse Ehrenfeldのスピーチはきわめて明快であった。

Ehrenfeldは医師がAI援用システムを信頼しきれない理由として、①サンプル・データの質に懸念があること、②アルゴリズムが透明性を欠き、いわゆるブラックボックスであること、③AI援用システムへの規制が特異であり、評価が確立していないこと―をあげた。

医師は本当に良質なデータを使って学習したAIであることを見究めてからでなければ使用しない、医師だけでなくあらゆる専門職はAIならずとも自分より知識レベルの低いものに頼って意思決定をしたりはしないと述べ、サンプル・データの情報が評価のために公表されなければならないと主張した。

また、意思決定プロセス（診断支援プロセス）が明確に説明されなければ、結果の妥当性は評価できず、また説得力がないとし、アルゴリズムが公表・評価される必要を主張。さらにAI援用システムが従来のFDA承認技術と異なり、認可の段階で確定されず、市場に出て使用され始めてからもデータを取り込んで学習を続けること、そのためアウトカムもまたシステムも変化し続けるという事実を指摘し、承認に関わる法的責任が不明瞭であることを指摘し、承認方法そのものについてもさらなる検討、議論が必要であると述べた。

Ehrenfeldは、こうしたいわば発展途上にあるシステム開発については、ユーザーである医師を含め、開発者・製造メーカーが設計や制作の早い段階から積極的に協働できるオープンな開発環境を作るべきだと提案し、これを実現するために米国医師会は有志会員とともに全面的に協力する用意があると述べ、米国医師会が組織している「自発的かつ無料で、開発者や企業の新製品開発に協力する意欲と意思のある、幅広い領域にわたる専門医の集団を束ねたハブ」PIN (Physician Innovation Network)を紹介。「PINを活用してユーザー目線の製品開発をめざしてほしい」と呼びかけて討議を結んだ。
米国医師会のPIN　https://innovationmatch.ama-assn.org/　

（医療ジャーナリスト　西村由美子）