別添

使用者等が性能変化に関与可能な人工知能技術を利用した
医用画像診断支援システムに関する基本的考え方
1. 背景
今回、人工知能技術を利用した医用画像診断支援システム（支援システム等）に関する評価指
標案を作成するにあたり、近年の計算機技術の著しい発展に伴い、実現可能な様々な支援システ
ム等を全て評価指標案の対象に含めるかについて、WG で議論が行われた。特に、人工知能の中
でも、近年着目されている深層学習を利用した場合の可能性を考慮し、コンピュータ技術が発達
することにより、現在の大型コンピュータと同レベルのスペックの汎用 PC が使用可能となるこ
とで、ネットワークを介さずに PC 中に人工知能を有し、特定の臨床現場で市販後学習を行い性
能が変化するケースを対象に含めるかも議論された。
このケースには、市販後学習により生じる性能変化に伴う品質管理を製造販売業者が行うこと
が難しい支援システム等、例えば、施設又は使用者ごとの市販後学習による性能変化が可能なシ
ステム、教師なしデータによる学習が可能なシステム等が含まれる。これらの支援システム等は、
解決すべき事項が数多く存在することから、本評価指標の対象外とすることとした。しかしなが
ら、人工知能技術の著しい発展に伴いこれらの支援システム等が近い将来開発される可能性に鑑
み、それらの品質、安全性及び有効性を確保するための考え方を別添として取りまとめた。
2. 問題点と解決策について
（１）性能変化
例えば，使用者による市販後学習により性能が変化する支援システム等の場合、開発者以外が
主体となって市販後学習を行うことになるため、製造販売業者の開発意図と大きく異なる方向に
その性能が変化・低下し、臨床上許容される水準を下回る可能性が否定できない。このような問
題を防ぐためには、適切な質と量のテストデータによる検証に加え、当該支援システム等のリス
クを勘案した対策を講じることが求められる。例えば、製造販売業者による品質管理を徹底する
ための方策を講じる、製造販売業者と同等の品質マネジメントシステムを臨床現場に求める、使
用者を対象としたトレーニングを実施することに加え、性能が下限以下となった場合にはそのリ
スクに応じた追加対策を施すこと等が求められる。
支援システム等の目的は「診断支援」であることから、確定診断時における医師の最終的な判
断によりそのリスクを回避することができると考えられるが、可能であれば生じたリスクを漏れ
なく製造販売業者に連絡する機能、又は手順を必要に応じて設けることが望ましい。
（２）責任の所在
その機器の使用に伴う医療行為、適応外使用、不具合等に対する報告に関しては医師が責任を
負うことが原則であるが、その原則を一様に適用できない可能性があることに留意して、製造販
売業者及び医師の責任範囲を設定する必要がある。

1

24 / 38