化によって生じた問題は製造販売業者が解決してから上市することが前提となるため、
そのリスクは低い。一方、市販後学習による性能変化が直ちに実装されることで性能が連
続的又は相当程度高い頻度で変化する支援システム等の場合には、上記リスクが生じる
可能性があるため、そのリスクを回避するためのシステムが必要となる。
また、上記リスクに加え、適応外で使用した際には、使用者が支援システム等における
想定外の挙動に気付かない可能性も増大することが考えられるため、適応外使用を防ぐ
方法を講じることが求められる。
２）対策について
対策が必要となる支援システム等には、上記リスクを軽減するために、
・

市販後学習データとする画像に関する詳細なログ（使用環境、診断結果、責任者等）
を保存するための機能（６（２）を参照）

・

支援システム等の内部データを利用した自己テスト等により、定期的に性能評価を
行い、その時点での性能を使用者に示すことで最低限の性能を確保・確認できる機
能

・

上記機能により上記リスクが発生していることが確認された場合に、人工知能を市
販時の状態に初期化又は変化直前の状態へと復元する機能

・

上記リスク発生時に、必要に応じて、支援システム等を停止させる機能

・

臨床での使用状況を逐次フィードバックして製造販売業者がその性能を適宜検証
可能となる機能

等、当該支援システム等の承認申請時に確認された性能を確保するための機能、又は具体
的な対策手順をその支援目的に応じて設定しておくことが求められる。
製造販売業者は、使用者は支援システム等の目的に応じた専門知識を有し、かつ、その
使用等に関する教育（トレーニング）を受けた医師を始めとする医療従事者に限定され、
確定診断、最終判断等、診療行為における最終判断は医師でなければならないことを使用
者に明確にすることが求められる。加えて、使用者の誤使用や支援システム等の目的から
逸脱した適応外使用を防ぐため、ユーザトレーニング等の適切な対策を講じておくこと
が求められる。なお、このユーザトレーニングは関連学会等と連携したものが望ましい。

7. 機器の特性に応じた追加留意事項（案）
（１）市販後学習による性能変化が診断支援においてハイリスクとなる支援システム等の
場合
例えば、病理診断においては、その診断が臨床における最終診断であることから、どの
ような形式であってもその性能が市販時から変化することは検出率及び正診率低下の可
13

22 / 38