よむ、つかう、まなぶ。
【資料1】次世代評価指標について (20 ページ)
出典
公開元URL | https://www.mhlw.go.jp/stf/newpage_25800.html |
出典情報 | 薬事・食品衛生審議会 医療機器・体外診断薬部会(令和4年度第2回 5/23)《厚生労働省》 |
ページ画像
ダウンロードした画像を利用する際は「出典情報」を明記してください。
低解像度画像をダウンロード
プレーンテキスト
資料テキストはコンピュータによる自動処理で生成されており、完全に資料と一致しない場合があります。
テキストをコピーしてご利用いただく際は資料と付け合わせてご確認ください。
して、
・
接続する画像撮影装置の機能(特に既存の画像撮影装置を利用可能なシステムの場
合)
・
責任者を含めた性能検証方法の明確化(治験による性能検証の場合は、
「正解」とな
る最終的な確定診断を得るまでのプロトコール、後向き検証の場合は検証用テスト
データに関して、その妥当性を示すために必要な情報を示すことが求められる)
・
性能検証に使用したテストデータの種類、入手元及び妥当性(必要に応じて管理方
法等も明らかにすること)
・
市販後に生じ得る性能変化の範囲の規定(検出率の下限、偽陽性率及び偽陰性率の
上限設定等)及びその規定根拠となる医学的又は統計学的データ等
・
市販後に性能変化が発生しても、有効性及び安全性が確保されていることを確認す
るための方策(学習させるデータの入手方法、変化後の性能の検証方法等)
・
性能変化に伴って生じ得る不具合
等、その目的に応じて考慮すべき項目を明確にする必要がある。
特に、性能検証用のテストデータセットは、学習データやバリデーションデータとは重
複しないことが求められる一方、対象とする母集団の特徴を考慮して、十分な説明が可能
となる質と量のデータが必要となる。しかしながら、機械学習の方法、目的及び対象に応
じてその必要数は異なり一律に定義することは困難であるため、支援システム等の性能
評価に使用したデータセット及び方法論を記載するとともにその妥当性検証スキーム等
を個別に記載することが求められる。
2)市販後
市販後、支援システム等に発生する性能変化に関しては、承認申請時に規定された性能
検証方法に従い、市販後学習データにより変化した性能等が臨床上又は統計学的な観点
からあらかじめ規定された範囲内を満たし、品質が確保できることを確認の上、その妥当
性検証を行うことが求められる。
支援システム等を既存の画像撮影装置に接続して使用する場合、画像撮影装置の性能
に依存して入手できる画像データの質が多様となることが想定される。この場合には、得
られた画像データが学習データとして使用できる条件を規定する必要があり、その条件
を満たさないデータは学習データとしないための対策が必要となる。また、性能検証及び
そのために用いるテストデータセットに関する考え方は、基本的に前項と変わらない。加
えて、市販後学習データ及びテストデータの臨床最終判断を行った医師等を明確にする
必要がある点も、前項と変わらない。
なお、人工知能にネットワークを介して接続する支援システム等において、使用者に必
11
20 / 38
・
接続する画像撮影装置の機能(特に既存の画像撮影装置を利用可能なシステムの場
合)
・
責任者を含めた性能検証方法の明確化(治験による性能検証の場合は、
「正解」とな
る最終的な確定診断を得るまでのプロトコール、後向き検証の場合は検証用テスト
データに関して、その妥当性を示すために必要な情報を示すことが求められる)
・
性能検証に使用したテストデータの種類、入手元及び妥当性(必要に応じて管理方
法等も明らかにすること)
・
市販後に生じ得る性能変化の範囲の規定(検出率の下限、偽陽性率及び偽陰性率の
上限設定等)及びその規定根拠となる医学的又は統計学的データ等
・
市販後に性能変化が発生しても、有効性及び安全性が確保されていることを確認す
るための方策(学習させるデータの入手方法、変化後の性能の検証方法等)
・
性能変化に伴って生じ得る不具合
等、その目的に応じて考慮すべき項目を明確にする必要がある。
特に、性能検証用のテストデータセットは、学習データやバリデーションデータとは重
複しないことが求められる一方、対象とする母集団の特徴を考慮して、十分な説明が可能
となる質と量のデータが必要となる。しかしながら、機械学習の方法、目的及び対象に応
じてその必要数は異なり一律に定義することは困難であるため、支援システム等の性能
評価に使用したデータセット及び方法論を記載するとともにその妥当性検証スキーム等
を個別に記載することが求められる。
2)市販後
市販後、支援システム等に発生する性能変化に関しては、承認申請時に規定された性能
検証方法に従い、市販後学習データにより変化した性能等が臨床上又は統計学的な観点
からあらかじめ規定された範囲内を満たし、品質が確保できることを確認の上、その妥当
性検証を行うことが求められる。
支援システム等を既存の画像撮影装置に接続して使用する場合、画像撮影装置の性能
に依存して入手できる画像データの質が多様となることが想定される。この場合には、得
られた画像データが学習データとして使用できる条件を規定する必要があり、その条件
を満たさないデータは学習データとしないための対策が必要となる。また、性能検証及び
そのために用いるテストデータセットに関する考え方は、基本的に前項と変わらない。加
えて、市販後学習データ及びテストデータの臨床最終判断を行った医師等を明確にする
必要がある点も、前項と変わらない。
なお、人工知能にネットワークを介して接続する支援システム等において、使用者に必
11
20 / 38