AIがんツールは真の生物学を検出するのではなく、「ショートカット学習」のリスクを抱える

ウォリック大学の研究によると、顕微鏡画像からがんの生物学を予測するために開発された深層学習AIツールが、真の生物学的シグナルを学習するのではなく、統計的な「ショートカット」に依存している可能性があり、現実世界の患者ケアにおいて信頼性が損なわれる恐れがあります。筆頭著者であるFayyaz Minhas博士は、これをキッチンの実態ではなく、行列を見てレストランの質を判断するのに例えました。この研究は、4種類のがんタイプにわたる8,000以上のサンプルを分析し、モデルが因果シグナルそのものではなく、共起する特徴（例：MSIの存在に基づいてBRAF変異を予測する）に依存していることを発見しました。これらのショートカットが失われる層別化された患者サブグループでテストすると、精度は大幅に低下しました。共著者であるKim Branson氏は、AIが単純な病理医のグレードを上回る情報利得を示す必要性を強調し、アルゴリズムに実際の生物学を学習させるためのより厳格な評価プロトコルを求めています。研究者らは、AIは研究やトリアージには有用であるものの、将来のツールは因果モデリングを採用すべきであり、現在のシステムは日常的な臨床展開の前に、サブグループテストを含む厳格でバイアスを認識した評価を必要とすると結論付けています。

(出典：Warwick Ac Uk)