人工智能癌症工具面临“捷径学习”风险，而非检测真实生物学

华威大学的研究表明，为从显微镜图像预测癌症生物学而开发的深度学习人工智能工具，可能依赖统计学上的“捷径”，而非学习真正的生物学信号，这使其在现实世界的患者护理中变得不可靠。首席研究员Fayyaz Minhas博士将此比作通过排队来判断餐厅的质量，而不是看厨房里的实际情况。该研究分析了四种癌症类型的8000多份样本，发现模型通常依赖于相关的特征——例如根据MSI的存在来预测BRAF突变——而不是因果信号本身。当在这些捷径消失的分层患者亚组中进行测试时，准确性大幅下降。合著者Kim Branson强调，人工智能必须展示出超越简单病理学家分级的增量信息，并呼吁制定更严格的评估协议，迫使算法学习真实的生物学。研究人员总结认为，虽然人工智能在研究和分诊中具有价值，但未来的工具必须采用因果建模，并且在常规临床部署之前，当前系统需要严格的、有偏见意识的评估，包括亚组测试，并警告不要将其视为分子检测的替代品。

(来源：Warwick Ac Uk)