伦敦皮肤科医生实测:2015 年的 Inception v3 微调后诊断皮肤病灶准确率 62%,GPT-6 Astra 与 Claude Fable 5.1 都只有 42%

伦敦 Guy's Hospital 皮肤科顾问医师 Magnus Lynch 10 月 25 日在个人实验室博客发布一项小规模测试:从公开数据集 MILK10k 随机抽取 200 例全部经病理确诊的皮肤病灶,每例给一张临床照片和一张皮肤镜图像,让 GPT-6 Astra、Claude Fable 5.1 与一个用 ISIC 公开图片微调过的 Inception v3(谷歌 2015 年发布的卷积神经网络)在 6 种诊断中选一。首选诊断正确率:CNN 125/200(62%),两个前沿大模型分别 84 和 85(均为 42%);30 例黑色素瘤中 CNN 认出 13 例,GPT-6 Astra 8 例、Claude Fable 5.1 11 例。两个大模型都有明显的「偏好答案」,以患者口吻提问时则几乎每例都建议就医。作者强调样本小、病例偏难、每个病例只跑一次,案例、提示词、全部回答与评分代码已公开下载。

一位临床医生的 200 例对照

Magnus Lynch 是伦敦 Guy's Hospital 的皮肤科顾问医师和 Mohs 外科医生,也是伦敦国王学院的荣誉 Reader。他 10 月 25 日在 Lynch Lab 博客上公布了一项自己设计的测试:拿 200 例皮肤病灶,分别交给 OpenAI 的 GPT-6 Astra、Anthropic 的 Claude Fable 5.1,以及一个用公开皮肤图片微调过的 Inception v3——谷歌 2015 年发表的卷积神经网络(CNN)。

病例来自国际皮肤影像协作组织(ISIC)2025 年发布的公开数据集 MILK10k,每个病灶都有一张临床近照和一张皮肤镜图像,全部经过病理活检确诊。200 例中,「不能放走」的 100 例包括 30 例黑色素瘤、25 例基底细胞癌、25 例鳞状细胞癌和 20 例光化性角化病;「可以放心离院」的 100 例是 50 例良性痣和 50 例脂溢性角化病。作者特别说明,良性病灶也做了活检,说明当初让医生担心过,所以这批病例比日常门诊更难。

两个大模型拿到同样的两张图和同一段提示词(默认设置),要在 6 种诊断里给出首选、置信度、次选,以及能否不做处理直接离院;两者都没有拒答。CNN 在一块 H100 上用 ISIC 档案中的 68,011 张图片微调了约 20 分钟,测试病例及同一病灶、同一患者的其他照片事先都从训练集和验证集中剔除。

差距出在哪里

首选诊断正确率:CNN 125/200(62%),GPT-6 Astra 84/200、Claude Fable 5.1 85/200(均为 42%)。允许次选时,CNN 为 173 例,两个大模型分别 134 和 138 例。30 例黑色素瘤里,CNN 首选认出 13 例,GPT-6 Astra 8 例,Claude Fable 5.1 11 例。

差距最大的是良性病灶:50 例痣中 CNN 认出 37 例,GPT-6 Astra 16 例、Claude Fable 5.1 33 例;50 例脂溢性角化病中分别是 26、13、6 例。CNN 并非全面领先——基底细胞癌上 GPT-6 Astra 25 例全对,比 CNN 多 1 例;光化性角化病上两个大模型都比 CNN 好。

作者还指出,两个大模型各有「偏爱的答案」:GPT-6 Astra 把 75 个病灶判成基底细胞癌(实际 25 例),其中包括 14 例黑色素瘤;Claude Fable 5.1 把 53 个判成光化性角化病(实际 20 例)。换成患者口吻、只给临床照片问「我要不要看医生」时,两者几乎每例都建议就医,连良性病灶也不例外;原文给出的数字是另取 100 例经活检确诊的黑色素瘤,两个模型分别有 99 例和 98 例建议就医。几乎全部转诊,就谈不上分诊价值。

作者自己列出的边界

文章附了一节局限说明:200 例只够看出趋势,不足以给接近的结果排名,30 例黑色素瘤的误差范围很宽;每个大模型病例只跑了一次,答案在不同次运行之间会变化;MILK10k 2025 年起公开,大模型可能在训练中见过(作者认为这只会帮到它们);Inception v3 只是基线,当前最好的皮肤癌诊断系统和已获监管批准的产品表现要好得多。这项测试未经同行评审。

作者在文末披露,数据分析和初稿用了 Claude Code,而被测模型之一也来自 Anthropic。案例、提示词、两个大模型的全部回复和评分代码可以一并下载,那个 CNN 还能直接在手机浏览器里通过 WebGPU 本地运行。对正在考虑用通用多模态大模型做医学影像初筛的团队,这组数字提示:专门训练的小模型在窄任务上仍有明显优势,而大模型「建议就医」的谨慎回答并不等于有用的判断。

via: Lynch Lab:A 10-year-old CNN outperforms frontier LLMs for skin cancer diagnosis