EP12.寻找张伟:关于卷积神经网络一段不为人知的往事
更正和补充:
LeCun 的论文于1989 年 7 月投稿、9 月接受、12 月发表,前后约 5 个月。
芝加哥大学时期,SIANN主要用于对候选区域做分类和假阳性筛除;到了R2的商业系统,张伟将其改造成CNN 全图扫描 + 传统算法二次过滤的混合架构。为适应 90 年代有限的算力,他还引入可分离卷积核,将 2D 卷积拆成两个 1D 卷积,大幅降低计算量。
R2 的ImageChecker成为 FDA 批准的首个放射影像 AI 产品。到 2000 年代中期,每年已辅助数千万例读片,并形成数亿美元规模的保险支付。
------------------------------------------------------------------
我是在 Wikipedia 上查卷积神经网络历史的时候,第一次看到Wei Zhang这个名字的。
Wiki页面上写着:1988 年,他用反向传播训练了一个具有平移不变性的神经网络。时间甚至早于 LeCun 那篇后来广为人知的工作。可问题是:Wei Zhang 到底是谁?为什么后来几乎没人提起?
我就从这一行 Wikipedia 开始往下挖。顺着论文、合作者、ResearchGate、芝加哥大学,再一路追到硅谷,最后真的联系上了张伟本人,并在圣何塞和他见了面。
这个过程中,我发现自己追出来的已经不只是一个“早期 CNN 先驱”的故事。它一路牵出了福岛邦彦的 Neocognitron、Rumelhart 和 McClelland 的反向传播、八十年代日本的光计算、芝加哥大学的医学影像 AI,以及后来真正进入医院的 R2 ImageChecker。
更有意思的是,张伟最初学的是光学,后来做神经网络、医学影像、硅谷创业,兜兜转转几十年,最后又回到了光学器件。
这期节目,就是从 Wikipedia 上一个名字出发,试着把这条几乎断掉的历史线重新接起来。
本期话题:Wei Zhang 与 SIANN|福岛邦彦与 Neocognitron|Rumelhart、McClelland 与反向传播|Yann LeCun 与 CNN 的平行发现|八十年代日本与光计算|芝加哥大学医学影像 CAD|R2 Technology 与 ImageChecker|FDA 与医保支付|科学史中的马太效应
特别鸣谢:张伟接受采访并提供大量一手资料;Xun 为节目制作片头音乐;夏天和张伟试听本期节目,并提供了宝贵意见。
章节时间轴
00:11 片头与节目介绍 01:10 序:1991 年西雅图 IJCNN 与 Fukushima 的“行李箱” 02:26 节目缘起:为什么开始寻找张伟 04:17 关键发现:Wei Zhang 1988 年的 shift-invariant neural network 05:53 沿论文、ResearchGate 与芝加哥大学追踪张伟 08:37 两年后重新启动寻找 09:07 写信联系 Maryellen L. Giger 10:40 Giger 回信,并把邮件转给张伟本人 11:06 张伟回应:1994 年离开学术界进入硅谷 12:38 见面前补论文与履历 14:04 张伟的光学教育背景与中国现代光学史 16:01 大阪大学:市冈芳树实验室与光计算 17:05 80 年代日本泡沫经济与第五代计算机计划 18:17 福岛邦彦与 Neocognitron(新认知机) 19:29 Hubel–Wiesel、S-cell / C-cell 与视觉系统 24:42 PDP 与反向传播 28:39 SIANN:Neocognitron 结构 + Backpropagation 31:14 LeCun 的平行工作与 multiple discovery 32:49 引用差距与科学界的马太效应 33:13 SIANN 转向医学影像 33:53 早期显微图像分割与 U-Net 的时代对照 34:20 进入芝加哥大学医学影像 CAD 团队 35:13 后续工业界与光纤通信经历 41:14 北圣何塞星巴克:终于见到张伟 45:29 张伟解释:为什么删掉 Neocognitron 的横向连接 51:26 谈 Schmidhuber、学术认可与优先权 53:44 R2 Technology 的起点 55:13 ImageChecker M1000 与 FDA PMA 57:32 Medicare reimbursement:医学 AI 的商业闭环 59:22 “水利工程 / 水车”比喻 59:54 技术、FDA 与医保支付体系









Reference:
半拿铁《人工智能风云录》第一期:https://www.xiaoyuzhoufm.com/episode/63f74a9c79d1c9aec859dfce
张伟 SIANN / Applied Optics 论文:https://people.idsia.ch/~juergen/Zhang-April1989-AppliedOptics-SIANN.pdf
LeCun 人手写邮编识别论文:https://ieeexplore.ieee.org/document/6795724
Fukushima 福岛邦彦 Neocognitron 论文(1980):https://www.cs.princeton.edu/courses/archive/spr08/cos598B/Readings/Fukushima1980.pdf
Hubel & Wiesel 猫视觉皮层经典论文:https://pubmed.ncbi.nlm.nih.gov/14449617/
Jürgen Schmidhuber 关于卷积神经网络早期发明人的介绍:https://people.idsia.ch/~juergen/who-invented-convolutional-neural-networks.html
YouTube 上介绍张伟工作的影片:https://www.youtube.com/watch?v=PWZQ6UoxAW4&t=714s