云计算百科
云计算领域专业知识百科平台

计算机视觉的发展历程:从LeNet到GPT-4V的三十年

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */
#content_views .toc,
/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */
#content_views.markdown_views > p:empty:has(+ .toc),
#content_views.markdown_views > .toc + p:empty,
/* 富文本旧版目录标记 */
#content_views.htmledit_views #main-toc,
#content_views.htmledit_views #hr-toc,
#content_views.htmledit_views p[id*=\”-toc\”] {
display: none !important;
}
/* 目录去掉后,紧跟的首个标题不再多出一块上边距 */
#content_views.markdown_views > .toc + h1,
#content_views.markdown_views > .toc + h2,
#content_views.markdown_views > .toc + h3,
#content_views.markdown_views > .toc + h4,
#content_views.markdown_views > .toc + p:empty + h1,
#content_views.markdown_views > .toc + p:empty + h2,
#content_views.markdown_views > .toc + p:empty + h3,
#content_views.markdown_views > .toc + p:empty + h4 {
margin-top: 0 !important;
}

一、引言:一场跨越三十年的视觉革命

计算机视觉是人工智能领域最具活力与实用价值的分支之一。它试图回答一个看似简单却极其深刻的问题:机器能否像人类一样"看见"并理解世界?从1989年LeCun在贝尔实验室写出第一个卷积神经网络手写数字识别系统,到2024年Sora模型能够根据文字描述生成长达一分钟的高质量视频,这场跨越三十五年的技术征程,见证了深度学习从涓涓细流汇聚成奔腾江河的全过程。

回顾这段历史,我们看到的不仅是算法精度的节节攀升,更是人类对"视觉智能"本质理解的不断深化。早期的计算机视觉依赖手工设计的特征提取器,宛如一个戴着镣铐的舞者,被限制在人类工程师有限的想象力之内。深度学习的出现打破了这一桎梏,让机器能够从海量数据中自动学习视觉表征,其能力边界被彻底打开。

本文将以时间线为经,以关键模型为纬,系统梳理从1989年至2024年计算机视觉领域最具里程碑意义的突破。我们将深入每个模型的技术细节,理解它们在那个时代所面临的挑战,以及它们如何为后继者铺平道路。这不仅是一段技术史,更是一部关于人类智慧如何推动机器视觉能力不断超越极限的史诗。

#mermaid-svg-mTqzlfXZAVaipEn8{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-mTqzlfXZAVaipEn8 .error-icon{fill:#552222;}#mermaid-svg-mTqzlfXZAVaipEn8 .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-mTqzlfXZAVaipEn8 .marker{fill:#333333;stroke:#333333;}#mermaid-svg-mTqzlfXZAVaipEn8 .marker.cross{stroke:#333333;}#mermaid-svg-mTqzlfXZAVaipEn8 svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-mTqzlfXZAVaipEn8 p{margin:0;}#mermaid-svg-mTqzlfXZAVaipEn8 .edge{stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .section–1 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section–1 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section–1 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section–1 path{fill:hsl(240, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section–1 text{fill:#ffffff;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon–1{font-size:40px;color:#ffffff;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge–1{stroke:hsl(240, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth–1{stroke-width:17;}#mermaid-svg-mTqzlfXZAVaipEn8 .section–1 line{stroke:hsl(60, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:#ffffff;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-0 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-0 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-0 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-0 path{fill:hsl(60, 100%, 73.5294117647%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-0 text{fill:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-0{font-size:40px;color:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-0{stroke:hsl(60, 100%, 73.5294117647%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-0{stroke-width:14;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-0 line{stroke:hsl(240, 100%, 83.5294117647%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-1 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-1 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-1 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-1 path{fill:hsl(80, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-1 text{fill:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-1{font-size:40px;color:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-1{stroke:hsl(80, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-1{stroke-width:11;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-1 line{stroke:hsl(260, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-2 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-2 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-2 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-2 path{fill:hsl(270, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-2 text{fill:#ffffff;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-2{font-size:40px;color:#ffffff;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-2{stroke:hsl(270, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-2{stroke-width:8;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-2 line{stroke:hsl(90, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:#ffffff;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-3 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-3 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-3 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-3 path{fill:hsl(300, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-3 text{fill:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-3{font-size:40px;color:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-3{stroke:hsl(300, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-3{stroke-width:5;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-3 line{stroke:hsl(120, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-4 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-4 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-4 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-4 path{fill:hsl(330, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-4 text{fill:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-4{font-size:40px;color:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-4{stroke:hsl(330, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-4{stroke-width:2;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-4 line{stroke:hsl(150, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-5 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-5 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-5 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-5 path{fill:hsl(0, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-5 text{fill:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-5{font-size:40px;color:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-5{stroke:hsl(0, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-5{stroke-width:-1;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-5 line{stroke:hsl(180, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-6 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-6 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-6 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-6 path{fill:hsl(30, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-6 text{fill:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-6{font-size:40px;color:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-6{stroke:hsl(30, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-6{stroke-width:-4;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-6 line{stroke:hsl(210, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-7 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-7 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-7 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-7 path{fill:hsl(90, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-7 text{fill:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-7{font-size:40px;color:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-7{stroke:hsl(90, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-7{stroke-width:-7;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-7 line{stroke:hsl(270, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-8 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-8 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-8 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-8 path{fill:hsl(150, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-8 text{fill:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-8{font-size:40px;color:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-8{stroke:hsl(150, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-8{stroke-width:-10;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-8 line{stroke:hsl(330, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-9 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-9 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-9 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-9 path{fill:hsl(180, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-9 text{fill:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-9{font-size:40px;color:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-9{stroke:hsl(180, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-9{stroke-width:-13;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-9 line{stroke:hsl(0, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-10 rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-10 path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-10 circle,#mermaid-svg-mTqzlfXZAVaipEn8 .section-10 path{fill:hsl(210, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-10 text{fill:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .node-icon-10{font-size:40px;color:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-edge-10{stroke:hsl(210, 100%, 76.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .edge-depth-10{stroke-width:-16;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-10 line{stroke:hsl(30, 100%, 86.2745098039%);stroke-width:3;}#mermaid-svg-mTqzlfXZAVaipEn8 .lineWrapper line{stroke:black;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled circle,#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:lightgray;}#mermaid-svg-mTqzlfXZAVaipEn8 .disabled text{fill:#efefef;}#mermaid-svg-mTqzlfXZAVaipEn8 .section-root rect,#mermaid-svg-mTqzlfXZAVaipEn8 .section-root path,#mermaid-svg-mTqzlfXZAVaipEn8 .section-root circle{fill:hsl(240, 100%, 46.2745098039%);}#mermaid-svg-mTqzlfXZAVaipEn8 .section-root text{fill:#ffffff;}#mermaid-svg-mTqzlfXZAVaipEn8 .icon-container{height:100%;display:flex;justify-content:center;align-items:center;}#mermaid-svg-mTqzlfXZAVaipEn8 .edge{fill:none;}#mermaid-svg-mTqzlfXZAVaipEn8 .eventWrapper{filter:brightness(120%);}#mermaid-svg-mTqzlfXZAVaipEn8 :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}1989LeNet诞生卷积神经网络奠基1998LeNet-5手写体识别商用2012AlexNet深度学习革命序幕2014VGG/GoogLeNet更深更宽的网络2015ResNet残差连接突破深度瓶颈2017Transformer注意力机制登场2020ViTTransformer入主CV2021CLIP视觉-语言预训练2022Stable Diffusion生成式AI爆发2023GPT-4V/SAM多模态理解与分割2024Sora视频生成新纪元计算机视觉三十年:关键里程碑

二、黎明时期:卷积神经网络的诞生(1989-2011)

2.1 LeNet(1989):一切开始的地方

1989年,Yann LeCun在贝尔实验室发表了一篇论文,描述了一个具有卷积层和反向传播训练的神经网络,用于识别手写邮政编码数字。这个模型后来被称为LeNet,它奠定了现代卷积神经网络的基本架构范式。

LeNet的核心思想来源于对生物视觉系统的模仿。Hubel和Wiesel在20世纪60年代对猫的视觉皮层研究揭示了两个关键发现:视觉皮层中的神经元具有局部感受野,只对视野中特定区域的刺激做出响应;不同神经元对不同类型的视觉模式(边缘、方向、运动)具有选择性。这些发现直接启发了卷积神经网络的设计——卷积核模拟局部感受野,多个卷积核模拟不同类型的特征检测器。

LeNet的架构包含以下关键组件:卷积层负责提取局部特征,通过共享权重大幅减少参数数量;下采样层(池化层的前身)降低特征图的空间分辨率,提供一定程度的平移不变性;全连接层将提取的特征映射到类别空间。这种"卷积-下采样-全连接"的三段式结构,至今仍然是大多数CNN的基本骨架。

LeNet在MNIST手写数字数据集上取得了当时令人瞩目的成绩,其识别的邮政编码被美国邮政服务实际部署使用,成为深度学习最早的成功商业应用之一。然而,受限于当时计算资源(训练一个LeNet可能需要数天时间)和数据规模,CNN在接下来近二十年间并未成为主流。

2.2 LeNet-5(1998):经典架构的定型

1998年,LeCun团队发布了LeNet-5,这是LeNet系列中最著名的版本,也是现代CNN教科书的经典案例。LeNet-5包含7层(不包括输入层):3个卷积层、2个下采样层、1个全连接层和1个输出层。其最重要的改进在于引入了更多的卷积层,形成了"卷积-池化-卷积-池化-卷积-全连接"的层次化结构。

LeNet-5展示了一个重要的设计哲学:随着网络层数的增加,特征图的空间维度逐渐减小(从32×32到1×1),而通道数逐渐增加(从1到120)。这种"空间收缩、通道扩张"的模式,使得网络能够从低级的边缘特征逐步抽象到高级的语义特征。这一思想在后续几乎所有CNN架构中得到了继承和发展。

在MNIST数据集上,LeNet-5的错误率降到了约0.8%,这个成绩在当时远超其他方法。然而,当面对更大规模、更复杂的自然图像数据集时,LeNet的性能仍然不足。这主要受限于两个因素:一是网络的深度和参数量仍然有限,无法充分建模复杂的视觉模式;二是缺乏有效的正则化手段,更深更大的网络容易过拟合。

2.3 寒冬与坚持:2000-2011年的探索

在2000年到2011年这段时期,计算机视觉的主流范式是"手工特征+浅层分类器"。SIFT(尺度不变特征变换,1999年)、HOG(方向梯度直方图,2005年)等手工设计的特征描述子配合SVM(支持向量机)成为图像分类和物体检测的标准解决方案。这些方法虽然在某些任务上取得了不错的效果,但其核心瓶颈在于特征设计完全依赖人类工程师的领域知识和经验,难以推广到复杂多变的视觉场景。

在这段"AI寒冬"中,仍有少数研究者坚持神经网络方向。Geoffrey Hinton在2006年提出的深度信念网络(DBN)和逐层预训练策略,为训练深层网络提供了新的思路。虽然DBN本身并非CNN,但它证明了深度网络是可以被有效训练的,为后续CNN的复兴做了重要的理论铺垫。

吴恩达(Andrew Ng)在2011年使用大规模无监督学习训练了一个深度自编码器,能够从YouTube视频帧中自动学习到猫脸检测器。这项工作虽然精度有限,但展示了无监督深度学习在大规模数据上的潜力,被视为深度学习复兴的重要前奏。

三、深度学习革命:CNN的黄金时代(2012-2017)

3.1 AlexNet(2012):引爆革命的核弹

2012年的ImageNet大规模视觉识别挑战赛(ILSVRC)是计算机视觉历史上的分水岭。Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton提交了一个名为AlexNet的深度卷积神经网络,以top-5错误率15.3%的成绩夺冠,比第二名(基于手工特征的SIFT+FV方法)低了超过10个百分点。这一巨大差距令整个领域为之震惊,标志着深度学习正式接管计算机视觉。

AlexNet的成功并非源自单一的技术突破,而是多项关键技术的巧妙结合。首先,它使用了ReLU(修正线性单元)激活函数替代传统的sigmoid或tanh。ReLU的梯度在正区间恒为1,有效缓解了深层网络的梯度消失问题,同时计算简单,加速了训练过程。其次,AlexNet利用了GPU(NVIDIA GTX 580)进行并行计算,将训练时间从数月缩短到约一周。这在当时是革命性的——GPU从此成为深度学习训练的标配硬件。

AlexNet还引入了多种正则化技术来防止过拟合。Dropout在训练时以一定概率随机丢弃神经元,迫使网络学习冗余的鲁棒特征,相当于一种隐式的模型集成。数据增强(随机裁剪、水平翻转、颜色抖动)人为扩充了训练集规模,提高了模型的泛化能力。局部响应归一化(LRN)虽然后续被证明并非必要,但反映了当时对网络稳定性的探索。

AlexNet的架构包含5个卷积层和3个全连接层,总计约6000万个参数。由于当时GPU显存限制(单卡仅3GB),AlexNet采用了双GPU并行训练的策略,将网络分成两部分分别放在两个GPU上,只有在特定层之间进行通信。这种工程上的折中方案,意外地催生了分组卷积的思想,为后续高效网络设计提供了灵感。

3.2 VGGNet(2014):深度就是力量

牛津大学视觉几何组(Visual Geometry Group)在2014年提出的VGGNet,以其简洁优雅的架构设计而闻名。VGGNet的核心设计哲学是:使用更深的网络,但所有卷积层都使用最小的3×3卷积核。两个3×3卷积核的堆叠等效于一个5×5卷积核的感受野,三个3×3卷积核的堆叠等效于一个7×7卷积核的感受野,但参数量更少,且引入了更多的非线性变换。

VGG-16和VGG-19(分别包含16和19个权重层)是VGGNet最常用的两个版本。它们都遵循相同的结构模式:多个卷积层堆叠后接一个2×2最大池化层,特征图分辨率减半,通道数加倍。这种简单的模块化设计使得VGGNet非常容易理解和实现,至今仍然是许多视觉任务(尤其是风格迁移)的首选骨干网络。

VGGNet在ImageNet 2014比赛中取得了top-5错误率7.3%的成绩,较AlexNet有了显著提升。然而,VGGNet的缺点也很明显:全连接层占据了大量参数(VGG-16的138M参数中,全连接层约占90%),导致模型体积庞大、计算开销高。这一缺陷促使研究者开始思考如何设计更高效的网络结构。

3.3 GoogLeNet/Inception(2014):拓宽而非加深

与VGGNet同年诞生的GoogLeNet(又名Inception v1),出自Google的Szegedy等人之手,采取了一种与VGGNet截然不同的思路。GoogLeNet提出了Inception模块,在同一层内并行使用不同尺度的卷积核(1×1、3×3、5×5)和池化操作,让网络自动学习最优的特征组合。这种"拓宽"而非"加深"的策略,使得网络能够捕捉多尺度的视觉信息。

Inception模块的一个关键创新是使用1×1卷积进行降维。在大卷积核(3×3和5×5)之前先用1×1卷积减少通道数,可以大幅降低计算量。例如,对28x28x256的输入,直接使用5×5卷积输出28x28x128需要约2.3亿次乘法运算;而先用1×1卷积将通道数降到64,再进行5×5卷积,仅需约1.1亿次运算,节省了超过一半的计算量。

GoogLeNet最深的部分包含22个权重层,但通过大量使用1×1卷积和全局平均池化替代全连接层,其参数总量仅约500万,是AlexNet的1/12,VGG-16的1/28。这种高效的设计使其在移动端和嵌入式设备上具有极大的实用价值。

GoogLeNet在ILSVRC 2014分类任务中以6.7%的top-5错误率夺冠,超越了VGGNet。此后,Inception系列不断迭代(v2引入Batch Normalization,v3引入分解卷积,v4结合ResNet思想),在精度和效率上持续改进。

3.4 ResNet(2015):跨越深度的鸿沟

随着网络深度的增加,研究者观察到一个反直觉的现象:更深的网络不仅没有带来更高的精度,反而出现了退化——训练误差和测试误差都高于较浅的网络。这不是过拟合问题,而是优化困难。理论上,深层网络可以学习恒等映射来实现与浅层网络相同的性能,但梯度下降算法难以找到这样的解。

何恺明等人在2015年提出的残差网络(ResNet),以优雅的方式解决了这一问题。ResNet的核心思想是残差学习:让网络层学习输入与输出之间的残差映射F(x)=H(x)-x,而非直接学习期望的底层映射H(x)。通过引入"跳跃连接"(skip connection),信息可以绕过若干层直接传递,使得网络可以轻松学习恒等映射(只需将残差逼近零)。

这一设计使得训练极深网络成为可能。ResNet-50、ResNet-101、ResNet-152乃至ResNet-1001都取得了成功。ResNet-152在ILSVRC 2015中以3.57%的top-5错误率夺冠,首次超越了人类水平(约5.1%)。这是一个里程碑式的时刻——在ImageNet这个特定任务上,机器视觉的识别能力已经超越了人类。

ResNet的残差连接思想深刻地影响了后续网络架构的设计。DenseNet(2017)将这一思想推向极致,每一层都接收前面所有层的输出作为输入。ResNeXt(2017)结合了ResNet的残差连接和Inception的分组卷积思想。SE-Net(2018)引入了通道注意力机制,为每个通道学习一个权重,实现了通道维度的自适应特征重标定。

3.5 Batch Normalization与优化技术

在CNN架构演进的同时,训练技术的进步同样至关重要。2015年,Sergey Ioffe和Christian Szegedy提出的批量归一化(Batch Normalization,BN),是继ReLU之后最重要的训练技术突破。

BN的核心操作是在每个mini-batch内对每一层的激活值进行标准化,使其均值为0、方差为1,然后通过可学习的缩放和平移参数恢复网络的表达能力。BN带来的好处是多方面的:它允许使用更大的学习率,加速训练收敛;它降低了对权重初始化的敏感性;它具有一定的正则化效果,可以减少对Dropout的依赖;最重要的是,它有效缓解了内部协变量偏移问题,使得训练非常深的网络成为可能。

在优化器方面,Adam(2014)结合了动量法和RMSProp的优点,通过计算梯度的一阶矩和二阶矩估计来为不同参数设计独立的自适应学习率。Adam成为深度学习中最常用的优化器之一,其默认超参数(学习率0.001,beta1=0.9,beta2=0.999)在大多数情况下都能取得不错的效果。

四、注意力革命:Transformer入主视觉(2017-2021)

4.1 Transformer(2017):NLP的范式转变

2017年,Google在论文"Attention Is All You Need"中提出了Transformer架构,最初是为机器翻译任务设计的。Transformer完全摒弃了传统的循环神经网络(RNN)和卷积神经网络,仅依赖自注意力(self-attention)机制来建模序列中的依赖关系。

自注意力机制的核心计算可以概括为:将输入序列中的每个元素映射为查询(Query)、键(Key)和值(Value)三个向量,然后通过计算查询与所有键的相似度,加权聚合所有值,得到每个位置的输出表示。这种机制使得每个位置都能直接关注序列中的任意其他位置,无需像RNN那样逐步传递信息,有效解决了长距离依赖问题。

Transformer引入了多头注意力(Multi-Head Attention),通过并行计算多个注意力头,每个头关注不同的表示子空间,增强了模型的表达能力。位置编码(Positional Encoding)为模型提供了序列中元素的位置信息,弥补了自注意力机制本身不具备位置感知能力的缺陷。

Transformer在NLP领域取得了巨大成功,催生了BERT、GPT等一系列里程碑式模型。然而,将Transformer应用于计算机视觉面临一个直接挑战:自注意力的计算复杂度与序列长度的平方成正比。对于一张224×224的图像,如果每个像素都作为一个token,序列长度将达到50176,计算量超出了现有硬件的承受能力。

4.2 ViT(2020):图像即序列

2020年,Google提出的Vision Transformer(ViT)以一种简单而巧妙的方式解决了上述问题:将图像分割成固定大小的patch(例如16×16),将每个patch线性投影为一个向量token,然后将这些token序列输入标准的Transformer编码器。

ViT的这一设计非常大胆——它几乎没有任何图像特定的归纳偏置(inductive bias),完全依赖Transformer的自注意力机制来学习图像的空间结构。CNN中的局部连接、平移不变性等对图像处理非常有效的先验知识,在ViT中都不存在。这意味着ViT需要从数据中学习一切,因此对预训练数据量有极高的要求。

实验结果表明,当在ImageNet-21K或JFT-300M等大规模数据集上预训练后,ViT能够超越同等规模的CNN模型。然而,在ImageNet-1K(约130万张图片)上从头训练时,ViT的性能不如CNN。这揭示了ViT的一个重要特性:它的归纳偏置更弱,但表示能力更强,关键在于是否有足够的数据来释放这种能力。

ViT的出现标志着计算机视觉领域进入了一个新的范式——在此之前,CNN是视觉任务的绝对王者;在此之后,Transformer开始与CNN分庭抗礼,并逐渐展现出更强的潜力。

4.3 DeiT、Swin Transformer等后续工作

ViT的成功激发了大量后续工作,这些工作从不同角度改进了视觉Transformer。DeiT(Data-efficient Image Transformers,2020)通过知识蒸馏(使用CNN教师模型指导ViT训练)和更强的数据增强策略,使得ViT在ImageNet-1K上也能取得有竞争力的结果,降低了对大规模预训练数据的依赖。

Swin Transformer(2021)是视觉Transformer发展的又一个重要里程碑。它引入了两个关键创新:层次化特征图构建(类似CNN的金字塔结构)和移位窗口自注意力(Shifted Window Self-Attention)。前者使得Swin Transformer能够作为通用骨干网络用于各种视觉任务(分类、检测、分割),后者在保持计算效率的同时实现了跨窗口的信息交互。

Swin Transformer在ImageNet-22K上预训练后在ImageNet-1K上达到了87.3%的top-1准确率,并在COCO目标检测和ADE20K语义分割等任务上刷新了当时的记录。它证明了经过精心设计的Transformer架构可以全面超越CNN,成为新的视觉骨干网络范式。

4.4 CLIP(2021):视觉-语言的桥梁

OpenAI在2021年发布的CLIP(Contrastive Language-Image Pre-training),开启了视觉-语言联合学习的新纪元。CLIP的核心思想是用自然语言作为监督信号来训练视觉模型,而非传统的固定类别标签。

CLIP的训练目标是:对于一批(图像,文本)配对数据,让配对的图像和文本的嵌入向量尽可能相似,同时让非配对的尽可能不相似。这种对比学习目标使得模型学习到的视觉表示与语言表示对齐,从而具备了零样本(zero-shot)分类能力——模型可以直接根据类别名称的文本描述来识别未见过的类别,无需任何微调。

CLIP的训练数据规模令人印象深刻:4亿对(图像,文本)从互联网上收集。在如此大规模的数据上训练后,CLIP展现出了惊人的泛化能力,可以在30多个不同的视觉数据集上进行零样本分类,且效果与监督训练的ResNet-50相当甚至更好。

CLIP的影响远超分类任务本身。它为后续的文本到图像生成模型(如DALL-E 2、Stable Diffusion)提供了核心组件,也启发了大量视觉-语言模型的研究。CLIP证明了语言可以成为视觉学习的强大监督信号,这一发现深刻改变了计算机视觉的研究范式。

五、生成式AI爆发:从图像到视频(2022-2024)

5.1 Stable Diffusion(2022):图像生成的民主化

2022年,Stability AI发布的Stable Diffusion模型,将文本到图像生成技术带入了大众视野。与之前的扩散模型(如DDPM、DDIM)不同,Stable Diffusion在潜在空间(latent space)而非像素空间进行扩散和去噪过程,大幅降低了计算开销,使得在消费级GPU上运行图像生成成为可能。

Stable Diffusion的技术架构包含三个核心组件:一个变分自编码器(VAE),负责将图像压缩到潜在空间并在生成后解码回像素空间;一个U-Net去噪网络,在潜在空间中逐步预测并去除噪声;一个CLIP文本编码器,将文本描述编码为条件向量,引导生成过程。

扩散模型的基本原理是:前向过程逐步向数据添加高斯噪声,直到数据完全变成纯噪声;反向过程学习从噪声中恢复数据,通过逐步去噪生成新的样本。训练时,模型学习预测给定噪声图像和噪声水平下的噪声分量;推理时,从随机噪声开始,逐步去噪,最终得到生成图像。

Stable Diffusion的开源发布极大地推动了AI图像生成技术的普及。社区贡献了数千个微调模型(如LoRA、DreamBooth)、插件和工具,形成了繁荣的生态系统。ControlNet、IP-Adapter等后续工作进一步增强了图像生成的可控性和灵活性。

5.2 SAM(2023):分割一切模型

Meta在2023年发布的SAM(Segment Anything Model),是图像分割领域的里程碑式工作。SAM的目标是构建一个通用的图像分割基础模型,能够在不进行特定任务微调的情况下,对任意图像中的任意物体进行分割。

SAM的架构包含三个部分:一个图像编码器(基于ViT),用于生成图像的嵌入表示;一个提示编码器,用于编码用户提供的提示(点、框、掩码或文本);一个掩码解码器,将图像嵌入和提示嵌入结合,输出分割掩码。这种设计使得SAM能够灵活地响应各种形式的提示,从单点点击到密集的全图分割。

SAM的训练数据规模令人瞩目:通过"数据引擎"的三阶段迭代流程(辅助人工标注、半自动标注、全自动标注),最终构建了包含1100万张图像和11亿个掩码的SA-1B数据集。这是迄今为止最大的图像分割数据集,比之前最大的数据集大了两个数量级。

SAM的出现标志着计算机视觉向"基础模型"范式迈出了重要一步。它证明了通过大规模数据和模型容量,可以训练出具有强大泛化能力的分割模型,这为下游任务(如医学图像分割、遥感图像分析、视频编辑等)提供了强大的基础工具。

5.3 GPT-4V(2023):多模态理解的集大成者

2023年9月,OpenAI发布了GPT-4V(GPT-4 with Vision),将GPT-4的语言理解能力扩展到了视觉领域。GPT-4V能够理解图像内容,回答关于图像的问题,进行视觉推理,甚至根据图像进行创意写作和分析。

GPT-4V的多模态能力并非简单的图文匹配,而是展现了深层次的视觉理解。它能够解读图表和数据可视化,理解漫画和表情包中的幽默,识别手写文字,分析医学影像,甚至能够理解复杂的多步骤视觉推理任务。这种能力使它成为多模态大语言模型的标杆。

GPT-4V的发布标志着计算机视觉进入了一个新阶段:从"识别"到"理解"。传统的视觉模型回答的是"这张图片里有什么"的问题,而GPT-4V能够回答"这张图片意味着什么"、"根据这张图片应该怎么做"等更复杂的问题。这种从感知到认知的跨越,为计算机视觉的应用开辟了全新的可能性。

5.4 Sora(2024):视频生成的新纪元

2024年2月,OpenAI发布了Sora,一个能够根据文本描述生成长达一分钟高质量视频的模型。Sora的出现震惊了全世界,因为它生成的视频不仅在视觉质量上达到了前所未有的水平,更重要的是展现了深层的物理世界理解能力——物体在运动、遮挡、光照变化中的表现高度符合物理规律。

Sora的技术路线基于扩散变换器(Diffusion Transformer,DiT),将扩散模型与Transformer架构结合。与传统的视频生成模型不同,Sora不将视频视为固定帧率的时间序列,而是使用"时空patch"的表示方式——将视频在时间和空间维度上同时分割成小块,类似于ViT将图像分割成空间patch。这种统一的表示方式使得Sora能够处理任意分辨率、任意长宽比和任意时长的视频。

Sora的另一个重要特性是它的涌现能力。通过大规模训练,Sora展现出了对三维空间、物体持久性、长程时间一致性等物理世界属性的理解,这些能力并非被显式编程,而是从数据中自发涌现出来的。这暗示了大模型在视觉领域可能具有与语言领域类似的涌现能力。

Sora目前尚未公开发布,但其技术报告和演示已经引发了关于视频生成、世界模型和通用人工智能的广泛讨论。它代表了计算机视觉在2024年所达到的最高水平——从识别静态图像,到理解图像内容,再到生成动态的世界模拟。

六、关键基础设施:数据集、基准与评估体系的演进

6.1 数据集:视觉AI的燃料

计算机视觉的发展史,在很大程度上也是一部数据集的演进史。没有高质量的大规模标注数据,再精妙的算法也只是空中楼阁。从MNIST到ImageNet再到SA-1B,每一个里程碑式数据集的诞生,都推动了算法能力的质变。

MNIST(1998年)是计算机视觉领域最著名的数据集之一,包含60000张训练图像和10000张测试图像的手写数字(0-9)。虽然以今天的标准来看,MNIST的规模很小、任务很简单,但它在CNN发展的早期阶段提供了不可替代的基准测试平台。直到今天,MNIST仍然是初学者学习深度学习的第一个数据集,LeNet-5在MNIST上的成功为CNN的后续发展奠定了信心基础。

CIFAR-10和CIFAR-100(2009年)由Alex Krizhevsky和Geoffrey Hinton整理发布,将图像分类从灰度手写数字推进到了彩色自然图像。CIFAR-10包含10个类别,每个类别6000张32×32的小图像,总计60000张。CIFAR-100包含100个类别,每个类别600张图像。虽然图像分辨率低,但类别多样性和图像复杂性远高于MNIST,成为验证新型CNN架构的标准测试集。

ImageNet(2009年发布,2010年起举办ILSVRC竞赛)是计算机视觉历史上最具影响力的数据集。它由斯坦福大学的李飞飞团队发起,最初包含超过1400万张图像,覆盖21841个类别,构建了一个按照WordNet语义层次结构组织的海量图像数据库。ILSVRC(ImageNet大规模视觉识别挑战赛)使用的子集包含1000个类别,约120万张训练图像、5万张验证图像和10万张测试图像。ImageNet的规模在当时是前所未有的——此前最大的图像分类数据集也仅有数万张图像。正是这种大规模数据,为AlexNet等深度模型提供了充足的训练信号,使端到端深度学习成为可能。

COCO(Common Objects in Context,2014年)由微软发布,将计算机视觉的评估从简单的分类扩展到了更复杂的场景理解。COCO包含超过33万张图像,标注了超过250万个目标实例,涵盖80个物体类别。COCO的独特之处在于它强调"上下文中的物体"——图像中的物体通常出现在自然场景中,而非经过裁剪和居中处理的孤立物体。这使得COCO成为目标检测、实例分割和图像描述生成的标准基准。COCO的评估指标(mAP@[0.5:0.95])比ImageNet的top-5准确率更加严格,推动了检测和分割算法的持续改进。

SA-1B(Segment Anything 1 Billion,2023年)是Meta在发布SAM模型时同时公开的数据集,包含1100万张图像和超过11亿个分割掩码。这是迄今为止最大的图像分割数据集,其规模比之前最大的分割数据集大了两个数量级。SA-1B的构建采用了创新的"数据引擎"三阶段流程——从人工标注到半自动标注再到全自动标注——展示了如何利用模型自身的能力来高效构建大规模数据集。

6.2 评估基准:从单一指标到全面衡量

评估基准的演变反映了领域对模型能力期望的不断提升。早期的评估依赖简单的准确率指标,如今的评估体系则涵盖了精度、鲁棒性、公平性、效率等多个维度。

ImageNet分类从最初的top-5错误率评估,发展到包括top-1准确率、类别平均准确率等多维指标。2019年,ImageNet还引入了ImageNet-A(自然对抗样本)、ImageNet-R(艺术渲染图像)、ImageNet-Sketch(素描图像)等变体,用于评估模型在分布外数据上的鲁棒性。这些变体揭示了标准ImageNet训练的模型在非自然场景下的性能退化,推动了鲁棒性研究的进展。

COCO的评估体系是目标检测和分割领域最全面的基准之一。除了mAP(平均精度均值),COCO还报告AP50、AP75(不同IoU阈值下的精度)、AP_small、AP_medium、AP_large(不同尺寸目标的精度)以及AR(平均召回率)。这种多维度评估可以全面反映检测器在不同场景下的表现,避免了单一指标可能带来的误导。

6.3 竞赛平台:推动进步的催化剂

ILSVRC(2010-2017)是最具传奇色彩的计算机视觉竞赛。2012年AlexNet的夺冠宣告了深度学习时代的到来,2015年ResNet的超越人类表现标志着深度学习在特定任务上的成熟。ILSVRC于2017年正式结束,但其影响力延续至今——几乎所有的经典CNN架构都在这个舞台上首次亮相。

Kaggle和Papers With Code等平台在ILSVRC之后接过了推动算法进步的大旗。Kaggle提供了丰富的数据科学竞赛,涵盖图像分类、分割、生成等多种CV任务,吸引了全球数十万数据科学家参与。Papers With Code则通过将论文、代码和排行榜关联起来,建立了一个透明、可复现的研究评估体系,任何研究者都可以提交自己的结果与学界最佳水平进行对比。

七、三十年的启示与未来展望

回顾计算机视觉三十年的发展历程,我们可以总结出几条核心规律。第一,数据规模是推动进步的关键力量。从MNIST的6万张手写数字,到ImageNet的1400万张自然图像,再到SA-1B的11亿个分割掩码,每一次数据规模的跃升都带来了能力的质变。第二,架构创新与计算能力的提升相辅相成。CNN的复兴得益于GPU并行计算,Transformer的崛起离不开大规模分布式训练基础设施。第三,从专用到通用的趋势不可逆转。早期的CNN只能做分类,后来的模型可以同时做检测和分割,如今的GPT-4V和Sora则向着通用视觉理解迈进。第四,开源文化对CV领域的推动作用不可估量。PyTorch的生态、Hugging Face的模型库、GitHub上的开源代码,使得全世界的研究者可以在前人工作的基础上快速迭代,这种开放协作的模式是CV领域创新速度远超其他领域的重要原因。

展望未来,计算机视觉的发展方向包括但不限于:更高效的视觉表示,探索如何在保持性能的同时减少计算开销,使视觉模型能够在移动端和嵌入式设备上高效运行;更强大的视觉-语言整合,研究如何让视觉理解与语言推理更好地协同,实现真正的多模态智能;世界模型的构建,从像素级理解迈向对物理规律和因果关系的建模,让机器不仅"看到"表面现象,还能"理解"深层原因;视觉AI的安全与伦理,在生成式AI(Deepfake、AI换脸)日益逼真的背景下,如何确保技术不被滥用,如何构建公平、透明、可解释的视觉系统,这些问题变得比以往任何时候都更加紧迫。

三十年的技术积累,已经让计算机视觉从实验室走向了千家万户。从我们每天使用的面部解锁和人像模式,到自动驾驶汽车感知周围环境,再到AI辅助医疗诊断,计算机视觉正在深刻地改变着人类的生活。这场跨越三十年的视觉革命,从LeNet手写数字识别的涓涓细流,汇聚成GPT-4V和Sora的奔腾江河,未来还将继续向着通用视觉智能的星辰大海奔涌而去。而这,才刚刚开始。


参考文献

  • LeCun, Y., et al. (1989). Backpropagation Applied to Handwritten Zip Code Recognition. Neural Computation.
  • LeCun, Y., et al. (1998). Gradient-Based Learning Applied to Document Recognition. Proceedings of the IEEE.
  • Krizhevsky, A., Sutskever, I., & Hinton, G. (2012). ImageNet Classification with Deep Convolutional Neural Networks. NeurIPS.
  • Simonyan, K., & Zisserman, A. (2014). Very Deep Convolutional Networks for Large-Scale Image Recognition. ICLR.
  • Szegedy, C., et al. (2015). Going Deeper with Convolutions. CVPR.
  • He, K., et al. (2016). Deep Residual Learning for Image Recognition. CVPR.
  • Vaswani, A., et al. (2017). Attention Is All You Need. NeurIPS.
  • Dosovitskiy, A., et al. (2020). An Image is Worth 16×16 Words: Transformers for Image Recognition at Scale. ICLR.
  • Radford, A., et al. (2021). Learning Transferable Visual Models From Natural Language Supervision. ICML.
  • Rombach, R., et al. (2022). High-Resolution Image Synthesis with Latent Diffusion Models. CVPR.
  • Kirillov, A., et al. (2023). Segment Anything. ICCV.
  • OpenAI. (2023). GPT-4V(ision) System Card.
  • OpenAI. (2024). Video Generation Models as World Simulators. Technical Report.
  • Liu, Z., et al. (2021). Swin Transformer: Hierarchical Vision Transformer using Shifted Windows. ICCV.
  • Touvron, H., et al. (2021). Training data-efficient image transformers & distillation through attention. ICML.
  • 赞(0)
    未经允许不得转载:网硕互联帮助中心 » 计算机视觉的发展历程:从LeNet到GPT-4V的三十年
    分享到: 更多 (0)

    评论 抢沙发

    评论前必须登录!