从图灵机到大模型:人工智能是怎样一步步走到今天的?
原创
点这里关注→
点这里关注→
数澜窥察
2026年10月31日 22:44
湖北
去阅读
一条跨越近九十年的时间线,读懂人工智能的来路。
当我们与人工智能对话时,很容易产生一种感觉:机器仿佛突然学会了理解问题、组织语言,甚至帮助我们写文章、修改代码。
但这场变化,有着漫长的前史。
从计算理论到符号推理,从专家系统到统计学习,再到深度学习与大模型,人工智能经历过突破,也经历过低潮。
这些技术路线长期并存,相互借鉴。今天的大模型,正是这段历史中多种思想与技术积累的结果。
故事,可以从1936年讲起。
01|1936年:先回答“什么是计算”
1936年,英国数学家艾伦·图灵在《论可计算数及其在判定问题上的应用》中,提出了后来被称为“图灵机”的抽象计算模型。
它的结构十分简单:
用纸带记录符号,用读写头读取和修改符号,再依据明确的规则改变状态、移动位置。
这样一个看似简单的模型,却能够描述复杂的计算过程。
图灵还提出了通用机器的思想:同一台抽象机器,可以根据输入的程序描述,模拟其他机器的计算。
这为通用计算提供了理论基础,也揭示了计算的边界——存在无法由通用算法解决的问题。
图灵机首先回答的是“计算如何被精确定义”。人工智能后来依赖的计算机与程序,就建立在这样的理论背景之上。
02|1943—1950年:从神经元模型到机器智能
1943年,沃伦·麦卡洛克和沃尔特·皮茨发表论文,将神经元简化为具有阈值和二元输出的计算单元。
他们研究这些单元组成的网络如何实现逻辑运算,建立了神经活动、逻辑与计算之间的联系。
尽管这种模型对真实神经元作了很大的简化,它仍然成为人工神经网络的重要理论起点。
一个影响深远的研究方向由此出现:
通过许多简单单元的连接与协作,构造能够完成复杂任务的系统。
1950年,图灵在《计算机器与智能》中,将讨论推进到机器智能。
他提出“模仿游戏”,尝试通过文字交流中的表现研究机器智能。这成为后来“图灵测试”讨论的源头。
图灵还探讨了学习机器的可能性,包括让机器通过教育和训练逐步获得能力。
从执行计算,到通过训练学习,人工智能的基本问题开始成形。
03|1955—1956年:人工智能获得了名字
1955年8月31日,约翰·麦卡锡、马文·明斯基、纳撒尼尔·罗切斯特和克劳德·香农共同提出达特茅斯夏季研究项目的提案。
提案中已经使用了“Artificial Intelligence”,也就是“人工智能”这一名称。
1956年夏天,研究项目在美国达特茅斯学院举行。这通常被视为人工智能作为一个研究领域形成的重要标志。
这里有一个容易混淆的时间点:
1955年,名称出现在研究提案中。
1956年,达特茅斯研讨活动举行。
提案讨论的方向包括语言、抽象概念、问题求解和自我改进。人工智能从形成之初,就有着相当广泛的研究目标。
04|1950年代后期:两条重要路线开始展开
早期人工智能,同时探索着推理与学习。
1956年,艾伦·纽厄尔、赫伯特·西蒙等人开发的Logic Theorist,展示了机器证明符号逻辑定理的能力。
它将问题表示为符号,按照规则寻找证明,并使用启发式方法缩小搜索范围。
符号表示、逻辑推理与搜索,由此成为早期人工智能的重要技术路线。
另一边,弗兰克·罗森布拉特在1957年的报告和1958年的论文中发展了感知机。
感知机可以通过训练样本调整连接权重,学习完成分类任务。
研究者开始探索:能否向机器提供例子,让它在训练过程中改变自身参数,获得解决问题的能力?
这两条路线分别强调规则与经验,为后来的人工智能发展留下了重要基础。
05|1960年代:应用出现,边界也逐渐显露
1965年启动的DENDRAL项目,将化学知识与搜索方法结合,根据质谱等信息推断有机分子的结构。
它展示了领域知识在问题求解中的作用,成为专家系统的重要先驱。
1966年,约瑟夫·魏泽鲍姆发表了介绍ELIZA的论文。
ELIZA能够进行某些形式的文字对话,其经典脚本模拟心理咨询中的交流方式。它分析输入中的关键词,再使用分解规则与重组规则生成回应。
因此,ELIZA的对话机制主要来自人工编写的规则,与今天大模型的训练和生成机制有明显区别。
同一时期,早期技术的局限逐渐显现。
单层感知机只能处理线性可分的分类问题,异或等任务超出了它的表达能力。
1969年,明斯基和西摩·帕普特出版《感知机》,系统分析了相关模型的计算限制。
理解这段历史时,需要把结论限定在书中研究的模型与条件内,不能将其扩展为对所有神经网络能力的否定。
06|1970—1980年代:寒冬与专家系统
早期人工智能取得了一些令人振奋的成果,但真实世界的问题比最初预想的更加复杂。
系统在小规模、条件明确的任务上取得进展后,往往难以直接应对更复杂的环境。
其中一个困难是\\“组合爆炸”\\:随着问题规模增加,需要探索的可能性迅速膨胀,计算成本变得难以承受。
1966年的美国ALPAC报告审视了当时机器翻译的效果与投入。1973年出版的英国莱特希尔报告,则对人工智能研究的进展提出了严厉质疑。
这些评估及后续研究环境的变化,成为理解早期人工智能低潮的重要背景。
通常所说的\\“人工智能寒冬”\\,指研究热情、资金或商业信心的回落。其时间边界会因地区和研究方向而有所不同。
与此同时,专家系统找到了一批明确的应用目标。
1970年代,斯坦福大学的MYCIN研究探索了如何利用医学知识与规则,辅助分析感染问题并提出抗菌药物治疗建议。
到1980年,DEC公司开始正式使用XCON,也称R1,为计算机订单配置系统组件。
专家系统的典型做法,是将领域专家的知识组织为知识库,再通过推理程序运用这些知识。
它们证明:在任务范围清晰、知识能够有效整理的条件下,人工智能可以承担有价值的工作。
但知识更新、规则协调与系统维护,也带来了持续成本。1980年代后期至1990年代初,人工智能又经历了商业热情与投入的回落。
07|1986年:多层神经网络怎样学会改进?
1986年,大卫·鲁梅尔哈特、杰弗里·辛顿和罗纳德·威廉姆斯发表《通过反向传播误差学习表示》。
这项工作推动了反向传播在神经网络研究中的普及。
可以把训练过程理解为三个步骤:
第一步:模型给出预测。
第二步:比较预测与目标,计算误差。
第三步:计算各个参数对误差的影响,再调整参数,逐步降低误差。
反向传播负责高效计算这些影响,参数更新方法则利用计算结果调整网络。
这一进展帮助多层网络通过训练学习有用的内部表示。
这里也需要区分“更早的研究”与“产生广泛影响的工作”:反向传播相关方法有更早的历史,例如保罗·沃伯斯的1974年博士论文已经讨论了这一方向。
因此,1986年是重要的推广与发展节点,不能简单写成反向传播的首次发明年份。
08|1990年代:统计学习与神经网络持续积累
1995年,科琳娜·科尔特斯和弗拉基米尔·瓦普尼克发表支持向量网络的经典论文,发展了利用间隔与核方法进行分类的技术。
统计学习关注如何从数据中建立模型,以及模型能否对未见过的样本作出有效预测。
1997年,IBM的\\“深蓝”\\在六局国际象棋比赛中击败世界冠军加里·卡斯帕罗夫。
它主要依靠专用计算能力、棋局搜索和局面评估完成任务,展示了机器在特定复杂问题上的强大能力。
同年,塞普·霍赫赖特和于尔根·施密德胡伯提出长短期记忆网络LSTM,改进了循环神经网络学习长期依赖的能力。
1998年,扬·勒昆等人发表文档识别的重要论文,介绍了包括LeNet-5在内的卷积神经网络及其应用。
后来深度学习的重要技术基础,已经在这一时期持续积累。
09|2006—2012年:深度学习走到舞台中央
2006年,辛顿、西蒙·奥辛德罗和郑一伟发表深度置信网络的学习方法,通过逐层学习等办法探索深层网络的训练。
这项工作是深度学习复兴的重要节点,背后则是此前多年对神经网络结构与训练方法的研究。
2009年,李飞飞、邓嘉等研究者发表ImageNet论文,介绍了大规模、具有层级组织的图像数据库。
2012年,亚历克斯·克里泽夫斯基、伊利亚·苏茨克维和辛顿的团队,凭借后来被称为AlexNet的深度卷积神经网络,在ImageNet图像识别竞赛中取得显著优势。
这次突破,是多项条件共同作用的结果:
大规模标注数据、GPU计算,以及网络结构与训练技术的进步。
深度学习的突出特点,是利用多个处理层学习不同层次的数据表示。
在图像任务中,网络可以逐步学习边缘、局部形状以及更复杂的特征,减少对人工设计特征的依赖。
这推动了视觉识别、语音识别等领域的发展。
10|2014—2017年:机器学习生成,也学习决策
2014年,伊恩·古德费洛等人提出生成对抗网络GAN。
在典型的GAN中,生成器学习产生样本,判别器学习区分真实样本与生成样本,两者在对抗训练中共同改进。
这为生成逼真图像等任务提供了重要方法。
2015年,贾沙·索尔-迪克斯坦等人发表扩散生成模型的重要早期工作,探索逐步扰动数据、再学习逆向过程的生成方法。
这条路线将在几年后取得更广泛的影响。
2016年3月,DeepMind的AlphaGo以4比1战胜李世石。
它结合了深度神经网络、强化学习和蒙特卡洛树搜索:
网络帮助选择落子、评估局面,搜索帮助分析后续变化,训练则包括人类棋谱学习与自我对弈。
这场胜利展示了多种技术结合的力量。
2017年发表的AlphaGo Zero,进一步展示了在围棋任务中,从规则出发、通过自我对弈学习的能力。
11|2017—2020年:Transformer与预训练语言模型
2017年,阿希什·瓦斯瓦尼等八位作者发表《Attention Is All You Need》,提出Transformer架构。
它以注意力机制为核心,在机器翻译实验中展示了良好的效果,以及相较当时主要循环网络方法更强的训练并行性。
注意力机制让模型能够根据任务,计算输入中不同位置之间的关联。
Transformer对这一机制进行了系统组织,成为后来许多语言模型的重要架构基础。
需要区分训练与生成:Transformer在训练时可以并行处理序列中的多个位置,而自回归语言模型生成文本时,通常仍需逐个生成词元。
2018年6月,OpenAI介绍了后来通常称为GPT或GPT-1的工作:先利用大量文本进行语言模型预训练,再针对具体任务微调。
2018年10月,谷歌研究者发布BERT预印本,其论文随后发表于2019年的NAACL会议。BERT利用双向上下文进行预训练,在多种语言理解任务中取得进展。
这些工作的共同方向是:
先从大量文本中学习,再将学到的能力用于不同任务。
GPT与BERT的架构和训练目标存在区别,也分别推动了生成与理解任务的发展。
2020年,GPT-3论文介绍了最大规模为1750亿参数的模型,并展示“上下文学习”能力。
模型可以根据提示中的说明与少量示例完成多种任务,过程中无需为每项任务重新更新参数。
12|2020—2022年:生成模型与科学研究取得进展
2020年,乔纳森·何、阿贾伊·杰恩和彼得·阿贝尔发表去噪扩散概率模型DDPM的工作,显著推进了扩散模型的图像生成效果。
随后,潜空间扩散模型在2021年发布预印本、2022年发表于CVPR。它通过在压缩后的表示空间进行扩散,降低计算需求。
人工智能也在科学研究中取得了代表性突破。
2020年,AlphaFold 2在蛋白质结构预测评估CASP14中取得突出结果。
2021年,团队在《自然》发表详细方法。它利用深度学习,显著提高了许多蛋白质三维结构的预测精度,为生物学研究提供了新的工具。
这一节点拓展了人们对人工智能的认识:它可以帮助研究者解决长期存在的科学问题。
13|2022年:ChatGPT带来广泛可用的对话入口
2022年11月30日,OpenAI发布ChatGPT。
最初版本基于GPT-3.5系列模型进行微调,并使用监督微调、人类反馈强化学习等方法改善对话表现。
预训练赋予模型广泛的语言能力,后续训练则帮助它更好地响应用户指令。
这一步将多年积累的研究能力,组织成了普通用户可以直接体验的产品。
与此同时,发布时的说明已经指出:模型有时会生成听起来合理却错误的回答。
语言流畅度与事实可靠性,需要分别检验。
一个回答写得自然、完整,并不意味着其中的年份、引文与结论已经得到核实。
14|2023—2025年:多模态与推理训练
2023年3月14日,OpenAI介绍GPT-4。
其技术报告描述了接受图像和文本输入、生成文本输出的多模态能力。模型能力与产品开放时间需要区分:发布初期,图像输入尚未面向所有用户开放。
2024年9月12日,OpenAI发布o1系列的早期版本,强调通过强化学习改善复杂推理,并在回答前使用更多计算。
这展示了一个值得关注的方向:模型能力既与训练过程有关,也可能随着推理阶段投入的计算增加而改善。
2025年1月,DeepSeek发布R1,并公开相关技术报告与模型权重。
其研究进一步探索了通过强化学习提升语言模型推理能力,以及结合监督微调等步骤进行多阶段训练的方法。
从图灵的计算模型,到能够生成语言、处理图像和辅助科学研究的系统,人工智能走过了一条漫长而曲折的道路。
规则、搜索、概率、数据与神经网络,都是这段历史的组成部分。
理解这段历史,也能帮助我们提出更清楚的问题:
一个系统怎样学习?
它的能力由什么证据支持?
它在什么条件下有效,又会在哪里失败?
这些问题,值得和下一次技术突破一起被记住。
END
推荐阅读
2026-10-27
IBM推出FDU:FDE之后,企业AI落地正在进入组织能力竞争
2026-10-12
一文讲透 RAG:从原始文档到 AI 精准回答,究竟经历了什么?
2026-10-11
2026-09-19
2026-09-05
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。











评论