深度学习 (DL)
深度学习革命始于 2010 年左右。
从那时起,深度学习解决了许多“无法解决”的问题。
深度学习革命并非由单一发现引起。它大概发生在几个必要因素都已准备就绪之时:
- 计算机速度足够快
- 计算机存储足够大
- 发明了更好的训练方法
- 发明了更好的调优方法
神经元
科学家们一致认为,我们的大脑有 800 到 1000 亿个神经元。
这些神经元之间有数千亿个连接。

图片来源:巴塞尔大学生物中心。
神经元(也称神经细胞)是我们大脑和神经系统的基本单元。
神经元负责接收外部世界的输入,发送输出(给肌肉的指令),以及处理其间的电信号。
神经网络
人工神经网络通常被称为神经网络 (NN)。
神经网络实际上是多层感知器。
感知器定义了进入多层神经网络的第一步。
神经网络是深度学习的精髓。
神经网络是历史上最重要的发现之一。
神经网络可以解决无法通过算法解决的问题
- 医学诊断
- 人脸检测
- 语音识别
神经网络模型
输入数据(黄色)经过隐藏层(蓝色)处理,再经过另一个隐藏层(绿色)修改,最终产生输出(红色)。

Tom Mitchell
Tom Michael Mitchell(生于 1951 年)是一位美国计算机科学家,卡内基梅隆大学(CMU)的大学教授。
他曾任 CMU 机器学习系的系主任。
E:经验(出现的次数)。
T:任务(驾驶汽车)。
P:性能(好或坏)。
长颈鹿的故事
2015 年,伦敦帝国理工学院的学生Matthew Lai创造了一个名为Giraffe的神经网络。
Giraffe 经过 72 小时的训练,就能以与国际象棋大师相同的水平下棋。
计算机下棋并不新鲜,但这个程序创建的方式是新的。
经典的国际象棋程序需要数年时间才能构建,而 Giraffe 使用神经网络在 72 小时内建成。
深度学习
经典编程使用程序(算法)来产生结果
传统计算
数据 + 计算机算法 = 结果
机器学习使用结果来创建程序(算法)
机器学习
数据 + 结果 = 计算机算法
机器学习
机器学习通常被等同于人工智能。
这是不正确的。机器学习是人工智能的一个子集。
机器学习是人工智能的一个学科,它使用数据来教导机器。
“机器学习是一个研究领域,它赋予计算机在不被编程的情况下学习的能力。”
Arthur Samuel (1959)
智能决策公式
- 保存所有动作的结果
- 模拟所有可能的结局
- 将新动作与旧动作进行比较
- 检查新动作是好是坏
- 如果新动作较不坏,则选择它
- 不断重复
计算机能够这样进行数百万次的事实,证明了计算机可以做出非常明智的决策。