outline

1. 人工智能、机器学习与深度学习
2. 深度学习工具介绍

1. 人工智能、机器学习与深度学习

• AI：研究如何能让计算机模拟人类的智能，来实现特定的依赖人类智能才能实现的任务（例如学习、语言、识别）

• AI历史：

  • 1818，Mary Shelly对于复制人体的想象
  • 1950，完整提出了计算机智能的概念、评估智能的测试——图灵测试
  • 1956，Darmouth会议正式提出人工智能这个名字
  • 20世纪50年代到90年代，经历了两次人工智能寒冬
  • 2000年后，拥有了期盼已久的大数据和足够快的硬件处理能力的支持
  • 2010， 深度学习出现之后，给人工智能领域带来了一场革命，大大加快了人工智能领域的研究。

• AI学派（每种学派所有的方法不同，尝试解决的问题也不同）：

  • 符号主义：源自于数理逻辑->知识图谱
  • 连接主义（机器学习）
    • 最早的模型——感知机
    • 基于统计学的方法：决策树、支持向量机、逻辑回归等
    • 深度学习是使用深度神经网络来实现机器学习的方法。以图像识别为例，图像可以被裁剪成很多小块，然后输入到神经网络的第一层，接着第一层再向后面的层传到，每层做不同的任务，然后最后一层完成预测。(ILSVRC竞赛ImageNet Large Scale Visual Recognition Challenge)

机器学习是从数据中自动学习模型，并使用学习到的模型去进行预测。这与传统计算机科学中面对数据提前编程有本质区别

• 深度学习成功的原因
  • 规则系统（人工设计规则）->传统机器学习（人工设计特征）->特征学习（将原始数据转换成为能够被机器学习来有效开发的一种形式）->深度学习（输入简单特征，可自动得到高级抽象特征）
  • 大数据
  • 硬件飞速发展

2. 深度学习工具介绍

• Theano：2008年提出，可用于定义、优化和计算数学表达式，特别是多维数组。支持GPU加速。2017年停止开发，为后来的深度学习框架开发奠定了方向——以计算图为框架的核心，采用GPU加速计算

• TensorFlow：Google2015年推出，主要用于机器学习和深度神经网络研究。对开发不是很友好，但方便部署（可以在各种平台上运行），在工业上应用广泛。打印中间结果需借助Session，或tfgdb工具。

• Caffe/Caffe2：是一个计算CNN相关算法的框架。写Caffe代码的体验就像是在写一个文档而不是代码，好处是更加清晰直观，挑战是在动手之前需要对网络的结构有清晰的架构。适合工业部署。

• MXNet：分布式性能强大

• CNTK(认知工具集)：在语音识别领域的效果比较显著

• Keras：纯Python编写，Keras并不能称为一个深度学习框架，

• PaddlePaddle(百度)