目标实现一个学习系统 理解简单的神经网络(nn)/dl 00:11:46.636 image.png 人类智能 1. 通过信息进行推理 2. 看到照片与抽象概念结合:预测 00:19:29.936 image.png

mechine learning 就是代替人脑

目前常用的都是监督学习

算法思维: - 穷举 - 贪心 - 分治 - 动态规划

深度学习:有数据集 找出算法 机器学习 计算过程也就是函数来源于数据,而不是人工(基于统计) 00:24:01.499 image.png

dl属于表示学习rl

00:28:28.199 image.png

求原函数 首先构造知识库 00:29:14.598 image.png

00:29:41.156 image.png

实现类似人类智能的就算ai

00:32:34.716

image.png 对于复杂问题,基于规则的代码,人类难以维护

经典机器学习:手工提取特征。最重要要把 00:34:05.608 image.png

重点是使用机器学习找到中间的f(x) 00:34:40.521 image.png

表示学习还要通过学习获得特征

维度诅咒 00:36:43.485 image.png

特征2维就需要102 如果是3维就103 00:39:08.956 image.png

10维空间映射到3维 00:39:36.912 image.png

需要实现高维降到低维

降维的目的:维度过高,需要的数据量过大,数据集需要人工进行标注

00:42:24.861 image.png

深度学习使用比较简单的原始特征 设置额外的层,进行提取特征,然后接入学习器进行输出00:43:25.966 image.png

这个层常用多层神经网络

feature 单独进行训练,常用无监督学习 后一个有监督

端到端00:44:39.588 image.png

基于规则的系统 00:46:07.352 image.png

表示学习丛数据进行训练,来得到算法的过程

00:46:35.794 image.png

传统的机器学习策略 大于50样本 有无标签 预测量级 00:48:23.818 image.png

svm受到的挑战 好多人想不到的数据 大数据集处理困难 对于图像,文本 提取困难

00:51:42.355 image.png

人类犯错是5%

神经网络简单介绍 来源于神经学和数学 00:52:53.548 image.png 生物进化:趋光性->能动(智能系统) 00:56:59.322 image.png

给猫看幻灯片,检查他的脑子神经元电极反应 看的时候没信号变化 只有在幻灯片切换时有

在看条纹信息是有变化的

得出结论神经元是分层的 浅层用于检测线条移动,颜色块 高层检测:是猫是狗

00:59:19.608 image.png

上面就是感知机 01:00:16.840 image.png

01:00:53.285 image.png

能够实现神经网络很重要的概念 反向传播 :核心是计算图01:04:05.605 image.png

上面过程这个是前馈

01:05:11.607 image.png

逐层求导,最终目的是求出ab → e的导数

链式法则,01:06:18.283 image.png

所有路径偏导求和

各种各样的模型 01:08:10.827 image.png

01:08:26.267 image.png

01:10:15.884 image.png

算法、数据集、算力

01:11:26.328 image.png 01:12:04.765 使用现成的框架 image.png

高效使用gpu 01:12:53.385 image.png

01:13:22.429 image.png

01:16:48.704 image.png

01:17:19.878 image.png

先装cuda 后装pytorch