Recurrent Neural Network(RNN)

对应视频：p20-p21

PyTorch Introduction

tensor张量

1、与numpy的相互转换

1
2
3
4

#tensor->numpy ：
y_numpy = torch.numpy(x_tensor)
#numpy->tensor ：
y_torch = torch.from_numpy(x_numpy)

2、tensor可以转变矩阵形状，只要总共的元素数不变就行

1
2
3
4
5
6

#tensor.view
x = torch.rand(5,3)
y = x.view(15)
z = x.view(-1, 5)  # -1所指的维度可以根据其他维度的值推出来
#只有一个维度可以赋值-1！
print(x.size(), y.size(), z.size())

3、

词向量表示

bilibili —p2

nltk

第二章 机器学习概述

Convolutional Neural Network(CNN)

简化整体网络结构，选择较少的参数（相较于全连接前馈网络）。

bilibili P14

Backpropagation——反向传播

是有效计算gradient的向量的方法，因为随着网络的层数的增加，参数越来越多，向量越来越长，计算越来越复杂，使用反向传播比较高效。

第一章 绪论

基本概念一览

Deep Learning

bilbil：P12、P14

三步走：

• step1：确定网络的链接方式，确定网络结构一种连接方式可以对应一个function set

Classification 分类

1、理论方法：三步走

概率知识：贝叶斯公式（后验概率），高斯分布

伯努利分布 == 二项分布

高斯分布 == 正态分布