Pytorch构建深度学习模型
经典项目
1、图像分类：github.com/floydhub/imagent
2、github.com/amdegroot/ssd.pytorch
3、github.com/ruotianluo/ImageCaptioning.pytorch
4、github.com/allenai/document-qa
5、
……
构建简单的两层网络
词向量
论文：distribution representations of words and phrases and their compositionality
- 词编码需要保证词的相似性
分布式表示：用一个词附近的其他词来表示该词
Word2Vec：skip-gram模型
中心词预测中文词。词向量能够预测周围单词的信息。
Negative sampling 负例采样：因为计算所有的单词关系太困难，所以采用采样的方式，然后我们所希望的是中心词周围正确的单词的分数越高越好，不正确的周围的单词分数越低越好。这是我们的一个训练任务。
