We must know, we will know !

万物并作,吾以观复

Why and what

开场白

从今天开始将跟大家分享一些关于深度学习的内容。其实关于深度学习,网络上有非常多的课程,同时也有很多的书籍供大家参考。咱们数学与统计学院也卧虎藏龙,有很多深度学习领域做的非常优秀的老师和同学。对于我自己而言呢,我其实是个外行,对于深度学习了解的也非常有限,理解的也很浅薄。所以,给大家分享这个深度学习的短课我是诚惶诚恐,不知道能提供给大家什么样的帮助,因为我自己也是一个深度学习的初学者。

介绍一个事物,我比较习惯遵循着为什么,是什么,怎么做来展开。我想了一下,我们这个短课是为了什么呢,想达到什么目的呢。我回忆了一下自己刚接触深度学习时候的感觉,算法大致的思想和原理马马虎虎能够明白,但是怎么拿思想来解决问题呢,怎么动手写代码呢,好像对于新手两眼一抹黑,非常困惑。因此,我想我这个短课更偏重于应用,偏重于实践。我希望大家能够上完这门短课以后,可以简单了解几个深度学习模型,最重要的是能够快速的搭建简单的深度模型,解决自己手头的问题。

Read more

MLP与CNN简介

MLP简介

下面我们正式开始介绍深度学习。首先介绍最基本的全连接神经网络,它的结构比较简单,由输入层,输出层,隐藏层构成。所谓的输入层就是我们原始的特征向量,比如你设计了一个100维度的特征向量,那么输入层就是100个节点。输出层就是你需要得到结果的维度,比如你是一个二分类问题,你可以输出层是1个节点,也可以设计为两个节点,分别表示属于某个类别的概率。而隐藏层则是为了增加网络的复杂程度,更好的拟合输入输出直接的关系。

Read more

How

下面,我想介绍一下这四天的主要内容。

我们第一部分介绍一些基本的深度学习模型,也就是MLP(全连接神经网络/多层感知机)和CNN(卷积神经网络),先大致介绍一下原理和概念。然后我会带着大家进行代码的实践,这期间我会介绍Pytorch搭建深度学习模型大致是分为几个模块,有那些步骤,给大家做一个基本的介绍。然后,我准备了第一个数据,大家可以随着课程进度,一点点的完成代码,然后用我提供的数据跑一跑,数据会放在我的github仓库

第二部分呢,我打算介绍一下潮流一点的算法,包括GCN(图卷积神经网络),AE(自编码器),VAE(变分自编码器),VGAE(图变分自编码器)。这中间,我会提供第二个数据供大家去完成自己的深度学习模型。

Read more

GCN简介

下面的内容我想介绍一些比较潮流的网络模型。首先我们来介绍一下图卷积神经网络,严格来讲,我们想要完整的介绍图神经网络,应从图上卷积的定义开始讨论,然后介绍图上的傅里叶变换,以及基于谱域的图神经网络,最终不断简化成现在经典的图卷积网络。但是这里面的理论确实非常复杂,最起码对我而言,我看着略感头痛。那我们就抛弃理论,选择一个更符合直觉的思路来介绍,按照大部分图神经网络书上的写法,我们这种思路(理解方式)应该称为空域图神经网络。

Read more