导师实验室对学生影响有多大？

读博士导师非常重要，比你们想象得还要更重要。一个优秀的导师不仅在科研帮上很多忙，而且让你懂得怎么做科研，更重要的他教会你怎么做一个合格的学者。 跟这种导师工作，你会发现科研其实是一件非常有趣的事情，它带来的乐趣远超于你发了多少顶级会议的论文。

之前跟Max Welling教授工作过一段时间，我相信很多人都听说过这位大牛。当很多的学者都忙着发各种论文，把顶会论文数量看得很重的时候，他还是一如既往地深究属于自己的领域， 所以当人们提起MCMC的时候大部分人都会马上联想到这位教授。能够开辟属于自己的领域，而且在这个领域上不断地为别人“挖坑”是非常不容易的，这需要一种很强烈的信念。这不是在顶会论文数量上就能体现出来的。一个学者被很多人记住而且受到尊重，并不是因为他发过多少篇文章，而是他的一些工作（可能就是那么几篇论文）确实推动了整个学术界的发展。这就需要一个强烈的信念和对学术的追求。

Max Welling教授基本上每天8点之前会到办公室，下午5-6点回家，在学校里他的主要的工作就是读论文，对有些论文他也会自己做推导，跟学生讨论学术（多数情况下都是在白板上两个人一起边写边讨论）。工作当中我们都会把他当成一位同事，有问题一起讨论，他也会给出非常有建设性的意见。我还记得当时一起做科研的时候，我们俩仅在一周之内就有个100多封邮件的来往，就是在一起PK问题，想方法，给出解决方案，讨论过程中一个数学符号的错误也不会放过。这种过程回想起来特别有趣，很容易把人带进科研的乐趣当中。即使犯了一些错误，也会不断地去鼓励你。

另外，因为他是属于自己领域的权威，所以对下一步要做什么，往哪个方向发展非常清楚。所以他的学生也不会因为没有一个课题而苦恼，而且这种课题都非常具有针对性和创新性，使得学生都在解决一个难并且重要的问题，后来这些学生也都有属于自己的小领域。比如Kingma是Autoencoderr和Adam的作者，这也是在贝叶斯和深度学习领域一个开创性的工作。还有Cohen一直在研究Group invariant和深度学习的联系。在这个小领域做出了不少的贡献。Kipf是Graph Convolutional Network（图卷积网络）的作者，为邻域内带来了重大突破。

所以我也建议不要把发论文看得太重。首先要去想，你想解决什么问题，这个问题是不是值得去解决，如果值得那就现在就动手去做吧...

为了迎合时代的需求，我去年开设了《机器学习高端训练营》，这个训练营的目的很简单：想培养更多高端的人才，帮助那些即将或者目前从事科研的朋友，同时帮助已从事AI行业的提高技术深度。 

在本期训练营（第四期）中我对内容做了大幅度的更新，一方面新增了对前沿主题的讲解如图神经网络（GCN,GAT等），另外一方面对核心部分（如凸优化、强化学习）加大了对理论层面上的深度。除此之外，也会包含科研方法论、元学习、解释性、Fair learning等系列主题。目前在全网上应该找不到类似体系化的课程。采用全程直播授课模式。

那什么样的人适合来参加高阶班呢？

  • 从事AI行业多年，但技术上总感觉不够深入，感觉在技术上遇到了瓶颈；

  • 停留在使用模型/工具上，很难基于业务场景来提出新的模型；

  • 对于机器学习背后的优化理论、前沿的技术不够深入；

  • 计划从事尖端的科研、研究工作、申请AI领域研究生、博士生；

  • 打算进入最顶尖的AI公司比如Google，Facebook，Amazon， 阿里，头条等；

  • 读ICML，IJCAI等会议文章比较吃力，似懂非懂感觉，无法把每个细节理解透；

01 课程大纲
第一部分：凸优化与机器学习
第一周：凸优化介绍

  • 从优化角度理解机器学习

  • 优化技术的重要性

  • 常见的凸优化问题

  • 线性规划以及Simplex Method

  • Two-Stage LP

  • 案例：运输问题讲解

第二周：凸函数讲解

  • 凸集的判断

  • First-Order Convexity

  • Second-order Convexity

  • Operations Preserve Convexity

  • 二次规划问题（QP)

  • 案例：最小二乘问题

  • 项目作业：股票投资组合优化

第三周：凸优化问题

  • 常见的凸优化问题类别

  • 半定规划问题

  • 几何规划问题

  • 非凸函数的优化

  • 松弛化（Relaxation）

  • 整数规划（Integer Programming)

  • 案例：打车中的匹配问题

第四周：对偶（Duality）

  • 拉格朗日对偶函数

  • 对偶的几何意义

  • Weak and Strong Duality

  • KKT条件

  • LP, QP, SDP的对偶问题

  • 案例：经典模型的对偶推导及实现

  • 对偶的其他应用

第五周：优化技术

  • 一阶与二阶优化技术

  • Gradient Descent

  • Subgradient Method

  • Proximal Gradient Descent

  • Projected Gradient Descent

  • SGD与收敛

  • Newton's Method

  • Quasi-Newton's Method

第二部分 图神经网络
第六周： 数学基础

  • 向量空间和图论基础

  • Inner Product, Hilbert Space

  • Eigenfunctions, Eigenvalue

  • 傅里叶变化

  • 卷积操作

  • Time Domain, Spectral Domain

  • Laplacian, Graph Laplacian

第七周：谱域的图神经网络

  • 卷积神经网络回归

  • 卷积操作的数学意义

  • Graph Convolution

  • Graph Filter

  • ChebNet

  • CayleyNet

  • GCN

  • Graph Pooling

  • 案例：基于GCN的推荐

第八周：空间域的图神经网络

  • Spatial Convolution

  • Mixture Model Network (MoNet)

  • 注意力机制

  • Graph Attention Network(GAT)

  • Edge Convolution

  • 空间域与谱域的比较

  • 项目作业：基于图神经网络的链路预测

第九周：图神经网络改进与应用

  • 拓展1:   Relative Position与图神经网络

  • 拓展2：融入Edge特征：Edge GCN

  • 拓展3：图神经网络与知识图谱: Knowledge GCN

  • 拓展4：姿势识别：ST-GCN

  • 案例：基于图的文本分类

  • 案例：基于图的阅读理解

第三部分 强化学习
第十周：强化学习基础

  • Markov Decision Process

  • Bellman Equation

  • 三种方法：Value，Policy，Model-Based

  • Value-Based Approach: Q-learning

  • Policy-Based Approach: SARSA

第十一周：Multi-Armed Bandits

  • Multi-Armed bandits

  • Epsilon-Greedy

  • Upper Confidence Bound (UCB)

  • Contextual UCB

  • LinUCB & Kernel UCB

  • 案例：Bandits在推荐系统的应用案例

第十二周：路径规划

  • Monte-Carlo Tree Search

  • N-step learning

  • Approximation

  • Reward Shaping

  • 结合深度学习：Deep RL

  • 项目作业：强化学习在游戏中的应用案例

第十三周: 自然语言处理中的RL

  • Seq2seq模型的问题

  • 结合Evaluation Metric的自定义loss

  • 结合aspect的自定义loss

  • 不同RL模型与seq2seq模型的结合

  • 案例：基于RL的文本生成

第四部分 贝叶斯方法

第十四周：贝叶斯方法论简介

  • 贝叶斯定理

  • 从MLE, MAP到贝叶斯估计

  • 集成模型与贝叶斯方法比较

  • 计算上的Intractiblity

  • MCMC与变分法简介

  • 贝叶斯线性回归

  • 贝叶斯神经网络

  • 案例：基于Bayesian-LSTM的命名实体识别

第十五周：主题模型

  • 生成模型与判别模型

  • 隐变量模型

  • 贝叶斯中Prior的重要性

  • 狄利克雷分布、多项式分布

  • LDA的生成过程

  • LDA中的参数与隐变量

  • Supervised LDA

  • Dynamic LDA

  • LDA的其他变种

  • 项目作业：LDA的基础上修改并搭建无监督情感分析模型

第十六周：MCMC方法

  • Detailed Balance

  • 对于LDA的吉布斯采样

  • 对于LDA的Collapsed吉布斯采样

  • Metropolis Hasting

  • Importance Sampling

  • Rejection Sampling

  • 大规模分布式MCMC

  • 大数据与SGLD

  • 案例：基于分布式的LDA训练

第十七周：变分法（Variational Method)

  • 变分法核心思想

  • KL散度与ELBo的推导

  • Mean-Field变分法

  • EM算法

  • LDA的变分法推导

  • 大数据与SVI

  • 变分法与MCMC的比较

  • Variational Autoencoder

  • Probabilistic Programming

  • 案例：使用概率编程工具来训练贝叶斯模型

第十八周：其他前沿主题

  • 模型的可解释性

  • 解释CNN模型

  • 解释序列模型

  • Meta Learing

  • Fair Learning

  • 技术前瞻

●●●
课程其他的细节可以联系课程顾问来获取
添加课程顾问微信
报名、课程咨询
👇👇👇
02 部分案例和项目
运输优化问题：在运筹学以及优化领域最为经典的问题之一，类似的思想广泛应用在仓库优化，匹配等问题上。
涉及到的知识点：

  • 线性回归以及优化实现

  • Two-Stage随机线性规划一下优化实现

打车中的路径规划问题：我们几乎每天都在使用打车软件或者外卖软件。对于这些应用来讲，核心算法应用就是乘客和车辆的匹配。
涉及到的知识点：

  • Mixed Integer Linear Programming

  • 提供approximation bounds

经典机器学习模型的对偶推导及实现：通过此练习，更深入理解机器学习模型以及对偶的作用。
涉及到的知识点：

  • SVM，LP等模型

  • 对偶技术

  • KKT条件

基于图神经网络的文本分类：当使用语法分析工具处理文本之后，一段文本便可以成为一个图，接下来就可以使用图卷积神经网络来做后续的分类工作
涉及到的知识点：

  • 语法分析

  • 图神经网络

基于图神经网络的阅读理解：一般的阅读需要让机器阅读多个文章并对提出的问题给出答案。在阅读理解中抽取关键的实体和关系变得很重要，这些实体和关系可以用来构造一个图。
涉及到的知识点：

  • 命名识别，关系抽取

  • 图神经网络

  • Heterogeneous Graph

Bandits在推荐系统的应用案例：Bandits应用在顺序决策问题的应用中有易于实现、计算效率高、解决冷启动问题、数据标注相对要求不高（一般只需部分标注作为reward，如用户点击）等优点。本案例讲解bandits如何应用在新闻推荐的系统中做基于内容的推荐。
    涉及到的知识点：

  • Exploration & Exploitation

  • Epsilon Greedy

  • Upper Confidential Bounder

  • LineUCB

使用概率编程工具来训练贝叶斯模型：类似于Pytorch，Tensorflow，概率编程工具提供了对贝叶斯模型的自动学习，我们以LDA等模型为例来说明这些工具的使用。
涉及到的知识点：

  • 概率编程

  • 主题模型

  • MCMC和变分法

股票投资组合优化：在投资组合优化中，我们需要根据用户的风险承受能力来设计并组合资产。在本项目中，我们试着在二次规划的框架下做一些必要的修改如加入必要的限制条件、必要的正则来控制组合的稀疏性、加入投资中的先验等信息，最后根据预先定义好的评估标准来引导模型的学习
涉及到的知识点：

  • 二次规划

  • 不同的正则使用

  • 基于限制条件的优化

  • 先验的引入

课程其他的细节可以联系课程顾问来获取
赞 (0)

相关推荐