本次学习小组是俱乐部首次开设的高级机器学习小组,旨在系统性地学习和讨论初级和中级机器学习小组中未涉及的高级算法。本次课程的主线围绕深度生成模型展开。随着近年来GPT等生成式AI的成功,生成模型在自然语言处理(NLP)和计算机视觉(CV)领域的应用越来越火热。最新的生成模型主要分为两类:自然语言生成和图像生成。对于NLP,底层算法基于transformer大模型;而图像生成的底层算法则是扩散模型(Diffusion Model)。
本次课程的主要目标是让大家对扩散模型有深入的理解。因此,课程主线将从EM算法开始介绍变分推断,逐步深入到深度生成模型的代表作:变分自编码器(VAE)、生成对抗网络(GAN)和扩散模型(Diffusion Model)。课程中还将穿插其他重要内容,例如以Lasso和PCA为代表的稀疏方法(Sparse Method),以卡尔曼滤波(Kalman Filter)和粒子滤波(Particle Filter)为代表的状态空间模型,以及以随机游走马尔可夫链(RWMH)和哈密顿蒙特卡罗(HMC)为代表的采样方法。
本次课程难度极高,要求对所有算法进行细致的数学推导,并具备较高水平的统计学和线性代数知识。我们希望通过这次课程,大家能够对深度生成模型达到源码级别的理解。
学习方式:
以个人学习和小组讨论相结合形式进行,要求学员深入思考并积极参与讨论。具体形式为:
课件讲解:每周末进行线上小组讨论,由被录取的正式组学员(包括领队)轮流选择某一个章节,梳理主要知识点,每周讨论时长约为 2-3 个小时。
提问答疑:学习小组所有成员进行个人学习,遇到问题可以随时在学习群里面讨论(主要在微信群)。
考核方式(旁听组不参与): 领队在学习结束后根据习题完成情况、出勤、主讲表现、讨论参与度等方面评测正式小组成员表现。
学员组成:
领队一名(已到位)
组员:12人(含领队),不限专业,要求有数学,统计,机器学习基础,对学习内容有热情,有充分时间每周学习。
报名要求:
1)熟悉线性代数,统计,机器学习基础算法。
2)对于所学习的内容有很大热情。
3)平均每周投入至少10小时进行学习。
报名方式:
注册并登录陆琪石网站https://www.qishicpc.com, 在Activities中选择进行报名。
正式组(免费):(需要面试才能进入)
正式组仅限高级会员和外卡会员报名(请注册琪石网站在MyProfile处购买外卡)。报名时请附上自己的简历和Cover Letter (简单说明为什么感兴趣、每周可投入时间等)。
报名链接:
旁听组(收费):(缴费即进场)
旁听组对所有会员开放,报名费一旦缴费成功确定报名,报名费概不退还。
报名链接:
课程时间:
共16周,中间休息两周。时间会根据实际情况缩短或延长。
琪石学分: 3
Syllabus
部分学习大纲:
Week 0: Introduction
Week 1: Lasso
Week 2: PCA
Week 3: Probabilistic Graphical Model
Week 4: EM algorithm 1
Week 5: EM algorithm 2 (Mixture Gaussian Model)
Week 6: Variational Inference
Week 7: Hidden Markov Model
Week 8: State-space model 1(Linear)
Week 9: State-space model 2(Nonlinear)
Week 10: MCMC 1
Week 11: MCMC 2
Week 12: VAE
Week 13: GAN
Week 14: Diffusion Model 1
Week 15: Diffusion Model 2
学习资料:
没有主要的网课以及书籍,下面的书籍仅供参考:The Elements of Statistical Learning, Hastie Pattern Recognition and Machine Learning, Bishop Probabilistic Machine Learning: Advanced Topics, Kevin patrick Murphy Computer Age Statistical Inference, Hastie
琪石职业发展俱乐部
2014年成立于美国纽约,是一个为华人提供职业发展服务的平台,致力于成为金融和科技领域的“黄埔军校”。我们的高级会员就职于全球最顶尖的量化对冲基金和IT大厂。
会员专享
各类金融、科技领域的学习小组
线上线下networking活动
申请仅对会员开放的金融、IT行业内推职位
资深教练助力职业规划
回复“琪石年报”可获得历年琪石年报
网站地址是:https://www.qishicpc.com/
俱乐部目前开放各地对外微信大群,欢迎注册俱乐部网站,熟悉和联系我们,也欢迎联系我们加入微信大群
各位琪石的小伙伴,一起在文末留言你的想法/问题吧!
也欢迎分享给可能感兴趣的朋友们。
未来我们一起同行,在不断地学习和尝试中,成就更好的自己。
更多活动、职位信息