选择模型
选择模型由 James Heckman 开发,2000 年因这项工作获得诺贝尔经济学奖。
举个例子来解释上述选择模型公式:
Selection_Model2包含2402行code,需要的后台留言。
Stata code实现选择模型比较成熟和方法。
参数共享模型
参数共享是深度学习算法中的一种重要技术,通过共享模型的参数来减少模型的复杂度,并提升模型的性能和泛化能力。参数共享的原理是基于特征的局部性假设,认为相邻的特征之间具有相似的统计特性。参数共享在卷积神经网络、循环神经网络和转移学习等领域有广泛的应用。深度学习算法中的参数共享为我们解决复杂任务提供了一种有效的方法,同时也为我们理解深度学习的工作原理提供了重要的启示。
参数共享指的是在模型的不同部分使用相同的参数。在传统的机器学习算法中,每个特征都有自己独立的参数,而在深度学习算法中,通过参数共享,多个特征可以共享同一个参数,从而减少参数的数量。这种共享参数的方式可以有效地减少模型的复杂度,并提高模型的训练速度和泛化能力。
参数共享的原理是基于特征的局部性假设。在深度学习中,我们通常认为相邻的特征之间具有相似的统计特性,因此可以使用相同的参数来处理它们。通过参数共享,模型能够更好地捕捉到数据中的局部模式,提高模型的表达能力和泛化能力。
参数共享在深度学习算法中有广泛的应用,下面介绍几个常见的应用场景:
卷积神经网络(CNN)
在卷积神经网络中,参数共享被广泛应用于卷积层。卷积层通过滑动窗口的方式对输入数据进行卷积操作,并使用相同的卷积核对不同的位置进行特征提取。这样一来,卷积层的参数可以在不同的位置上共享,大大减少了参数的数量。参数共享使得CNN能够有效地处理图像等结构化数据,提取出局部的特征。
循环神经网络(RNN)
在循环神经网络中,参数共享被应用于时间维度上的循环操作。RNN通过共享权重矩阵来处理不同时间步的输入,这样一来,RNN的参数可以在不同的时间步上共享,大大减少了参数的数量。参数共享使得RNN能够对序列数据进行建模,捕捉到序列中的时序信息。
转移学习(Transfer Learning)
转移学习是一种利用已经训练好的模型来解决新任务的方法。在转移学习中,参数共享被应用于将已经训练好的模型的参数迁移到新任务中。通过共享参数,新任务可以从已经学到的知识中受益,并在少量的样本上实现更好的性能。
共享参数模型由Eli Lilly and Company - Global Statistical Sciences一起开发如下marco:
Shared_parameter1包含1583行code,需要的后台留言.
本文将用Sas Marco运行三个模型:
1.No linkage,因此假设 MAR(random intercept only)。
2.通过随机截距和随机时间斜率进行linkage(both random intercept and random linear time slope)。
3.与用于治疗调整的 dropout 模型有额外的交互项(Random intercept, random linear time slope and quadratic time slope)。
Javascript的PyTorch可以实现共享参数模型比较成熟和方便。
Take home message:
1.Javascript的PyTorch实现共享参数模型比较成熟和方便,我们用的模型,在计算机领域和新能源算法模型领域是小巫见大巫;Stata code实现选择模型比较成熟和方法,计量经济学中 stata是主流软件,相当于我们生物统计的 Sas,个人推荐山东大学陈强教授的 Stata 计量经济数据培训。
2.与选择模型和共享参数模型相比,FDA偏向于PMM方法,因为模型简单且解释起来容易被临床医生接受。
3.两种模型借鉴的是经济学和 AI 领域的算法模型。好多统计方法和理论也来自心理学和社会学和农业教授。数学是个万能油,可以兼容任何学科。 交叉学科是大热学科,复合型人才是真人才。学习莫言痛。越学越写,感觉自己之前了解的不透彻。还需继续研读英文原作,然后和别人讨论,继续在项目中历练,不多纠错不断力争上游。
PS:
替朋友招聘一位临床评价主管,有兴趣可以发简历到 1058825200@qq.com。
薪资待遇:25K-30K
岗位职责:1.负责医疗器械注册申报过程中的临床评价工作;2.负责临床评价报告的撰写,文献检索及整合,确保撰写的临床评价报告符合法规相关要求;3.负责与客户针对临床评价问题进行沟通,及时回复客户的问题,并对临床评价报告进行修改,及时协调内外部资源提供解决方案,推动项目有序进行;4.解答器审中心发补中有关临床评价的相关问题;5.国内注册申报和进口注册临床评价工作,境外临床试验数据分析,真实世界数据分析;6.熟练掌握文献检索策略以及检索工具使用,检索国内外医学数据相关文献;任职要求:1.本科及以上学历,临床医学、公共卫生、流行病与卫生统计等医药相关专业,研究生优先;2.具有医疗器械临床评价报告撰写工作完整工作经验3.英语可作为工作语言4.有口腔科和骨科产品经验优先5.工作认真负责,学习能力强,具有独立思考和解决问题的能力。
参考文献:
http://personal.rhul.ac.uk/uhte/006/ec5040/selectivity.pdf
Little, R.J.A. & Rubin, D.B. (1987), Statistical Analysis with Missing Data. New York: John Wiley.
Wu M.C. & Carroll R.J, "Estimation and Comparison of Changes in the Presence of Informative Right Censoring: Modeling the Censoring Process," Biometrics, 1988; 44,175-188
Wu M., & Follmann, D.A. “Use of Summary Measures to Adjust for Informative Missingness in Repeated Measures with Random Effects,” Biometrics, 1999; 55 75-84
Albert P. S. & Follmann, D.A. “Shared Random Effects Models”, Ch19, Longitudinal Data Analysis: A Handbook of Modern Statistical Methods, Chapman & Hall/CRC Press