整合信息指标 Φ 的近似计算|周六直播·整合信息论读书会

学术   2024-10-31 22:01   北京  


导语


为了系统梳理整合信息论,北京师范大学系统科学学院教授、集智俱乐部创始人张江老师领衔发起「整合信息论读书会」,希望探讨整合信息论的基础理论框架、近似计算方法,在神经科学中的应用、在复杂系统中的拓展应用、系统临界态,以及机器意识等主题。

本周六(11月2日)上午9:00将进行这一系列读书会的第五期分享,由北京师范大学系统科学学院硕士生刘凯威介绍整合信息指标 Φ 的近似算法。欢迎感兴趣的朋友加入读书会一起讨论交流!





内容简介




用信息论研究神经元间的信息传递目前已有大量丰富的研究,或许该理论能成为打开关于意识现象演技的一把钥匙,整合信息论(IIT)是代表之一。该理论如今已经发展到4.0版本,但是依然存在两个重要的问题。

第一个问题是大多数的计算框架只能应用于二元的序列和离散的马尔科夫过程;

第二个问题是随着模型逐渐复杂,计算量会爆炸式增长。

尽管可以将数据二元化处理,但是大多数时间序列都是连续的;与此同时,要解决意识问题,仅仅在简单模型上反复实验一定是不可取的。因此我们还需要将目光放回2.0版本,在该版本中我们可以找到很多关于基于矩阵论的已知模型解析解的理论,而数据驱动的模型也可以用相同的理论进行近似计算。该理论虽然较早,但是却更成熟,更具备可解释性。理解了近似计算的基础概念,对于更高级别的IIT相关研究,会获得更多的启发。




内容大纲



  

  • 简介

  • 意识的量化

  • 整合信息论

  • 信息指标的近似

  • 马尔科夫系统 Φ 的近似计算

  • 已知模型

  • 转移概率矩阵的 ΦDM

  • 马尔科夫高斯过程 ΦE

  • 信息熵替换互信息

  • 未知模型

  • ΦE的数值近似ΦE(Data)

  • 时间序列ΦAR

  • 连续系统Φ的纠正

  • 基于解码的Φ*

  • 连续时间吸引子

  • 自由度ΦDim

  • 和其他计算的对比





核心概念



 

整合信息论 Integrated Information Theory

转移概率矩阵 Transition Probability Matrix

高斯马尔科夫过程 Gaussian Markov Process

时间序列 Time Series

矩阵论 Matrix Theory





主讲人




刘凯威,北京师范大学系统科学学院硕士生,张江老师因果涌现研究小组成员。研究领域是统计学方向的生存分析、贝叶斯统计,以及复杂系统方向的复杂网络重构、复杂系统建模、规模法则、因果涌现等问题。





参与方式




直播信息:

时间:2024年11月2日(本周六)上午9:00-11:00

报名参与读书会:

斑图链接:https://pattern.swarma.org/study_group_issue/767?from=wechat


扫码参与「整合信息论」读书会,加入群聊,获取系列读书会回看权限,加入「意识的量化与建模」社区,与社区的一线科研工作者沟通交流,共同推动这一前沿领域的发展。


报名成为主讲人
读书会成员均可以在读书会期间申请成为主讲人。主讲人作为读书会成员,均遵循内容共创共享机制,可以获得报名费退款,并共享本读书会产生的所有内容资源。详情请见:意识可以度量吗?整合信息论读书会启动啦!





参考文献



 

•Barrett Adam B., Seth Anil K.. Practical Measures of Integrated Information for Time-Series Data. PLOS COMPUTATIONAL BIOLOGY, 2011, 7(1): 1-18

•Masafumi Oizumi , Shun-ichi Amari, Toru Yanagawa, et al. Measuring Integrated Information from the Decoding Perspective. PLOS Computational Biology, 2016, 12(1)

•Anil K. Seth, Adam B. Barrett, Lionel Barnett. Causal density and integrated information as measures of conscious level, 2011

•André Sevenius Nilsen,Bjørn Erik Juel,William Marshall. Evaluating approximations and heuristic measures of integrated information. Entropy, 2019, 21(5): 525

•Satohiro Tajima, Ryota Kanai. Integrated information and dimensionality in continuous attractor dynamics. Neuroscience of Consciousness, 2017, 2017(1): 1–9


整合信息论读书会


为什么我们在清醒时有意识,而在无梦的睡眠中意识水平大大降低?为什么我们的意识由大脑的某些部分产生,而非其他部分?为什么大脑的特定部分与视觉和听觉等意识体验密切相关?这些具体的问题本质上涉及到,理解决定一个系统产生意识体验的条件,以及理解决定一个系统具有何种意识的条件。整合信息论(IIT)试图用几何学一般的公理体系来解释意识是什么,意识如何测量。根据该理论,意识对应于一个系统整合信息的能力。


为了深入探索意识奥秘,系统梳理整合信息论的理论体系,北京师范大学系统科学学院教授、集智俱乐部创始人张江领衔发起「整合信息论」读书会,组织对本话题感兴趣的朋友,深入研读相关文献,激发科研灵感。读书会分为以下几个部分:整合信息论综述,基础理论框架,近似计算方法,在神经科学中的应用,在复杂系统中的拓展应用,Φ与系统临界态,以及机器意识。2024年9月28日开始,每周六上午9:00-11:00进行,持续时间预计 10 周,欢迎感兴趣的朋友报名参与!



详情请见:
意识可以度量吗?整合信息论读书会启动啦!



点击“阅读原文”,报名读书会

集智俱乐部
关注复杂科学与人工智能的前沿进展、书籍资料、工具文献、交叉前沿等,同时也发布集智俱乐部、集智学园举办的各类讲座、课程等活动相关信息。
 最新文章