神经网络是现代人工智能的核心技术之一，但它们常常被认为是黑盒函数逼近器，由于其内部结构复杂，难以解释。幸运的是，理论工具的引入帮助我们更好地理解神经网络的行为，尤其是分段线性这一特性。本文将以更详细的方式介绍和可视化神经网络中的分段线性现象。
Jane Street 简介
Jane Street是一家全球知名的量化交易公司，专注于使用最先进的技术和算法进行金融市场交易。公司以使用函数式编程语言OCaml闻名，并且在技术社区中以创新的技术实践和开源项目作出了卓越贡献。Jane Street的技术团队不仅仅是支持交易的工具开发者，还在诸多前沿技术领域开展了深入研究。
什么是分段线性？
神经网络的一个核心特点是其分段线性性质。分段线性是指一个函数可以分解为多个线性部分，尽管这些部分的组合可能并不是线性的。这个特性帮助神经网络能够学习和逼近非线性问题中的复杂函数。
ReLU激活函数
一个常见的激活函数是ReLU（Rectified Linear Unit），它可以被看作由两个线性部分组成：当输入为正时输出等于输入；当输入为负时输出为零。因此，ReLU的激活函数可以被描述为以下形式：
这就是典型的分段线性函数，它在原点处连接两部分。
图片1：ReLU激活函数图示 基础神经网络架构
我们讨论的神经网络架构是非常基础但功能强大的。其核心思想是将线性层与ReLU激活函数交替使用。这种结构在许多深度学习任务中被广泛应用。
首先，我们来看一个单层神经网络的例子。它有两个输入和一个输出神经元，输出神经元使用ReLU激活函数。输入分别位于x轴和y轴，而输出位于z轴。
图片2：二维输入、三维输出的单层神经网络图示 ReLU的激活与关闭
在这个网络中，ReLU函数会在输入空间中划分出激活和非激活区域。在图中，左半部分ReLU关闭，输出为零；右半部分ReLU开启，输出等于输入。
神经网络只能学习连续分段线性函数
一个重要的限制是，神经网络只能学习连续的分段线性函数。这意味着网络无法学习不连续的函数。例如，以下是一个无法被神经网络学习的函数，因为它的两部分在边界处并不相连。
图片3：不连续函数示例 增加输出神经元
接下来，我们将模型复杂度提升一步。通过增加输出神经元的数量，可以看到网络划分的区域更多了。假设我们将输出神经元增加到8个，那么网络将形成更多的分段区域。每一个区域对应于某些ReLU被激活而其他未激活的子集，这就是所谓的激活模式。
激活模式的组合
理论上，8个神经元应该有2^8 = 256种激活模式。然而，由于我们限制在二维空间中，实际上只有37种模式是可行的，其中32种可以在下图中可见。这些结构形成了一个复杂的几何结构，称为多面体复合体。
图片4：多面体复合体示例 以下是同一个几何结构的鸟瞰视角，它以逆时针旋转90度呈现：
图片5：二维鸟瞰视角 图片6：二维鸟瞰视角 图片7：两层神经网络的3D视图 添加第二层神经元
为了增加模型的复杂性，我们可以再添加一层神经元。这一层同样包含8个神经元，并且使用ReLU激活函数。为了在图中与第一层的线条区分，我们将第二层的线条绘制得更细。
二层网络中的线性组合
因为线性函数的组合仍然是线性的，所以在第一层划分出的每个区域内，第二层的线条依然是直线。然而，当这些线条碰到分段边界时，线性函数发生变化，产生了弯折。若某个激活模式不可行，线条将会终止。
输出值的可视化
随着网络层次的增加，圆形结构开始出现，并在接下来的层次中进一步细化。输出值较高的区域用较亮的颜色表示，输出值较低的区域用较暗的颜色表示，这使得我们可以更加直观地理解神经网络的输出。
最终输出结果
以下是经过训练后的神经网络的最终输出结果。图中展示了神经网络输出的3D视角：
图片7：最终的3D输出结果 神经网络权重变化的演变
我们不仅可以研究单个经过训练的神经网络，还可以通过可视化整个多面体复合体来探索神经网络在训练过程中权重变化的演变。
首先，我们从一个随机初始化权重的未训练网络开始。随着训练的进行，网络逐步生成一些可识别的形状。未训练的权重会将输入平面划分为少量多边形，而随着训练的进行，更多的多边形会形成，逐渐表现出复杂的模式。
演示视频
额外注释
1. 激活函数选择：尽管我们在解释中使用的是ReLU，但实际可视化中使用的是LeakyReLU(0.02)，因为小型ReLU网络在训练时容易陷入局部极小值。
2. 输出维度：网络的输出现在是8维的，但为了方便可视化，我们选择了任意的线性投影，使得我们可以在三维空间中呈现结果。
3. 几何形状的准确性：技术上，这些区域中有些是无界的，因此并不是严格意义上的多边形。更准确的术语是**“半空间交集”**，即这些区域的边界延伸至无穷远。
转自LLMQuant 作者 Jane Street
本文由「华尔街俱乐部」推荐，敬请关注公众号: wallstreetclub
声明：本文仅代表作者个人观点，不构成投资意见，并不代表本平台立场。文中的论述和观点，敬请读者注意判断。
版权声明：「华尔街俱乐部」除发布原创市场投研报告外，亦致力于优秀财经文章的交流分享。部分文章、图片和资料来自网络，版权归原创。推送时未能及时与原作者取得联系。若涉及版权问题，敬请原作者添加WSCHELP微信联系删除。谢谢授权使用！
关于我们
华尔街俱乐部凝聚华尔街投行的高端资源，为中国民营企业“走出去”提供全方位的顾问服务，包括企业赴美上市、战略投资、并购、私募路演和投资者关系等。在投资理念和技术方面提供华尔街投行专家实战培训，为您进入华尔街铺设成功之路。联系我们：ecompo@mail.com
