多层神经网络的不可解释性是指其内部的决策过程很难被人类理解和解释。这主要是因为多层神经网络具有大量的神经元和多个层次的连接，使得网络的决策过程变得非常复杂。
具体而言，多层神经网络中每一层的神经元会根据输入的特征进行加权组合和非线性变换，然后将结果传递给下一层。这种层层传递的特性使得网络在处理复杂任务时能够提取更高级别的特征，但也使得网络的决策过程变得不透明。
由于网络的参数众多和复杂的结构，很难准确了解每个神经元在整个网络中的作用和贡献。即使可以通过可视化方法来观察网络的某些层次上的特征提取，仍然无法清楚地解释网络是如何将这些特征组合起来做出决策的。
因此，多层神经网络在很多情况下被视为“黑盒子”，我们可以观察到其输入与输出之间的映射关系，但无法精确理解其中的具体决策过程。这也是人们对于机器学习模型的可解释性提出要求的原因之一。为了增加模型的可解释性，研究者们正在探索一些方法，如基于注意力机制的可解释性方法和规模化网络的解释方法等。
