Что такое Multi-Layer Perceptron (MLP) и как соотносятся глубина и ширина сети?

MLP — feedforward-сеть из последовательных полносвязных слоёв с нелинейными активациями. Между входом и выходом находится один или несколько скрытых слоёв (hidden layers). Глубина — число слоёв, ширина — число нейронов в слое. Глубина даёт иерархию признаков, ширина — ёмкость на каждом уровне; на практике чаще выгоднее увеличивать глубину, но до определённого предела.