Как эволюционировали CNN-архитектуры от LeNet до ResNet?

Эволюция CNN прошла путь от LeNet-5 (1998, 7 слоёв, MNIST) через AlexNet (2012, ReLU + dropout, ImageNet победитель), VGG (2014, узкие 3x3 фильтры, глубина 16-19), к ResNet (2015, residual connections, 152 слоя). Каждый шаг решал проблему предыдущего: glorot init → ReLU, переобучение → dropout/BN, vanishing gradients → skip connections.