Batch Normalization vs Layer Normalization
[TODO: Разница, почему в трансформерах используется Layer Norm]
Pre-Norm vs Post-Norm
[TODO: Порядок нормализации, влияние на стабильность обучения]
Residual Connections (Skip Connections)
[TODO: Остаточные соединения,なぜ они решают проблему затухающих градиентов]
RMSNorm в современных моделях
[TODO: Root Mean Square Normalization, Llama и другие модели]
Проверьте себя
[TODO: 2-3 вопроса для самопроверки]
Дополнительные ресурсы
[TODO: Ссылки на материалы для углублённого изучения]