Чтобы сравнить состояние до и после перехода, используют несколько категорий показателей.
Deployment frequency показывает, с какой периодичностью команда выпускает изменения в продакшен.
Lead time for changes отражает время от внесения изменения в код до его появления в боевой среде.
Change failure rate показывает долю релизов, которые приводят к сбою, деградации сервиса или необходимости отката.
Mean time to recovery, или MTTR, отражает среднее время восстановления системы после инцидента.
Эти показатели рассматриваются в связке. Команда может выпускать изменения с высокой периодичностью, но иметь большую долю неудачных релизов. Возможна и обратная ситуация: обновления выходят с длительными интервалами, но проходят без сбоев.
Оценивать метрики следует в динамике конкретного проекта. Сравнение с чужими значениями без учёта архитектуры, масштаба и требований к доступности не показывает реальную эффективность изменений.
Дополнительно можно учитывать:
- продолжительность отдельных стадий пайплайна;
- количество ручных операций;
- число инцидентов после релизов;
- время обнаружения проблемы;
- долю успешно выполненных сборок;
- скорость подготовки нового окружения;
- количество изменений инфраструктуры, прошедших проверку через систему контроля версий.
Набор показателей выбирается исходя из целей перехода. Если основной проблемой были длительные релизы, внимание уделяют lead time и продолжительности пайплайна. Если компания сталкивалась со сбоями после обновлений, анализируют change failure rate и MTTR.