Инженер реализовал семь функций за один спринт. Показатели Доры выглядели безупречно. Рекламный пакет практически написал сам себя.
Шесть месяцев спустя архитектурное изменение потребовало изменения этих функций. Никто из команды не мог объяснить, почему существуют определенные компоненты или как они взаимодействуют. Инженер, создавший их, смотрел на свой код как чужой.
Создавать код стало дешевле, чем его понимать.
Задержка понимания
Когда инженер пишет код вручную, происходят два параллельных процесса. Первое — производство: в файлах появляются персонажи, пишутся тесты, меняются системы. Второй — поглощение: формируются мысленные модели, крайние случаи становятся интуитивными, архитектурные связи укрепляются в понимании. Эти процессы взаимосвязаны. Сам процесс набора текста требует участия. Трудности реализации создают пространство для логики.
Развитие с помощью ИИ отличает эти процессы. Одно приглашение генерирует сотни строк за секунды. Инженер проверяет, корректирует, повторяет. Выход увеличивается. Но поглощение может происходить не пропорционально быстрее. Когнитивная функция понимания того, что было построено, почему оно было построено таким образом и как оно связано со всем остальным, связано со скоростью обработки информации человеком.
Эта разница между скоростью вывода и скоростью понимания является когнитивным долгом.
В отличие от технического долга, который проявляется в результате сбоев системы или затрат на техническое обслуживание, Когнитивный долг остается невидимым для показателей скорости. Код работает. Испытания пройдены. Особенности Круиз. Недостаток существует только в сознании инженеров, создавших систему, что проявляется в неуверенности в собственной работе.
Долг на самом деле не является невидимым. В конечном итоге это отражается на показателях надежности: среднее время восстановления становится больше, процент неудачных изменений увеличивается. Но это запаздывающие показатели, отделенные месяцами от квартальных показателей скорости принятия решений. К тому времени, когда MTTR сигнализирует о проблеме, непонимание уже нарастает.
Что на самом деле измеряют организации?
Системы инженерных показателей были разработаны для измерения наблюдаемых результатов. Сюжетные точки завершены. Функции отправлены. Обязательства объединены. Просмотрите время выполнения. Эти показатели появились в эпоху, когда результаты и понимание были тесно связаны, когда доставка чего-то означала понимание чего-то.
Метрики никогда не измеряли понимание напрямую, потому что понимание считалось чем-то само собой разумеющимся. Предполагалось, что инженер, представивший функцию, ее понимает. Это восприятие сохранялось, потому что сам производственный процесс вынуждал к пониманию.
Это предположение больше не актуально. Теперь инженер может выпускать функции, сохраняя при этом лишь поверхностное знакомство с их реализацией. Функции работают. Метрики фиксируют успех. Организационные знания, которые традиционно накапливаются по этим характеристикам, накапливаются не такими же темпами.
Комитеты по калибровке производительности рассматривают улучшение скорости. Они не видят отсутствия понимания. Они не могут этого сделать, потому что ни один артефакт организационной системы измерения не отражает это измерение.
дилемма рецензента
Обсуждение когнитивного долга обычно фокусируется на инженере, создающем код. Самая серьезная проблема – у инженера, который его проверяет.
Проверка кода превратилась в шлюз качества. Старший инженер проверяет работу младшего, выявляет ошибки, предлагает улучшения, передает знания. Фактором, ограничивающим скорость, всегда была скорость работы младшего инженера. Старшие инженеры могут проверять быстрее, чем младшие.
Развитие с помощью ИИ меняет эту взаимосвязь. Младший инженер теперь может создавать код быстрее, чем старший инженер может его критически проверить. Объем сгенерированного кода превышает пропускную способность, доступную для тщательного анализа. Есть что-то, и обычно это глубина обзора.
Рецензент оказывается перед невозможным выбором. Сохраняйте предыдущие стандарты проверки и будьте барьером, который сводит на нет преимущество в скорости, обеспечиваемое ИИ. Или одобряйте код по мере его поступления и надейтесь, что тестирование выявит то, что пропустил обзор. Большинство выбирают последнее, часто неосознанно, поскольку давление со стороны организации способствует повышению производительности.
Именно здесь когнитивный долг растет в геометрической прогрессии. Непонимание автора можно компенсировать последующими дополнениями к коду. Непонимание рецензентов распространяется: они одобрили код, который не до конца понимают, и который больше не обеспечивает встроенной поддержки. Предположение организации о том, что проверенный код является понятным кодом, больше не является действительным.
шаблоны выгорания
Инженеры, которые активно работают с инструментами искусственного интеллекта, сообщают об особой форме истощения, которая отличается от традиционного выгорания. Традиционное выгорание возникает из-за постоянной когнитивной нагрузки, из-за того, что при решении сложных задач приходится слишком много думать. Новый паттерн возникает из-за близости к когнитивному разобщению.
Работа выполняется быстро. Прогресс виден. Но инженер испытывает стойкое чувство, что он неправильно понимает свою работу. Их можно выполнить, но для объяснения потребуется реконструкция. Они могут видоизменяться, но прогноз становится ненадежным. Созданная ими система кажется немного чужой, даже когда она работает правильно.
Это создает специфическое психологическое состояние: Высокая производительность в сочетании с низкой достоверностью. Инженеры производят больше, даже если они менее уверены в своей продукции. В организациях, которые ранжируются на основе видимых результатов, это создает необходимость продолжать производство, несмотря на растущую неопределенность.
Инженер, который перестает понимать, что они построили, остается позади по показателям скорости. Инженер, который ставит производительность выше понимания, достигает своих ежеквартальных целей. Структура стимулов выбирает поведение, которое ускоряет накопление когнитивного долга.
Когда организационная память дает сбой
В инженерных организациях знания существуют в двух формах. Первое очевидно: документация, проектная документация, зафиксированные решения. Второе является неявным: понимание, заложенное в умах тех, кто создал и поддерживал систему с течением времени. Неявное знание не может быть полностью реализовано, поскольку большая его часть существует в форме интуиции, распознавания образов и контекстуальных суждений, которые формируются в результате непосредственного взаимодействия с задачей.
Когда люди, создавшие системы, уходят или переходят к новым проектам, секретные знания уходят вместе с ними. Организации традиционно пополняли эти знания посредством обычного процесса инженерной работы. Новые инженеры, опираясь на существующие системы, развивают свои собственные неявные понимания в результате сложностей при реализации.
Эволюция с помощью ИИ потенциально может обойти этот механизм пополнения запасов. Если новые инженеры смогут создавать рабочие модификации, не развивая глубокого понимания, они никогда не смогут создавать неявные знания, которые традиционно накапливаются. Организация теряет знания не только из-за упадка, но и из-за неадекватного формирования.
Это создает режим отсроченного отказа. Система продолжает работать. Продолжайте поставлять новые функции. Но запас людей, которые действительно понимают систему, постепенно истощается. Когда обстоятельства в конечном итоге требуют такого понимания, когда что-то неожиданно ломается или требования меняются таким образом, что это требует архитектурной логики, организация оказывается в недостатке.
Как растет долг
Есть три пути к неудаче, когда накапливается когнитивный долг.
Первый предполагает отмену обычно надежной оценки. Инженеры обычно полагаются на код, который находится в разработке уже много лет. Если он просуществовал так долго, возможно, это сработало. Чем дольше код существует и не вызывает проблем, тем больше доверия он приобретет. Код, сгенерированный ИИ, меняет эту схему. Чем дольше он остается нетронутым, тем опаснее он становится.Потому что окно сравнения людей вокруг него полностью закрылось. Код, который на момент написания был едва понятен, становится совершенно непрозрачным, когда люди, его написавшие, уходят дальше.
Они отлаживают черный ящик, написанный черным ящиком.
Второй режим отказа возникает во время событий. Оповещение поступило в 3 часа ночи. Дежурный инженер открывает систему, которую он не создавал, созданную с помощью инструментов, которые он не обслуживает, документированную способами, с которыми, как он предполагает, он не знаком. Они отлаживают черный ящик, написанный черным ящиком. То, что занимает десять минут, чтобы понять, когда кто-то понимает систему, превращается в четырехчасовое судебно-медицинское расследование, когда кто-то этого не понимает. Умножьте это на достаточное количество событий, и общая стоимость превысит скорость, обеспечиваемую разработкой с помощью ИИ.
Организация фактически обменивает свой штат перспективных штатных инженеров на выпуск новых функций в этом квартале.
Третий режим отказа действует в более длительном временном масштабе. Младшие инженеры, которые полагаются в первую очередь на разработку с помощью искусственного интеллекта, никогда не развивают интуицию, возникающую при ручной реализации. Они передают особенности, которые определяют архитектурные решения, не создавая рубцовой ткани. Организация фактически обменивает свой штат перспективных штатных инженеров на выпуск новых функций в этом квартале. Затраты не отражены в текущих моделях численности персонала, поскольку люди, которые через пять лет могли бы стать старшими архитекторами, еще не отсутствуют. Их никогда не делают.
точка зрения режиссера
С точки зрения инженерного лидерства разработка с помощью ИИ представляет собой повышение производительности. Команды отправляются быстро. Дорожные карты сжаты. Обсуждения численности персонала становятся более благоприятными. Это наблюдаемые сигналы, которые распространяются вверх через организационные структуры отчетности.
Когнитивный долг, который накапливается в этих командах, не является сигналом. «Не существует показателя для инженеров, который мог бы объяснить, не перечитывая собственный код». Панель мониторинга «Глубина организационного понимания» отсутствует. Эта концепция не вписывается в форматы ежеквартальных бизнес-обзоров или обоснования численности персонала.
Директора принимают решения на основе наблюдаемых сигналов. Когда эти сигналы однозначно указывают на успех, решение удвоить внимание к подходу, который породил эти сигналы, является рациональным в информационной среде, доступной лидерству. Судя по данным, решение не является ошибочным. Данные неполные.
Где эта модель ломается
Оценка когнитивного долга не применима одинаково ко всем инженерным задачам. Некоторые задачи действительно механические. Некоторые базы кода действительно выигрывают от быстрой итерации без глубокого понимания архитектуры. Некоторые функции на самом деле не требуют того уровня понимания, который традиционно достигается путем ручной реализации.
Модель также предполагает, что понимание ранее происходило с достаточной скоростью. Это предположение может быть щедрым. Инженеры всегда различались по глубине понимания своей работы. Возможно, произойдет изменение в распределении, а не появление нового явления.
Кроме того, методы разработки инструментов и документации могут развиваться, чтобы частично устранить пробел в понимании. Если организации разработают способы уловить и распространить понимание того, что развитие с помощью ИИ систематически терпит неудачу, долг может оказаться управляемым, а не накапливаться.
проблема измерения
Система правильно оптимизирует то, что измеряет. То, что он измеряет, больше не имеет значения.
Это фундаментальная задача Организации не могут оптимизировать то, что они не могут измерить. Скорость измерима. Понимание не осуществляется через какой-либо механизм или, по крайней мере, не используется в настоящее время при оценке производительности, решениях о продвижении по службе или планировании численности персонала.
Пока это понимание не станет понятным для систем принятия решений в организации, структура стимулов будет продолжать отдавать предпочтение скорости. Инженеры, которые ставят понимание выше результатов, будут менее продуктивными, чем их коллеги, которые ставят результаты выше понимания. Калибровка производительности вознаградит поведение, которое приводит к более быстрому накоплению долгов.
Это не провал отдельных менеджеров или инженеров. Это система измерения, разработанная для эпохи, когда производство и понимание были связаны, и работающая в эпоху, когда эта связь больше не существует. Система правильно оптимизирует то, что измеряет. То, что он измеряет, больше не имеет значения.
Разница со временем появится. Будь то из-за более высоких, чем ожидалось, затрат на обслуживание, из-за инцидентов, которые не требуют ни от кого понимания, или из-за новых требований, которые обнажают хрупкость систем, созданных без глубокого понимания. Время и форма выражения остаются неопределенными. Никакой внутренней мобильности нет.
