Почему нельзя отдавать 100% мышления ИИ: ловушка слепого доверия

На Хабре опубликована статья о тихой профессиональной ловушке, связанной с ИИ-ассистентами. ChatGPT, Claude, Cursor и Copilot пишут код быстрее человека, генерируют тесты и помогают проектировать архитектуру. Но за этим удобством скрывается риск: многие начинают делегировать моделям не только рутину, но и сам процесс мышления.

Автор описывает проблему чёрного ящика: модель выдаёт блестящий результат, но редко показывает путь к нему — компромиссы, отвергнутые варианты, места, где решение держится на удаче. В итоге разработчик получает ответ, но теряет понимание контекста.

Пример с парсером платежей

В статье приводится живой пример: запрос на парсинг CSV с платёжными транзакциями. ИИ за секунды выдаёт элегантный скелет кода на Python, который работает на тестовом файле. Но в нём нет проверки кодировки, валидации обязательных полей, обработки ошибок чтения, логирования проблемных записей и защиты от отрицательных сумм. Без предметного знания такой код — бомба с таймером.

Три кейса: когда ИИ становится протезом

Автор приводит три собирательных истории. Senior с восьмилетним стажем два года почти всё писал через Copilot и Cursor, а на собеседовании не смог без подсказки провести мысленный трассинг кода и не заметил лишние аллокации внутри цикла. DevOps автоматизировала почти всё через Terraform и ассистентов, но при падении прода не знала, как вручную проверить сокеты, и не понимала TCP keepalive на уровне ядра — инцидент тянулся часами. Data Scientist отдавал ИИ весь EDA и построение моделей, но не смог сформулировать гипотезу про обращения в поддержку после релизов, и модель в проде предсказывала не то, что нужно бизнесу.

Где проходит граница

Автор не демонизирует модели, а предлагает простую границу. Можно и нужно делегировать boilerplate, форматирование, черновики тестов, мозговой штурм альтернатив, объяснение концепций и code review. Красная линия — слепое копирование без понимания, архитектурные решения «потому что модель так сказала», отказ учить основы и подмена проверки своих знаний генерацией ответа.

В качестве техники автор советует просить модель разложить решение по шагам: почему выбран этот подход, какие альтернативы рассмотрены и отвергнуты, какие проблемы всплывут в проде через полгода. Если внятного ответа нет — это красный флаг.

Автор формулирует правило 80/20: 80% времени — собственное мышление, анализ, проектирование и понимание проблемы, 20% — помощь ИИ. Модель должна оставаться экзоскелетом, а не протезом.