Знаменитый хакер Джордж Хотц, прославившийся джейлбрейком iPhone и взломом PlayStation 3, выступил с резким предупреждением: массовое внедрение ИИ-агентов в разработку программного обеспечения может обернуться «одной из самых дорогостоящих ошибок в истории отрасли». Свое мнение он изложил в блоге после шести месяцев экспериментов с агентами в реальных проектах, включая Tinygrad, своей платформе глубокого обучения и реверс-инжиниринг прошивки чипа USB-PCIe. Главная мысль Хотца проста и тревожна: агенты генерируют много кода, но его качество часто оставляет желать лучшего и ошибки сложно обнаружить. «Агенты не умеют программировать и осознание этого факта занимает все больше времени», — заявил он.
По его наблюдению, в высокопроизводительных командах проблемы замечают и исправляют; в менее эффективных — тесты и ревью хуже организованы, а значит низкокачественный код останется незамеченным. А так как менее опытные разработчики зачастую генерируют в разы больше строк кода, в масштабах компании среднее качество может резко упасть.
Читайте также
Трамп выступит на крипто-конференции: что ждать от президента США
Крупные игроки — от Microsoft до Apple — интегрируют инструменты ИИ в рабочие процессы. Microsoft уже трансформировала GitHub Copilot в агентную систему, а Apple, по сообщениям, планирует внедрять ИИ-инструменты по всей инженерной организации. Генеральный директор Anthropic Дарио Амодей заявил в Давосе, что некоторые инженеры компании уже перестали писать код самостоятельно, переложив эту задачу на модели, а сами занимаются проверкой результатов. В своих проектах Хотц неоднократно возвращался к ручной доработке сгенерированного кода. Одновременно Андрей Карпаты и другие исследователи говорят об обратном: агенты уже меняют способ разработки к лучшему. Эти противоположные позиции показывают, что индустрия разделяется на за и против. Хотц противопоставляет себя скептикам, считающим большие языковые модели (LLM) статистическими машинами подбора шаблонов, а не источником принципиальных инженерных решений. Он приводит практический аргумент: агенты создают «рычаг игрового автомата» — вы тянете за него и надеетесь, что всё сработает, но чаще требуется дополнительное вмешательство.
Критика не исходит только от персоналий: эксперты указывают на системные риски. Автоматическая генерация кода без прозрачности происхождения и тестового покрытия повышает вероятность багов, уязвимостей и технических сбоев. Кроме того, если компании начнут полагаться на агентов для ускорения разработки, контроль качества станет последним рубежом обороны — рубежом, который смогут держать лишь опытные команды. В качестве конкретного примера он приводит сообщения о том, что Apple внедряет инструменты искусственного интеллекта в работу всей своей инженерной организации, а затем задаёт простой вопрос: «Как вы думаете, станет ли macOS лучше или хуже в течение следующих двух лет?»
Контраргументы звучат так: ИИ повышает скорость прототипирования, помогает новичкам, снижает рутинную нагрузку и может быть инструментом проверки идей. Anthropic и другие лаборатории заявляют, что часть инженеров уже используют модели как практический инструмент, оставляя себе роль верификаторов. Ключевой вопрос — где провести грань между автоматизацией рутинных задач и перекладыванием ответственности за конечный продукт на статистическую модель.
Что делать компаниям по мнению экспертов:
- Не внедрять агентов массово без пилотных тестов и метрик качества.
- Усилить код-ревью, автоматическое тестирование и аудит безопасности.
- Обучать инженеров навыкам верификации и интерпретации вывода моделей.
- Применять ИИ как ассистента, а не как автономного исполнителя.
Заключение: ИИ в программировании — мощный инструмент, но его масштабирование без инфраструктуры контроля качества рискует породить лавину проблем. Мнения лидеров отрасли расходятся, и опыт таких фигурантов, как Джордж Хотц, стоит учитывать: не все, что умеет генерировать модель, годится в продакшн. Вопрос в том, успеют ли организации подготовиться до того, как влияние агентов станет необратимым.
Меню 
Знания 
События 
Новости 
Курсы валют