У бума кода есть тень безопасности
AI-агенты обещают многократно увеличить выпуск программного обеспечения, но каждая новая функция, зависимость и строка кода расширяют поверхность для уязвимостей. Больше кода означает больше объектов для защиты, создавая тень безопасности, которая растет со скоростью разработки на базе ИИ.
CVE, или Common Vulnerabilities and Exposures, отслеживают публично раскрытые недостатки программного обеспечения. Растущее число зарегистрированных CVE может отражать как увеличение количества реальных ошибок, так и улучшение методов их обнаружения. Мы должны избегать приписывания каждого роста влиянию ИИ, но потенциал ИИ для ускорения как генерации кода, так и создания уязвимостей очевиден.
Гонка вооружений в сфере безопасности идет полным ходом. ИИ может помочь защитникам быстрее находить и устранять слабые места, одновременно способствуя быстрому обнаружению и эксплуатации уязвимостей. Практические ресурсы, такие как CVE.org, Национальная база данных уязвимостей (NVD) NIST и каталог Known Exploited Vulnerabilities CISA, имеют решающее значение для отслеживания этого меняющегося ландшафта.
В показателях продуктивности Anthropic есть подвох
Внутренний анализ Anthropic, подробно описанный в недавнем отчете, дает представление о продуктивности, управляемой агентами. Инженеры, участвовавшие в исследовании, создали примерно в пять раз больше коммитов кода, чем за шесть месяцев до этого. Важно отметить, что показатели качества, такие как уровень удаления или отката, не показали заметной разницы.
Однако этот впечатляющий результат сопровождается существенной операционной оговоркой: агенты проводили около 80% времени интерактивной сессии в режиме ожидания, ожидая ввода данных человеком. Это говорит о том, что проверка и одобрение человеком остаются критическим узким местом, потенциально ограничивающим реальную пропускную способность агентских рабочих процессов.
Более тревожный сигнал поступил из данных по найму Anthropic: доля младших технических специалистов упала с 27% до всего 9%. Это поднимает фундаментальный вопрос для отрасли: если агенты справляются с задачами начального уровня, как следующее поколение опытных инженеров получит практический опыт? Похоже, что кадровый резерв для будущих талантов претерпевает радикальную и потенциально разрушительную трансформацию.
Big Tech учится расти с меньшим количеством людей
Недавние показатели Big Tech служат яркой иллюстрацией этой новой динамики. Meta, например, сообщила о росте на 26% в годовом исчислении в результатах за третий квартал, согласно дискуссии Critical Path. Этот впечатляющий рост произошел, несмотря на сокращение численности персонала примерно на 15% за тот же период, при заявленном росте производительности на 46%.
Эти цифры, хотя и обсуждаются, а не проверяются независимо, указывают на глубокий сдвиг. Программные фирмы теперь могут автоматизировать цифровые рабочие процессы и упрощать структуры управления, потенциально увеличивая объем выпуска без пропорционального увеличения рабочей силы. Это указывает на новую эру, когда сама технология становится основным драйвером эффективности, отделяя рост от традиционного расширения рабочей силы.
Важно признать, что одновременный рост и сокращение штата не доказывают окончательно, что ИИ является единственной причиной этих результатов, и не гарантируют их долгосрочную устойчивость. Отложенные расходы, потеря опыта и операционное напряжение могут проявиться позже, напоминая нам, что организационные изменения сложны. Для получения более глубокой информации о безопасности программного обеспечения, включая данные CVE - Common Vulnerabilities and Exposures, необходим постоянный анализ.
Нравится статья? Получайте такие каждое утро на почту.
одно письмо в день · отписка в два клика · без сторонних трекеров
Узкое место для вакансий начального уровня — и безопасности
Публично технологические лидеры, такие как CEO NVIDIA Дженсен Хуанг, заверяют, что ИИ дополняет человеческий опыт, а не заменяет его. Однако сигналы о найме и производительности, обсуждаемые в видео — например, снижение доли младших технических специалистов в Anthropic с 27% до 9% — создают резкий контраст. Это расхождение вызывает споры: является ли это расчетливым нарративом для снижения общественной тревоги или искренней верой в вспомогательную роль ИИ?
Сокращение количества вакансий начального уровня в сочетании с экспоненциальным ростом производительности агентов обнажает два критических узких места. Во-первых, сужается воронка подготовки следующего поколения квалифицированных кадров, что ставит под угрозу будущие инновации и экспертизу. Во-вторых, безопасная проверка огромного объема кода, созданного ИИ, становится колоссальной задачей, способной перегрузить существующие протоколы безопасности.
Работодатели должны проактивно реагировать на эти изменения с помощью структурированного наставничества и программ обучения с поддержкой ИИ. Команды безопасности, сталкивающиеся с потенциальным цунами нового кода, должны уделить первоочередное внимание:
- Ручной проверке критических путей кода
- Автоматизированным фреймворкам тестирования
- Проактивному выявлению известных эксплуатируемых уязвимостей
Предположение о том, что больше кода автоматически означает более надежный код — опасное заблуждение. Будущее требует взвешенного подхода, ориентированного на безопасность, при интеграции ИИ-агентов в процессы разработки, чтобы гарантировать, что скорость не идет в ущерб целостности.
Часто задаваемые вопросы
Что такое CVE?
CVE — это публично идентифицированная уязвимость кибербезопасности, внесенная в список со стандартизированным идентификатором, чтобы команды безопасности могли отслеживать и обсуждать ее.
Почему ИИ-агенты для написания кода могут повысить риск уязвимостей?
Агенты могут быстро генерировать и изменять код, потенциально увеличивая объем программного обеспечения, требующего проверки, и создавая больше возможностей для появления дефектов.
Что Anthropic сообщила о найме младших технических специалистов?
В видео приводится информация о падении доли младших технических специалистов в Anthropic с 27% до 9% на фоне резкого увеличения объема написания кода среди пользователей агентов.
Доказывает ли более высокая производительность с помощью ИИ, что программное обеспечение становится менее безопасным?
Нет. Приведенные данные о производительности не подтверждают рост уязвимостей; они подчеркивают, почему важность тестирования безопасности и возможности по устранению дефектов возрастают по мере увеличения объема кода.