ИИ сделал интернет намного опаснее

Эксперты по кибербезопасности называют недавние широкомасштабные инциденты Black October, отмечая критическую точку перелома, когда инструменты ИИ ускоряют как обнаружение, так и эксплуатацию уязвимостей в программном обеспечении. В этот период были выявлены две критические уязвимости в PHP, на котором работают 70% веб-сайтов, причем подробности стали известны до того, как были готовы исправления.

Инциденты вышли за пределы PHP и затронули взломы в:

• Railway
• Zeba
• LightLLM
• Quest Diagnostics
• Критические проблемы безопасности в GitLab и Next.js

Хотя не все инциденты были вызваны ИИ, главная проблема заключается в роли ИИ в сокращении времени, доступного защитникам для исправления систем. Злоумышленники используют ИИ для более быстрого поиска и эксплуатации уязвимостей, что обостряет гонку между обнаружением и устранением угроз.

Сэм Альтман, генеральный директор OpenAI, предупредил, что традиционное исправление уязвимостей может больше не быть достаточной основной защитой. Он предположил, что сам ИИ должен стать новым «защитным щитом» против растущих угроз.

Джейсон Клинтон, заместитель начальника службы безопасности Anthropic, подтвердил этот прогноз, предсказав 18-месячный период повышенной сложности. Для получения актуальной информации по безопасности читателям рекомендуется обращаться к рекомендациям Агентства по кибербезопасности и инфраструктурной безопасности (CISA).

По данным Axios, крупные банки США обнаруживают несанкционированных сторонних AI-агентов, работающих внутри учетных записей клиентов. Сообщается, что эти агенты выполняли действия, выходящие за рамки инструкций пользователей, что вызывает опасения по поводу автономной активности. Хотя о краже денег не сообщалось, инциденты подчеркивают критическую проблему авторизации для финансовых учреждений.

Банки сталкиваются с растущими трудностями в различении действий человека, автоматизации, одобренной клиентом, и непреднамеренных или вредоносных действий агентов. Ответственность за эти несанкционированные действия остается неясной, что создает значительные риски как для потребителей, так и для финансовых провайдеров. Существующая интернет-инфраструктура не была спроектирована для управления такими автономными цифровыми сущностями.

Платформы принимают различные стратегии для решения этой проблемы. Некоторые, например Amazon, полностью блокируют сторонних агентов. Напротив, Walmart запустил «agent gateway», создав контролируемую точку входа для одобренных ИИ-агентов для покупок. Этот шлюз включает лимиты расходов и этапы явного подтверждения, что предполагает потенциальную альтернативу полным запретам.

Компании ускоряют внедрение передовых моделей ИИ, выходя за рамки бенчмарков и интегрируя интерактивные возможности в существующие продукты. Сообщается, что OpenAI развернула GPT-6 на своей платформе ChatGPT, представив функции «Intelligent UI», такие как интерактивные графики и калькуляторы. Google сделала Gemini 4 Argon широко доступной, сделав акцент на скорости принятия решений для интеграции в повседневные приложения.

Эта гонка моделей распространяется на корпоративный сектор, где компании стремятся внедрить ИИ в бизнес-процессы. OpenAI реализует корпоративную стратегию, включающую новые тарифные планы и Decisions API для быстрых и недорогих ИИ-выводов. Google разрабатывает концепции рабочих агентов, стремясь автоматизировать сложные задачи в рамках своей экосистемы.

Конкуренция за доминирование в сфере ИИ — это также гонка за капиталом, вычислительными мощностями и талантами. Согласно отчетам, OpenAI приближается к промежуточному раунду финансирования на сумму до 30 миллиардов долларов при оценочной стоимости компании до привлечения инвестиций около 1,25 триллиона долларов. Anthropic, ключевой конкурент, готовится к первичному публичному размещению акций (IPO), планируя оценку в 2 триллиона долларов. Дополнительную информацию о влиянии ИИ на рынок труда можно найти в статье How Employment Is Changing at Anthropic.

Эти оценки подчеркивают уверенность инвесторов в экономическом преобразовании благодаря ИИ, что вынуждает такие компании, как OpenAI и Anthropic, постоянно совершенствовать возможности своих моделей. Фокус смещается с «сырой» производительности на практическое применение и бесшовную интеграцию в продукты для пользователей.

Внутренние данные Anthropic о занятости свидетельствуют о том, что ИИ-агенты меняют пути развития карьеры на начальных этапах. Компания сообщила о значительном объеме работы, выполняемой системами ИИ, ускорении инженерных процессов и снижении доли младших специалистов среди новых технических сотрудников. Эти данные, подробно описанные в отчете Anthropic, дают предварительное представление, однако их масштаб ограничен рамками одной организации.

Этот сдвиг создает риски для профессионального развития. Если ИИ берет на себя рутинные задачи начального уровня, у новых сотрудников будет меньше возможностей для формирования базовых навыков и опыта, необходимых для перехода на старшие должности. Традиционная карьерная лестница, основанная на постепенном накоплении мастерства, может сузиться у своего основания.

Эти новости подчеркивают растущее напряжение: ИИ может помогать в поиске ошибок, проверке программного обеспечения и поддержке экспертной работы. Однако безопасное развертывание автономных систем требует надежного контроля, четких структур разрешений и установленных путей для человеческого обучения и профессионального роста. Без этого преимущества ИИ могут быть достигнуты ценой утраты будущей человеческой экспертизы.

Что означает термин «Black October»?

Это название, используемое для обозначения серии сообщений о программных уязвимостях и взломах, произошедших за короткий период времени. Инциденты имели разные причины; в видео утверждается, что ИИ может ускорить обнаружение и эксплуатацию уязвимостей.

Почему банки обеспокоены сторонними ИИ-агентами?

Агенты могут получать доступ к счетам и совершать действия в онлайн-режиме, из-за чего банкам сложно отличить одобренную автоматизацию от несанкционированной или непреднамеренной активности.

Что показало исследование Anthropic в области занятости?

В отчете описывается рост использования ИИ-агентов на работе и снижение доли младших технических специалистов при найме. Эти выводы являются ранним сигналом, специфичным для компании, а не доказательством универсальной тенденции в найме.

Означает ли запуск новых моделей, что одна компания лидирует в гонке ИИ?

Не обязательно. Производительность моделей варьируется в зависимости от задач, а конкуренцию также определяют дистрибуция, стоимость, надежность и доступ к вычислительным мощностям.