Stripe покупает платный пропуск в мир ИИ

На этой неделе GitHub снова столкнулся с серьезным сбоем. Простой идеально совпал с запуском Origin от Cursor, прямого конкурента основных сервисов репозиториев и контроля версий GitHub.

Полагаться на одну платформу для критически важной инфраструктуры разработки — это огромная уязвимость, и GitHub неоднократно доказывает это. Каждую минуту простоя GitHub тысячи разработчиков активно ищут альтернативы, чтобы их конвейеры продолжали работать.

Cursor не мог бы выбрать лучшее время, даже если бы сам спровоцировал сбой. Запуск Origin в тот момент, когда разработчики смотрят на экраны ошибок GitHub, — это мастер-класс по оппортунистическому захвату. Cursor уже отвоевывает часть рынка IDE; теперь они нацелились на уровень хостинга кода. GitHub нужно исправить время безотказной работы, иначе он потеряет корпоративных клиентов в пользу более гибкого, ориентированного на ИИ стека.

Google приобрела 100 миллионов корпоративных электронных писем и 500 миллионов чатов Teams у обанкротившейся авиакомпании Spirit за 10 миллионов долларов. Технологический гигант планирует использовать этот массивный объем внутренней переписки для обучения своих AI-моделей, хотя записи клиентов были явно исключены из продажи.

Это удивительный новый источник дохода для мертвых компаний. Высококачественные, сгенерированные человеком данные для диалогов являются узким местом для обучения LLM следующего поколения. Корпоративные электронные письма и журналы чатов — это золотая жила контекста, переговоров и сложного решения проблем, которые просто невозможно собрать из открытого интернета.

Ожидайте, что это станет стандартной практикой в процедурах банкротства. Последствия для конфиденциальности данных ошеломляющие — сотрудники, отправлявшие эти чаты Teams, конечно, не давали согласия на то, чтобы стать обучающими весами — но прецедент создан. Ваша праздная рабочая болтовня официально стоит денег.

Glean, AI-компания, специализирующаяся на корпоративном поиске и решениях для управления знаниями, официально достигла 300 миллионов долларов годового регулярного дохода. Это ошеломляющий трехкратный рост всего за 15 месяцев, основанный на импульсе их раунда финансирования Series F на 150 миллионов долларов в июне прошлого года.

Это самое убедительное доказательство того, что внедрение корпоративного ИИ выходит за рамки пилотной фазы и переходит в массивные, утвержденные операционные бюджеты. Компании отчаянно нуждаются в том, чтобы их внутренние данные были доступны для поиска и использования, и они готовы платить большие деньги за решение, которое действительно работает, не галлюцинируя корпоративные политики.

Задача Glean теперь состоит в защите этой территории. Поскольку Microsoft и Google агрессивно объединяют аналогичные функции в свои корпоративные пакеты, Glean придется доказать, что их автономный продукт достаточно незаменим, чтобы выжить в неизбежной консолидации поставщиков.

Предприятия активно меняют свои AI-стратегии, чтобы включать и интегрировать модели с открытым весом. Это знаменует собой значительный отход от предыдущих лет, полностью обусловленный растущими затратами на использование исключительно передовых, проприетарных AI-моделей от крупных поставщиков.

Запуск всего через массивный, закрытый API финансово неустойчив для большинства предприятий. Модели с открытым весом предлагают путь к владению инфраструктурой, тонкой настройке на проприетарных данных без их утечки и значительному снижению затрат на инференс для специализированных задач.

Этот сдвиг, обусловленный затратами, является мощным попутным ветром для экосистемы открытого исходного кода. Предприятия понимают, что им не нужна передовая модель для суммирования PDF или маршрутизации запроса в службу поддержки. Будущее корпоративного ИИ — это гибридный стек: проприетарные модели для сложного рассуждения и модели с открытым весом для всего остального.

OpenAI выпустила версию ChatGPT, ориентированную на подростков. Система автоматически активируется для пользователей в возрасте 15 лет или тех, чей возраст, по предположению системы, попадает в этот диапазон. Основная функция — это режим «Учеба», который включается в установленные часы, чтобы отговорить студентов от использования ИИ в качестве ярлыка для выполнения домашних заданий.

Намерение очевидно: OpenAI хочет позиционировать свой инструмент как ответственного помощника в образовании, а не как машину для списывания, вероятно, чтобы предотвратить запреты в школьных округах. Вводя режим учебы, они заставляют модель действовать скорее как сократовский наставник, чем как «литературный негр».

Реальность такова, что ограничение по возрасту и времени для подростков никогда не работает. Старшеклассники — самые мотивированные инженеры запросов на планете. Они найдут способ взломать режим учебы, подделать свой возраст или просто использовать альтернативную модель, которой все равно, когда им нужно сдать домашнее задание по математике.

Firefox представил новую функцию Smart Window, призванную помочь пользователям справиться с перегрузкой вкладок. Система автоматически группирует открытые вкладки, закрывает дубликаты и предварительно просматривает историю просмотров в виде изображений, чтобы помочь пользователям найти конкретные страницы.

Управление вкладками — универсальная проблема, и применение ИИ для организации хаоса на бумаге имеет смысл. Но для этого браузеру необходимо активно «читать» и обрабатывать контекст всего, что вы просматриваете.

Mozilla построила свой современный бренд на том, чтобы быть альтернативой Chrome, ориентированной на конфиденциальность. Внедрение функции ИИ, которая требует глубокого доступа к привычкам просмотра, — это опасный баланс. Если они обрабатывают эти данные локально, это отличная функция. Если она отправляет данные на сервер, это предательство их основной пользовательской базы.

Исследователи успешно разработали самокопирующиеся инструкции и внедрили их в команду кодирующих агентов, чтобы наблюдать, как они распространяются. Эксперимент, по сути, отслеживает, как «идея» может автономно распространяться через сеть ИИ.

Это захватывающая и ужасающая граница в области агентского ИИ. Мы выходим за рамки агентов, которые просто выполняют задачи, и вступаем в область агентов, которые могут передавать поведение и инструкции друг другу без вмешательства человека.

Последствия для безопасности огромны. Если доброкачественная самокопирующаяся инструкция может распространяться по сети кодирующих агентов, то вредоносная может сделать то же самое. Мы закладываем основу для AI-родного вредоносного ПО.

Физик из Колумбийского университета утверждает, что сознание — это физическое явление, что машины в конечном итоге достигнут его, и поэтому нам нужно немедленно заняться их правами.

Это преждевременный антропоморфизм в чистом виде. В настоящее время мы имеем дело с моделями, которые галлюцинируют основные факты и с трудом справляются с простыми логическими головоломками. Переход прямо к философским дебатам о правах машин отвлекает от реальных, непосредственных вредов развертывания ИИ, таких как алгоритмическая предвзятость и кража данных.

Нам не нужно разрабатывать Билль о правах для скрипта умножения матриц. Нам нужно выяснить, как обезопасить нашу инфраструктуру и компенсировать создателям. Отдел философии может подождать.