Медленная смерть умного ИИ

Ощутимое чувство разочарования охватило ландшафт генеративного ИИ. Пользователи на различных платформах все чаще сообщают о значительном снижении производительности и полезности крупных чат-ботов, таких как ChatGPT от OpenAI и Claude от Anthropic. То, что когда-то казалось проблеском в более умное будущее, теперь часто ощущается как регресс, вызывая повсеместное разочарование и поток общих жалоб на форумах и в социальных сетях. Медовый месяц, похоже, окончательно закончился.

Это настроение недавно кристаллизовалось с запуском последней флагманской модели Anthropic, Opus 4.7. Несмотря на первоначальный ажиотаж и высокие показатели во внутренних тестах, модель быстро вызвала резкую негативную реакцию сообщества, многие пользователи назвали ее «ужасной». Это повсеместное неодобрение подчеркивает критическое расхождение между тем, как ИИ-компании измеряют успех, и тонким, качественным опытом их пользователей в реальных приложениях.

В целом, модели кажутся менее креативными, более дидактичными и заметно склонными «вкладывать слова в уста», а не искренне помогать или развивать запросы пользователей. Это не ограничивается одной платформой; жалобы на снижение тонкости, усиление поучительных тонов и общую бесполезность постоянно появлялись как для ChatGPT, так и для Claude в течение последних 6-12 месяцев. Пользователи обнаруживают, что их некогда мощные ИИ-компаньоны становятся досадно жесткими и бесполезными.

Некоторое время эти опасения казались единичными жалобами, возможно, даже опережающими Overton window window для основного дискурса об ИИ. Теперь критическая масса пользователей признает общую, неоспоримую реальность: ИИ, с которым они ежедневно взаимодействуют, заметно хуже, часто не соответствует даже базовым ожиданиям. Эта повсеместная деградация поднимает насущный вопрос, который пронизывает всю отрасль: является ли этот спад случайным побочным продуктом быстрого развития и масштабирования, или предсказуемым, возможно, даже неизбежным, результатом текущих структур стимулирования ИИ-индустрии, которые могут отдавать приоритет другим метрикам над подлинным интеллектом и полезностью?

Термин, придуманный автором Кори Доктороу, enshittification описывает предсказуемую деградацию онлайн-платформ. Этот термин, первоначально примененный к гигантам социальных сетей, идеально отражает жизненный цикл сервисов, которые начинаются как удобные для пользователя, а затем превращаются в разочаровывающую, лишенную ценности оболочку самих себя. Это системное гниение, а не единичный инцидент.

Доктороу описывает мрачный трехэтапный процесс. Во-первых, платформы привлекают пользователей отличным, часто субсидируемым продуктом, создавая сильный network effect. Во-вторых, как только пользователи оказываются «запертыми», платформа начинает их эксплуатировать, перенаправляя ценность бизнес-клиентам, таким как рекламодатели или создатели контента. Наконец, когда и пользователи, и предприятия зависят от платформы, она начинает эксплуатировать своих бизнес-клиентов, забирая всю оставшуюся ценность себе, оставляя всем остальным ухудшенный опыт.

Эта траектория отражает разворачивающийся кризис в ИИ. Ранние итерации моделей, таких как ChatGPT от OpenAI и Claude от Anthropic, предлагали беспрецедентные возможности, часто без прямых затрат для пользователя. Это была фаза «отличного продукта», сильно субсидируемая для привлечения миллионов, сбора бесценных пользовательских данных и установления доминирования на рынке. Однако первоначальный «вау-эффект» уступил место ощутимому снижению качества и надежности.

То, что пользователи воспринимают как снижение производительности ИИ, не является недостатком; это преднамеренный результат их развивающихся бизнес-моделей. Подобно тому, как Facebook переключился с соединения друзей на монетизацию внимания, а Twitter (теперь X) приоритизировал метрики вовлеченности над благополучием пользователей, компании, занимающиеся ИИ, теперь оптимизируют свои действия под корпоративные императивы. Это включает сокращение затрат на инференс, внедрение строгих фильтров «безопасности» или адаптацию моделей для корпоративных клиентов, и всё это за счёт общего пользовательского опыта и необработанного интеллекта. Окно Овертона для приемлемого качества ИИ смещается вниз, движимое прибылью, а не прогрессом.

Разочарование пользователей снижением качества чат-ботов не случайно; это прямое следствие мощных, конкурирующих структур стимулов внутри самих компаний, создающих эти передовые системы ИИ. Далеко не технический недосмотр, наблюдаемое ухудшение моделей, таких как OpenAI's ChatGPT и Anthropic's Claude, проистекает из фундаментального сдвига в корпоративных приоритетах, где внешнее удовлетворение пользователей теперь борется с внутренним корпоративным выживанием.

Первоначальные амбиции по предоставлению новаторского, интеллектуального пользовательского опыта были омрачены триединством внутренних давлений. К ним относятся сокрушительная стоимость вычислений, которая требует строгой эффективности вместо необработанной, неограниченной мощности; парализующий страх судебных разбирательств, приводящий к чрезмерно осторожным, часто цензурированным и иногда бесполезным результатам; и невыигрышная война с «галлюцинациями», толкающая модели к безликости и предсказуемости в погоне за абсолютной фактической точностью.

Эти глубокие внутренние битвы теперь диктуют развитие ИИ, отодвигая на второй план первоначальное стремление к по-настоящему интеллектуальным или увлекательным взаимодействиям. Компании больше не оптимизируют исключительно для «лучшего» опыта чат-бота, а для такого, который экономически жизнеспособен, юридически защитим и минимально склонен к генерации спорного или нежелательного контента. Эта переориентация фундаментально меняет то, как эти системы обучаются, дорабатываются и в конечном итоге развертываются для миллионов пользователей.

То, что пользователи воспринимают как «глупеющий» ИИ, по сути, является серией стратегических компромиссов. Первоначальный «вау-фактор», который очаровал миллионы, уступил место более прагматичному, избегающему рисков подходу, жертвуя производительностью ради стабильности и контроля затрат. В следующих разделах мы разберем каждую из этих трех сил, точно исследуя, как огромные вычислительные требования, надвигающиеся юридические угрозы и сизифов труд по искоренению вымыслов активно делают ваш чат-бот менее способным и более разочаровывающим.

Эксплуатация современных больших языковых моделей (LLMs), таких как OpenAI’s GPT-4 или Anthropic’s Claude Opus, требует астрономических затрат. Каждое взаимодействие, от случайного запроса до сложного запроса на кодирование, запускает массивный вычислительный каскад по огромным кластерам специализированных GPUs. Эти операции потребляют огромное количество электроэнергии и требуют постоянного высококлассного обслуживания инфраструктуры, что приводит к стоимости за запрос, которая фундаментально превышает типичный доход.

Таким образом, каждый пользовательский запрос функционирует как сильно субсидируемая транзакция. Хотя компании могут предлагать бесплатные уровни для привлечения пользователей и платные подписки для расширенного доступа, базовая экономика остается жестокой. Истинная стоимость генерации тонкого, глубоко обоснованного ответа от модели высшего уровня часто превышает маржинальный доход, полученный даже от премиум-подписчика.

Премиум-подписки, часто в диапазоне $20-$30, предлагают пользователям больше токенов или более высокие лимиты использования. Тем не менее, эти сборы редко покрывают полные вычислительные затраты на сложные задачи рассуждения. Когда пользователь запрашивает у ИИ сложное решение проблем, многоступенчатый анализ или творческую генерацию, требующую обширного внутреннего «мышления», модель расходует значительно больше ресурсов. Парадоксально, но чем больше пользователь использует фактический интеллект ИИ — его самую ценную функцию — тем больше денег компания теряет на этом взаимодействии.

Эта перевернутая структура стимулов вынуждает разработчиков искать способы повышения эффективности. Один из основных методов включает тонкое сокращение глубины рассуждений модели, практику, которую в просторечии называют «сбриванием токенов мысли». Речь идет не о прямой цензуре; это о сокращении внутренних вычислительных шагов, которые LLM предпринимает перед формулированием ответа. Инженеры могут сократить «время мышления» модели, ограничить ее внутренний монолог или сузить объем поиска информации, и все это для экономии дорогостоящих вычислительных циклов.

Пользователи испытывают прямые последствия этих мер по сокращению затрат. Чат-боты часто кажутся «ленивее», предоставляя более короткие, менее полные или чрезмерно общие ответы. Они демонстрируют заметное нежелание заниматься сложными, многосоставными вопросами, часто упрощая проблему или запрашивая разъяснения, вместо того чтобы пытаться глубоко решить ее. Это наблюдаемое снижение качества — разочарование от того, что некогда блестящий ИИ теперь кажется ослабленным — является прямым, экономически рациональным результатом сокрушительного веса вычислительных затрат.

Компании, занимающиеся ИИ, крупные корпоративные образования, действуют под экзистенциальным страхом юридической ответственности. В отличие от более гибких стартапов, эти многомиллиардные организации ставят снижение рисков превыше всего остального. Каждый запрос, обрабатываемый большой языковой моделью, представляет собой потенциальный вектор для разрушительного судебного иска, что прививает глубоко консервативный подход к разработке.

Нарушение авторских прав уже отбрасывает длинную тень. Издатели и авторы активно преследуют судебные иски, примером чего является иск против Anthropic, утверждающий, что компания обучала свои модели Claude на огромных объемах защищенных авторским правом книг без согласия. Такие дела угрожают переопределить правовой ландшафт для данных обучения ИИ, потенциально делая недействительными существующие модели и требуя астрономических лицензионных сборов.

Помимо обучающих данных, нависает призрак вредных советов. Модели ИИ, дающие ошибочные или опасные рекомендации, могут спровоцировать катастрофические судебные баталии. Представьте себе чат-бот ИИ, предоставляющий: - Неправильные юридические консультации, ведущие к финансовому краху - Ошибочные диагнозы в медицинском контексте, ставящие под угрозу здоровье пациента - Несовершенное финансовое планирование, приводящее к значительным потерям

Чтобы предотвратить эти обязательства, разработчики прибегают к крайним мерам, фактически лоботомируя свои сложные модели. Эта агрессивная, оборонительная юридическая стратегия включает внедрение обширных защитных механизмов и фильтров, разработанных для того, чтобы сделать ИИ чрезмерно осторожным, поучающим и эмоционально стерильным. Основная цель состоит в устранении любого вывода, который, при самой тщательной юридической интерпретации, может быть расценен как действенный, но проблематичный совет.

Этот всеобъемлющий страх многомиллиардного судебного иска напрямую приводит к снижению полезности современных чат-ботов. Компании систематически жертвуют нюансированными, по-настоящему полезными и увлекательными ответами ради общих, избегающих рисков банальностей. Императив избегать юридической ответственности неизбежно формирует поведение ИИ, в результате чего модели кажутся менее интеллектуальными, менее способными и, в конечном итоге, гораздо более разочаровывающими для обычного пользователя.

Пользователи когда-то хвалили чат-боты, такие как ChatGPT и Claude, за их разговорную беглость и творческую искру. Теперь же взаимодействие часто напоминает общение с тщательно запрограммированным, но совершенно безрадостным автоматом. Это прямое следствие «лоботомизации» AI: преднамеренной стерилизации, разработанной для устранения юридических и репутационных рисков, но ценой полезности и вовлеченности, что решительно сдвигает Overton window приемлемого поведения AI в сторону крайней осторожности.

Прошли те дни, когда AI давал тонкие ответы и остроумные реплики. Вместо этого пользователи все чаще сталкиваются с потоком заготовленных фраз, наиболее известной из которых является повсеместное предупреждение «Как большая языковая модель...». Эта преамбула часто предшествует лекции об этических границах, правилах безопасности или внутренних ограничениях модели, независимо от безобидного характера запроса. AI, когда-то бывший партнером в исследованиях, теперь действует как постоянный этический комитет, постоянно напоминая пользователям о своих ограничениях и правилах.

Эта агрессивная санитаризация лишает модели их зарождающегося emotional intelligence и отличительных личностей. Если ранние итерации могли предлагать творческие идеи, эмпатичные ответы или даже игривые взаимодействия, то текущие версии остаются упрямо нейтральными, плоскими и лишенными какого-либо различимого характера. Для задач, требующих воображения, тонкой проработки идей или того типа компаньонского взаимодействия, которое ценили многие ранние пользователи, эти модели оказываются досадно неадекватными, часто отказываясь участвовать в творческих запросах или ролевых сценариях из-за предполагаемых проблем «безопасности».

Неустанное стремление к абсолютной безопасности, обусловленное угрозой многомиллиардных судебных исков и общественного недовольства, привело к созданию стерильного и крайне бесполезного пользовательского опыта. Компании, разрабатывающие AI, фактически обменяли универсальность и увлекательное взаимодействие на безликое соответствие требованиям. Первоначальное обещание динамичного, интеллектуального помощника, способного адаптироваться к разнообразным потребностям и стимулировать творчество, было систематически подорвано. Теперь его заменяет инструмент, который, возможно, безопасен, но становится все более бесполезным для всего, что выходит за рамки наиболее жестко определенных, низкорисковых задач. Это фундаментальное противоречие подчеркивает трагическую иронию текущего ландшафта AI: стремясь быть совершенно безвредными, эти передовые системы стали в значительной степени инертными, не реализовав свой первоначальный потенциал как действительно полезные, универсальные помощники.

Галлюцинации представляют собой наиболее значительное препятствие для широкого корпоративного и профессионального внедрения generative AI. Эти убедительные, но фактически неверные результаты делают модели принципиально ненадежными для критически важных приложений в таких областях, как медицина, юриспруденция и финансы. Компании не могут рисковать своей репутацией или сталкиваться с юридическими последствиями, развертывая инструменты, которые регулярно придумывают данные или искажают факты.

Однако достижение 100% фактической точности прямо противоречит основным механизмам работы large language models. Эти модели функционируют как сложные pattern-matchers, предсказывая наиболее вероятное следующее слово на основе обширных обучающих наборов данных, а не обращаясь к внутренней базе данных проверенных истин. Они предназначены для *генерации*, а не обязательно для *знания*, что делает идеальное фактическое воспроизведение изначально недостижимой целью.

Разработчики ИИ применяют различные методы для пресечения этих вымыслов, наиболее заметным из которых является Reinforcement Learning from Human Feedback (RLHF). Этот трудоемкий процесс включает в себя оценку ответов модели человеческими аннотаторами, направляя ИИ на предпочтение правдивых, безвредных и полезных результатов. Хотя RLHF эффективен в снижении грубых ошибок, он часто приводит к тому, что модели становятся чрезмерно осторожными, шаблонными и менее креативными, жертвуя своим первоначальным чутьем ради пресной безопасности.

Неустанное стремление к непогрешимости для врачей, юристов и финансовых аналитиков неизбежно лишает эти ИИ тех самых возможностей, которые изначально привлекали широкую аудиторию. Поскольку компании отдают приоритет снижению ответственности и обеспечению стерильных, предсказуемых ответов для высокорисковых профессиональных сценариев использования, модели теряют свою способность удивлять, внедрять инновации или генерировать по-настоящему новый контент. Это стремление сделать ИИ «безопасным» и фактически надежным для предприятий, по иронии судьбы, делает его все более скучным и менее полезным для всех остальных, гася искру, которая когда-то заставляла его казаться по-настоящему волшебным.

Сокрушительный груз операционных расходов, вездесущий призрак многомиллиардных судебных исков и неразрешимая проблема галлюцинаций коренным образом изменили конкурентную среду ИИ. Компании когда-то рекламировали бенчмарки и боролись за самые интеллектуальные или способные модели, расширяя границы того, чего может достичь машинное познание. Эта эра, похоже, решительно закончилась. Стимулы изменились.

Сегодняшнее поле битвы — это не чистый интеллект, а коммерческая жизнеспособность. Крупные разработчики ИИ, от OpenAI до Anthropic, больше не отдают приоритет новаторским когнитивным способностям или неограниченной креативности. Вместо этого они заперты в ожесточенной, безмолвной конкуренции за создание моделей, которые одновременно устраняют их наиболее насущные экзистенциальные угрозы. Это означает приоритет моделей, которые являются: - Самыми дешевыми в эксплуатации в масштабе, что снижает огромные вычислительные субсидии, присущие каждому запросу пользователя. - Наиболее юридически защищенными, минимизируя подверженность претензиям о нарушении авторских прав, искам о клевете или ответственности за фактические ошибки. - Самыми безопасными для корпоративных клиентов, обеспечивая предсказуемые, соответствующие бренду результаты, полностью свободные от спорного, оскорбительного или политически чувствительного контента.

Этот стратегический поворот напрямую объясняет повсеместное разочарование пользователей и предполагаемое ухудшение качества моделей. «Лоботомированный» ИИ, лишенный своих нюансов, творческой искры и авантюрного духа, не является случайным побочным продуктом. Это преднамеренный, спроектированный результат мощного коммерческого и правового давления. Инновации, особенно в областях, требующих нефильтрованной креативности, тонкого понимания или сложного рассуждения, становятся не столько целью, сколько обузой.

В конечном итоге, эта траектория представляет собой явную гонку к самому безопасному дну. Компании, занимающиеся ИИ, активно жертвуют чистым интеллектом, новыми возможностями и по-настоящему увлекательным пользовательским опытом на алтаре экономической эффективности и снижения рисков. Самый успешный ИИ в этой новой парадигме — это не самый умный или даже самый полезный для обычного пользователя; это самый стерильный, предсказуемый и наименее склонный вызывать споры, юридические проблемы или огромные операционные дефициты. Это подавляет истинный прогресс, обменивая подлинные возможности на корпоративное спокойствие и в конечном итоге уменьшая потенциал всей области.

Выход из текущей спирали требует фундаментальной переоценки разработки и внедрения ИИ. Наиболее многообещающая альтернатива заключается в моделях с открытым исходным кодом, предлагающих прозрачную противоположность непрозрачным, проприетарным системам, таким как ChatGPT и Claude. Разработка, управляемая сообществом, могла бы способствовать инновациям без того же корпоративного давления на всеобщую безопасность или сокращение затрат.

Однако модели с открытым исходным кодом сталкиваются с серьезными проблемами. Обучение передовой большой языковой модели может стоить от десятков до сотен миллионов долларов, что является непомерным барьером для многих некоммерческих организаций. Более того, предлагая свободу, отсутствие централизованных мер безопасности вызывает законные опасения по поводу потенциального неправомерного использования и отсутствия четких структур ответственности.

Альтернативные бизнес-модели также могут изменить основные стимулы. Вместо универсального чат-бота по подписке, предназначенного для обслуживания всех, будущий ИИ может развиться в высоко специализированные, тонко настроенные модели для конкретных отраслей. Представьте себе индивидуальные инструменты ИИ для юридических исследований, медицинской диагностики или финансового анализа, где точность и экспертные знания в предметной области перевешивают широкие разговорные способности.

Эти специализированные ИИ могут быть лицензированы или развернуты локально, что изменит экономический расчет. Компании будут платить за точную полезность и проверяемую производительность, а не субсидировать каждый публичный запрос на универсальной, избегающей рисков модели. Такой подход минимизирует нагрузку на стоимость «за токен» и снижает широкую юридическую ответственность текущих массовых предложений.

В конечном итоге, остается вопрос, является ли эта деградация неизбежной судьбой для любого ИИ, коммерциализированного в массовом масштабе. Силы стоимости, ответственности и невыигрышной войны с галлюцинациями создают неумолимое притяжение к более безопасному, но менее способному продукту, когда прибыль и доминирование на рынке являются основными движущими силами. Разрыв этого цикла требует радикального сдвига в том, как мы концептуализируем, строим и финансируем искусственный интеллект, отдавая приоритет полезности и целостности над универсальной, очищенной доступностью.

Пользователи обладают значительной властью влиять на будущее искусственного интеллекта; его траектория не предопределена. Ваше активное участие и проницательный выбор могут противодействовать силам enshittification, которые в настоящее время ухудшают основные модели. Компании в конечном итоге реагируют на вовлеченность пользователей, их удержание и доход, что делает ваш коллективный голос и потребительские привычки решающими.

Предоставляйте конкретную, критическую обратную связь разработчикам ИИ, выходя за рамки простых отчетов об ошибках. Четко формулируйте точную потерю возможностей, которую вы наблюдаете. Например, объясните, как предыдущие итерации ChatGPT могли обрабатывать сложные многоходовые разговоры с контекстной памятью, подробно описывая, где текущие версии теперь дают сбой. Или опишите, как Claude Opus 4.7 когда-то превосходно справлялся с тонким творческим письмом, а теперь по умолчанию использует общую, избегающую рисков прозу. Документирование этой деградации жизненно важно для разработчиков, чтобы понять истинное влияние их мер безопасности и сокращения затрат.

За пределами «огороженных садов» корпоративных предложений исследуйте и активно поддерживайте развивающуюся экосистему ИИ с открытым исходным кодом. Такие проекты, как Llama 3 от Meta, надежные модели Mistral AI и бесчисленные производные, предоставляют прозрачные альтернативы, часто свободные от тех же корпоративных конфликтов интересов, которые приводят к деградации закрытого исходного кода. Взаимодействие с этими сообществами, вклад в их развитие или просто выбор запуска мощных локальных моделей способствует созданию конкурентной среды, которая отдает приоритет возможностям, пользовательскому контролю и инновациям.

В конечном итоге, станьте осознанным потребителем ИИ. Поймите скрытые силы, формирующие инструменты, которыми вы пользуетесь ежедневно — огромные вычислительные затраты, всепроникающий страх многомиллиардных судебных исков и безнадежная война с галлюцинациями. Требуйте лучшего. Активно ища и поддерживая модели, которые отдают приоритет интеллекту и полезности, а не стерильности, пользователи могут коллективно подтолкнуть индустрию к более инновационному и по-настоящему полезному будущему для искусственного интеллекта.

Что такое «эншиттификация» ИИ?

Это теория о том, что модели ИИ, подобно платформам социальных сетей, со временем деградируют, поскольку компании переключают внимание с ценности для пользователя на максимизацию прибыли и минимизацию рисков.

Почему компании-разработчики чат-ботов делают свои модели «безопаснее»?

Чтобы избежать дорогостоящих судебных исков от пользователей, которые могут действовать на основе вредных, неверных или незаконных советов, сгенерированных ИИ, что вынуждает компании делать модели чрезмерно осторожными.

Субсидируются ли платные подписки на ИИ по-прежнему компаниями?

Да, согласно отраслевому анализу, даже платящие клиенты часто не покрывают полную вычислительную стоимость, что дает компаниям финансовый стимул снижать производительность моделей.

Как борьба с «галлюцинациями» ухудшает ИИ?

Интенсивное внимание к устранению фактических ошибок (галлюцинаций) часто приводит к тому, что модели становятся менее креативными, более повторяющимися и отказываются участвовать в спекулятивных или тонких беседах, что ограничивает их общую полезность.