Инструменты ИИ
Инструмент Netflix сокращает расходы на ИИ на 95%
Инженер Netflix только что представил инструмент с открытым исходным кодом, который сокращает использование токенов ИИ-агентами до 95%. Этот локальный прокси-сервер интеллектуально сжимает контекст до того, как он достигнет LLM, что делает мощных агентов значительно дешевле.
Читать статью→