Экономия на контексте: открытый плагин от Spotify сокращает расход токенов в Claude Code на 90%

Инженеры Spotify опубликовали в открытом доступе набор инструментов Portal AI Plugins, призванный оптимизировать затраты на ИИ-разработку. Центральный модуль пакета под названием Shunt автоматически перехватывает рутинные операции Claude Code с объемными файлами и делегирует их быстрым и дешевым моделям вроде Gemini 2.5 Flash. Во внутренних бенчмарках стримингового сервиса такая маршрутизация сократила расход токенов флагманской модели в среднем на 90% при чтении кода.

Автоматическая фильтрация и запись мимо контекста

Инструмент решает классическую проблему дорогих подписок: мощная нейросеть тратит огромную долю доступного контекста на чтение монолитных файлов, поиск нужных сигнатур функций или написание типовых заготовок тестов.

Как пояснили в инженерном блоге Spotify, модуль Shunt работает в двух основных режимах:

• bulk-reader: если Claude Code пытается загрузить в контекст исходный файл длиннее 350 строк, встроенный хук перехватывает запрос и отдает файл вспомогательной модели. Claude получает обратно лишь компактную выжимку с ключевыми методами;
• code-writer: генерация шаблонного кода, структур данных и тестов по образцу поручается легковесному ИИ, который сохраняет результат сразу на диск, не расходуя токены основной модели.

На реальном Java-проекте из 162 тысяч строк схема показала высокую отдачу: анализ файла на 4000 строк потребовал 5737 токенов вместо 33 684 (экономия 82%), а разбор связки исходного кода и тестов на 7400 строк снизил аппетит системы с 75 990 до 4148 токенов (экономия 94%).

Границы применимости и потеря нюансов

В Spotify предостерегают от завышенных ожиданий: показатель в 90% относится к операциям пакетного чтения больших листингов, а не к совокупному счету за использование Claude Code.

Кроме того, авторы категорически не советуют доверять дешевым моделям поиск логических ошибок и проектирование архитектуры. В ходе испытаний вспомогательный алгоритм пропустил скрытый баг потокобезопасности, который Claude Code выявил сразу, как только получил целевой участок кода целиком. Также каждый внешний запрос добавляет сетевую задержку, делая оптимизацию бессмысленной на компактных файлах до пары сотен строк.

Исходный код Portal AI Plugins доступен на GitHub. Библиотека поддерживает интеграцию с Codex и Cursor, но сам маршрутизатор Shunt на текущем этапе оптимизирован именно под экосистему Claude Code.