Счёт снижают четыре рычага: меньше токенов на входе, кэш повторяющегося начала промпта, модель по размеру задачи и потолок расхода на ключе. В каждой статье разбирается один рычаг: как его применить и как проверить эффект по журналу запросов.
Начинать стоит с замера. Пока не видно, на что уходят токены, любая правка делается вслепую. Журнал Relay показывает токены входа, кэша и выхода по каждому запросу, и этого хватает, чтобы найти один-два самых тяжёлых сценария. Отдельные ключи по сервисам дают такой срез сразу, без ручного разбора логов. Остальное подождёт.