Книги затрат AI API меняются быстрее, чем ожидает большинство команд. Рабочая тетрадь начинается как полезный мост между проектированием, финансами и закупками. Он имеет столбец модели, предположения о входных токенах, предположения о выходных токенах, предположения о попадании в кеш...
Книги затрат AI API меняются быстрее, чем ожидает большинство команд.
Рабочая тетрадь начинается как полезный мост между проектированием, финансами и закупками. Он имеет столбец модели, предположения о входных токенах, предположения о выходных токенах, предположения о попадании в кэш, владельца маршрута и прогнозируемые ежемесячные затраты. Затем меняется одна восходящая страница. Шлюз нормализует новый маршрут. Уточнен мультипликатор биллинговой группы. Псевдоним старой модели остается на одной вкладке листа, поскольку в последней версии эту вкладку никто не трогал.
Во время компиляции ничего не ломается.
Неработающая часть появляется позже, обычно при проверке бюджета или проверке инцидента, когда кто-то спрашивает, почему поставляемый пример SDK, оценка рабочей книги и журнал выполнения не совпадают.
Для команд уровня 1 и уровня 2 ответ не может быть таким: «Эта таблица, вероятно, была достаточно близка». В ответ должна быть квитанция:
какой источник цен был проверен;
когда это было проверено;
какие именно строки модели вошли в книгу;
показывает ли книга базовые ставки или эффективные ставки по счету;
кто одобрил значимое изменение;
и какой выпуск использовал этот утвержденный снимок.
В этой статье показан компактный шаблон отслеживания дрейфа для книг ценообразования AI API. В примерах используется AIW