Недавно я выпустил агента поддержки доставки, который обрабатывает запросы WISMO, используя многооборотный цикл вызова инструментов. Агент извлекает идентификатор заказа, вызывает API-интерфейс фиктивного хранилища и записывает контекстный ответ. Ниже приведен точный код, который я запускаю в продукте...
Недавно я выпустил агента поддержки доставки, который обрабатывает запросы WISMO, используя многооборотный цикл вызова инструментов. Агент извлекает идентификатор заказа, вызывает API-интерфейс фиктивного хранилища и записывает контекстный ответ. Ниже приведен точный код, который я запускаю в рабочей среде, адаптированный для использования Oxlo.ai, поэтому вы можете воспроизвести его менее чем за десять минут.
Что вам понадобится
Python 3.10 или новее
pip установить openai
Ключ API Oxlo.ai с https://portal.oxlo.ai.
Никаких сторонних сервисов или векторных баз данных не требуется.
Шаг 1. Настройте клиент Oxlo.ai
Я использую OpenAI SDK, потому что Oxlo.ai предоставляет полностью совместимый API. Один клиент обрабатывает чат, инструменты и потоковую передачу, если мне это понадобится позже. Введите свой ключ API с портала Oxlo.ai.
из openai импорт OpenAI
клиент = OpenAI(base_url="https://api.oxlo.ai/v1", api_key="YOUR_OXLO_API_KEY")
Шаг 2. Напишите системную подсказку и схему инструмента.
Системная подсказка — это договор. Он сообщает модели, когда запрашивать недостающие данные, когда вызывать инструмент и как форматировать окончательный ответ. Я говорю это ясно, чтобы уменьшить количество галлюцинаторных аргументов.
SYSTEM_PROMPT = """Вы являетесь агентом службы доставки мебельного магазина.
Ваша задача — ответить «Где мой заказ?» вопросы.
Процесс:
1. Если т