Использование LLM для классификации и кластеризации текста в бизнес-приложениях

Мы создаем конвейер сортировки заявок в службу поддержки, который классифицирует входящие сообщения по категориям и срочности, а затем группирует их по основной теме, чтобы менеджеры службы поддержки могли выявлять системные проблемы. Запуск этого на Oxlo.ai обеспечивает предсказуемость затрат, поскольку вы платите за запрос, а не за токен, что имеет значение, когда билеты становятся длинными. Все это представляет собой один скрипт Python, использующий OpenAI SDK. Что вам понадобится Python 3.10 или новее OpenAI SDK: pip install openai Панды для красивой печати: pip install pandas Ключ API Oxlo.ai с https://portal.oxlo.ai. Шаг 1. Настройте клиент Oxlo.ai и загрузите образцы билетов. Я начал с создания небольшого набора синтетических заявок в службу поддержки, чтобы сценарий можно было запускать без внешних зависимостей. Я также инициализирую клиент Oxlo.ai, используя стандартный базовый URL-адрес, совместимый с OpenAI. импортировать JSON импортировать ОС из openai импорт OpenAI клиент = OpenAI( base_url="https://api.oxlo.ai/v1", api_key=os.getenv("OXLO_API_KEY", "YOUR_OXLO_API_KEY"), ) БИЛЕТЫ = [ {"id": 1, "text": "В этом месяце с меня дважды сняли деньги за подписку. Пожалуйста, немедленно верните двойную сумму."}, {"id": 2, "text": "Панель управления зависает каждый раз, когда я нажимаю кнопку "Отчеты".