Вышла ExLlamaSharp v1.3.2. Локальный сервер LLM для Windows с графическими процессорами NVIDIA — OpenAI-совместимый /v1, администратор Blazor и вывод EXL3. Исправлено ложное диалоговое окно с ошибкой установки в режиме рабочего стола (трей запускался после проверки /health). Установщика больше нет...
Вышла ExLlamaSharp v1.3.2.
Локальный сервер LLM для Windows с графическими процессорами NVIDIA — OpenAI-совместимый /v1, администратор Blazor и вывод EXL3.
Примечания к выпуску
Резюме
Исправлено ложное диалоговое окно с ошибкой установки в режиме рабочего стола (трей запускался после проверки /health).
Установщик больше не прерывает работу мастера Inno, когда /health все еще прогревается.
Установить
Скачайте ExLlamaSharp-Setup-win-x64.exe, запустите от имени Администратора, выберите режим рабочего стола.
Полные примечания: https://github.com/Kortexio/ExLlamaSharp/releases/tag/v1.3.2.
Репо: https://github.com/Kortexio/ExLlamaSharp