Niteni LLM Service

Large Language Model API untuk ekstraksi informasi, klasifikasi, ringkasan, dan analisis teks.

Model Aktif

Parameter Value
Model Qwen2.5-14B-Instruct
Engine llama.cpp
API Format OpenAI Compatible
Backend Server xx.x.x.96

Endpoints

Endpoint Description
/v1/chat/completions Chat Completion API
/v1/models List Models (internal)

Authentication

Endpoint API dilindungi menggunakan:

Status

Service berjalan normal.