Anleitung: Eigene KI-Anbindung (LLM) in Just Social

In Just Social könnt ihr eigene KI-Anbieter anbinden, wenn diese eine OpenAI API-kompatible API bereitstellen.

Dafür benötigt ihr:

• eine Basis-URL
• einen API-Key
• mindestens ein kompatibles Modell

Voraussetzung
 

Die API muss folgende OpenAI-kompatible Endpunkte unterstützen:

GET /models
POST /chat/completions

Außerdem muss das Modell Streaming mit stream: true unterstützen.

Was prüft Just Social?
 

Just Social ruft zuerst /models auf, um verfügbare Modelle zu laden.

Danach testen wir jedes Modell mit einer einfachen Chat-Anfrage an /chat/completions.

Nur Modelle, die erfolgreich antworten und Streaming unterstützen, werden in Just Social zur Auswahl angezeigt.

Häufige Fehler
 

Wenn keine Modelle angezeigt werden, prüft bitte:

• Ist die Basis-URL korrekt?
• Ist der API-Key gültig?
• Liefert /models eine gültige JSON-Antwort?
• Unterstützt das Modell /chat/completions?
• Unterstützt das Modell Streaming mit stream: true?

Wichtig: Ein Statuscode 200 OK reicht nicht aus. Wenn /models zwar 200 liefert, aber HTML, Text, eine Login-Seite oder eine Fehlerseite zurückkommt, kann Just Social die Antwort nicht verarbeiten.

Wenn /models einen 404-Fehler liefert, ist die Basis-URL wahrscheinlich falsch oder der Anbieter unterstützt keinen OpenAI-kompatiblen /models-Endpunkt.

Technischer Test
 

Ihr könnt die Kompatibilität vorab selbst testen.

1. Modelle laden
 

curl -X GET "https://<URL>/models" \
-H "Authorization: Bearer <API_KEY>" \
-H "Content-Type: application/json"

2. Modell testen
 

Verwendet eine Modell-ID aus der Antwort von /models:

curl -X POST "https://<URL>/chat/completions" \
-H "Authorization: Bearer <API_KEY>" \
-H "Content-Type: application/json" \
-d '{
  "model": "<MODELL_ID>",
  "messages": [
    { "role": "user", "content": "ping" }
  ],
  "stream": true
}'

Wenn der zweite Aufruf eine Streaming-Antwort zurückgibt, ist das Modell grundsätzlich mit der Just Social Anbindung kompatibel.

Hinweis
 

Just Social stellt die Anbindung bereit. Modelle, Freischaltungen, Kosten und Antworten der KI liegen beim jeweiligen Anbieter.