EmbeddingApis/Leitfaden
Unzensierte Text-API für deine Pipeline
Erstelle einen LLM-basierten Chatbot mit einer OpenAI-kompatiblen API
Ein LLM-basierter Chatbot ist eine Schleife: Benutzernachricht aufnehmen, zum gespeicherten Verlauf hinzufügen, diesen Verlauf an ein Modell senden und die Antwort posten. Dieser Leitfaden baut diese Schleife in Python auf, verpackt sie dann für Discord und behandelt Limits und Kosten.
Aktualisiert
Wichtige Punkte
Das Modell ist zustandslos, also muss dein Bot den Verlauf speichern und erneut senden.
Verwende das Modell uncensored mit dem OpenAI-SDK und der Base URL der Website.
Begrenze die Parallelität auf 8 und stelle den Rest in die Warteschlange, um 429-Fehler zu vermeiden.
Ein typischer Chat-Zug kostet einen Bruchteil eines Cents.

Was der Bot tun muss
Die API erinnert sich nicht zwischen Aufrufen. Jede Anfrage muss die gesamte Konversation enthalten, die das Modell sehen soll. Die Arbeit eines Chatbots besteht also hauptsächlich aus Buchhaltung: Halte eine Liste von Nachrichten pro Benutzer oder Kanal, füge die neue Nachricht hinzu, sende die Liste, speichere die Antwort und wiederhole.
Dieser Dienst ist eine OpenAI-kompatible, textbasierte API. Er führt ein Open-Weight-Modell aus, betrieben von einem unabhängigen Anbieter und darauf abgestimmt, ohne Inhaltsablehnungen für die rechtmäßige Nutzung durch Erwachsene zu antworten. Es gibt keinen Endpunkt für Bilder, Audio oder Embeddings, trotz dessen, was der Domain-Name vermuten lässt, daher geht es hier um Chat-Vervollständigungen. Sexuelle Inhalte, an denen Minderjährige beteiligt sind, sind nicht erlaubt.
Die Kernschleife in Python
Installiere das SDK mit pip install openai, exportiere deinen Schlüssel als API_KEY und starte mit einer Konsolenversion. Wenn du noch keinen Schlüssel hast, bietet die API-Schlüssel-Seite $0,50 an Testguthaben bei der Anmeldung.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"])
SYSTEM = "You are Mira, a friendly assistant for a game community. Keep answers short."
history = [{"role": "system", "content": SYSTEM}]
def reply(user_text: str) -> str:
history.append({"role": "user", "content": user_text})
resp = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.8,
max_tokens=400,
)
text = resp.choices[0].message.content
history.append({"role": "assistant", "content": text})
return text
while True:
print(reply(input("you> ")))
Das ist ein funktionierender Bot. Alles andere in diesem Artikel macht ihn sicher genug, um ihn für viele Menschen gleichzeitig zu betreiben.
Schreibe einen System-Prompt, der durchhält
Die Systemnachricht ist der Ort, an dem der Bot seinen Namen, seinen Ton und seine Grenzen erhält. Einige Gewohnheiten sorgen dafür, dass er über lange Chats hinweg stabil bleibt:
- Definiere die Rolle und das Zielpublikum in ein oder zwei Sätzen.
- Gib Formatregeln vor: Länge, Sprache, ob Listen verwendet werden sollen.
- Liste auf, was der Bot tun soll, wenn er etwas nicht weiß, z. B. eine Frage stellen.
- Platziere dauerhafte Fakten, wie Serverregeln oder Produktdetails, in der Systemnachricht und nicht in den Chat-Zügen.
Für Fiktion, Roleplay und Companion-Bots für Erwachsene füge hier das Setting und den Tonfall der Figur hinzu und sage, dass die Figur in der Rolle bleibt, es sei denn, der Nutzer verlässt diese Rolle. Teste den Prompt mit zehn oder fünfzehn ungewöhnlichen Nachrichten, bevor du den Bot veröffentlichst.
Halte einen Verlauf pro Unterhaltung
Eine globale Liste wie die oben genannte würde alle Benutzer vermischen. Speichere einen separaten Verlauf pro Discord-Kanal, Telegram-Chat-ID oder Websitzung. Ein Wörterbuch funktioniert für einen Prototyp; verwende eine Datenbank, wenn der Bot Neustarts überleben muss.
Der Kontext ist groß: 100.000 Token, die Prompt und Antwort zusammen abdecken. Sende dennoch nicht alles für immer. Lange Verläufe kosten bei jedem Schritt mehr und verlangsamen die Antwort. Eine einfache Richtlinie ist, die Systemnachricht plus die letzten 20 Nachrichten zu behalten:
histories = {}
def trim(msgs, keep=20):
return [msgs[0]] + msgs[1:][-keep:]
def reply_for(chat_id, user_text):
msgs = histories.setdefault(chat_id, [{"role": "system", "content": SYSTEM}])
msgs.append({"role": "user", "content": user_text})
msgs[:] = trim(msgs)
resp = client.chat.completions.create(model="uncensored", messages=msgs)
text = resp.choices[0].message.content
msgs.append({"role": "assistant", "content": text})
return text
Für Bots, die lange Erinnerung benötigen, wie Begleiter, fasse ältere Nachrichten gelegentlich zu einer kurzen Notiz zusammen und behalte die Notiz oben im Verlauf.
Eine Discord-Version
Mit der discord.py-Bibliothek antwortet der Bot, wenn er erwähnt wird. API-Aufrufe sind blockierend, also führe sie in einem Thread aus, um die Discord-Verbindung am Leben zu erhalten.
import asyncio, os
import discord
from openai import OpenAI
client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"])
intents = discord.Intents.default()
intents.message_content = True
bot = discord.Client(intents=intents)
slots = asyncio.Semaphore(8)
histories = {}
SYSTEM = "You are Mira, a friendly assistant. Keep answers under 120 words."
def ask(chat_id, text):
msgs = histories.setdefault(chat_id, [{"role": "system", "content": SYSTEM}])
msgs.append({"role": "user", "content": text})
msgs[:] = [msgs[0]] + msgs[1:][-20:]
r = client.chat.completions.create(model="uncensored", messages=msgs, max_tokens=300)
out = r.choices[0].message.content
msgs.append({"role": "assistant", "content": out})
return out
@bot.event
async def on_message(message):
if message.author.bot or bot.user not in message.mentions:
return
async with slots:
async with message.channel.typing():
text = await asyncio.to_thread(ask, message.channel.id, message.clean_content)
await message.reply(text[:1900])
bot.run(os.environ["DISCORD_TOKEN"])
Die gleiche ask-Funktion lässt sich ohne Änderungen in einen Telegram-Bot (python-telegram-bot) oder einen kleinen Web-Endpunkt einfügen. Nur der Teil, der Nachrichten empfängt und sendet, unterscheidet sich.
Limits, Streaming und Fehler
Ein voller Schlüssel erlaubt 8 parallele Anfragen und 300 Anfragen pro Minute. Ein Trial-Schlüssel erlaubt 2 und 60. Der Semaphor im Discord-Beispiel hält dich unter der Parallelitätsgrenze, indem er zusätzliche Nachrichten warten lässt. Wenn du trotzdem HTTP 429 siehst, lies den Fehlercode: rate_limited bedeutet zu viele pro Minute, concurrency bedeutet zu viele gleichzeitig, und ein Retry-After: 5-Header bedeutet temporäre Überlastung. Warte 5 Sekunden und versuche es erneut.
Für ein Web-Chat-Fenster setze stream auf true und sende Token an den Browser, sobald sie eintreffen, damit Nutzer sehen, wie Text erscheint, anstatt zu warten. Ein Stream belegt einen Parallelitäts-Slot, bis er endet, also schließe ihn, wenn der Besucher die Seite verlässt. Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet, und jede Antwort enthält X-Balance-USD, das du nutzen kannst, um dich zu warnen, bevor das Guthaben zur Neige geht.
Regeln für deine Community
Ein unzensiertes Modell antwortet offener als die meisten gehosteten Assistenten, also entscheide, was dein eigener Bot tun soll. Das Modell ist für die rechtmäßige Nutzung durch Erwachsene gedacht, und sexuelle Inhalte mit Minderjährigen sind eine harte Grenze des Dienstes. Wenn dein Bot auf einem öffentlichen Discord-Server oder in einer Telegram-Gruppe läuft, füge Folgendes selbst hinzu:
- Eine Altersprüfung oder eine Einschränkung auf Kanäle, die für Erwachsene markiert sind, wenn der Bot für erwachsene Fiktion konfiguriert ist.
- Eine Zeile im System-Prompt, die die in diesem Bereich erlaubten Themen und den Ton festlegt.
- Ein kurzer Befehl, wie
/reset, der den gespeicherten Verlauf löscht, damit Benutzer von vorne beginnen können. - Eine grundlegende pro-Benutzer-Ratenbegrenzung, z. B. eine Anfrage alle paar Sekunden, damit eine Person nicht alle 8 Parallelitätsplätze belegt.
Plattformregeln von Discord, Telegram oder deinem Web-Host gelten weiterhin für den Bot. Lies sie, bevor du ihn in einen Server einlädst.
Führe es in der Praxis aus
Ein Prototyp auf deinem Laptop wird zu einem Dienst, wenn er Neustarts übersteht und dir mitteilt, wenn etwas kaputtgeht. Eine vernünftige Checkliste:
- Halte den Schlüssel in einer Umgebungsvariable oder einem Secret-Store, niemals im Repository.
- Speichere Verläufe in SQLite oder Redis, mit der Chat-ID als Schlüssel, und lösche solche, die seit Tagen inaktiv sind.
- Logge
X-Request-Idund den HTTP-Status für jeden Aufruf, damit du seltsame Antworten nachverfolgen kannst. - Lies
X-Balance-USDaus den Antwort-Headern und warne dich selbst, wenn das Guthaben unter ein von dir gewähltes Niveau fällt. - Setze einen Timeout auf dem Client, z. B. 60 Sekunden, und sende eine kurze Entschuldigungsnachricht, wenn er ausgelöst wird.
client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"], timeout=60, max_retries=2)
Stelle zuerst zwei Einstellungen ein, wenn Antworten seltsam wirken. Senke temperature auf 0,5 für faktische Helfer und erhöhe es auf 1,0 für kreative Charaktere. Verwende stop-Sequenzen, wenn das Modell dazu neigt, die nächste Zeile des Benutzers zu schreiben, und ein kleines frequency_penalty, wenn es sich wiederholt.
Was ein Chat kostet
Die Preise betragen $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token. Nimm einen Bot, der 1.000 Züge pro Tag abwickelt, wobei jeder Zug etwa 2.000 Input-Token sendet (System-Prompt plus Verlauf) und etwa 300 Token zurückgibt.
- Input: 1.000 × 2.000 = 2.000.000 Token, was 2 × $0,15 = $0,30 entspricht.
- Ausgabe: 1.000 × 300 = 300.000 Token, was 0,3 × $0,50 = $0,15 entspricht.
- Gesamt: $0,45 pro Tag für 1.000 Züge.
Das Kürzen des Verlaufs ist der Haupthebel, da Input-Token dominieren. Guthaben ist Prepaid, verfällt nie und es gibt kein Abonnement. Lade mit jedem ganzzahligen Betrag von $20 bis $500 auf, per Krypto (USDT auf TRC20, USDC auf Base), mit +5% Bonus ab $50, +10% ab $100 und +15% ab $200. Siehe die Preisseite für Details und die Dokumentation für die vollständige Parameterliste. Prompts werden nicht zum Training verwendet.
Weitere Anleitungen
Fragen und Antworten
Brauche ich eine spezielle Bibliothek, um einen LLM-basierten Chatbot mit dieser API zu bauen?
Nein. Die offiziellen OpenAI-SDKs funktionieren, nachdem du die Base URL und den Schlüssel eingestellt hast. Verwende die Modell-ID uncensored.
Merkt sich die API frühere Nachrichten?
Nein. Du musst den Konversationsverlauf bei jeder Anfrage mitsenden. Speichere ihn pro Chat und kürze ihn, wenn er wächst.
Wie viele Benutzer kann der Bot gleichzeitig bedienen?
Ein vollständiger Schlüssel erlaubt 8 parallele Anfragen und 300 pro Minute. Stelle zusätzliche Nachrichten in die Warteschlange, damit dein Bot innerhalb dieser Limits bleibt.
Kann ich mit Karte bezahlen?
Ja. Aufladungen akzeptieren Krypto (USDT auf TRC20, USDC auf Base), von $20 bis $500.
Kann derselbe Bot auch Embeddings oder Bilder erstellen?
Nein. Der Dienst ist nur Text, ohne Endpunkte für Embeddings, Bilder, Audio oder Video.
Dein Schlüssel ist nur ein Formular entfernt
Erstelle ein Konto, kopiere den Schlüssel, ändere die Base URL. Das ist die gesamte Einrichtung.