Betrieben in Deutschland
Das selbstverwaltete LLM-Gateway
für Agenturen & Agent-Systeme
Ein pk_-Key für alle angebundenen Anbieter, ein hartes Budget-Limit vor jedem Call und eine verkettete Audit-Chain — OpenAI-kompatibel, Anthropic-nativ, betrieben in Deutschland. Im selben Konto: das Brain-Repository, aus dem deine Agenten ihren Kontext lesen, und die PromptGallery als Starthilfe.
-
01 · AI-Gateway
Ein Schlüssel, ein Budget, ein Protokoll
Jeder Modell-Call läuft über deinen
Gateway ansehen →pk_-Key: Budget vor dem Aufruf geprüft, Kosten je Projekt und Mandant, Failover mit Gutschrift. -
02 · Brain-Repository
Der Kontext deiner Agenten
Wissen, Regeln und Prompts an einem Ort, durchsuchbar und abrufbar über dieselbe API.
Zum Brain-Repository → -
03 · PromptGallery
Vorlagen für den Start
Freigegebene Prompts, per Klick ins eigene Repository übernommen.
Zur PromptGallery →
Baustein 1 · AI-Gateway
Ein Gateway, drei Leitplanken
-
01 · KeyEin Key für alle Provider
-
02 · DeckelHarte Kostendeckelung vor jedem Call
-
03 · AuditLückenlose Audit-Chain
Was Promptopoly konkret leistet
Sechs Gründe, aus denen Teams das Gateway einsetzen — jeder mit der Mechanik dahinter.
-
Kein Agent sprengt mehr die Rechnung
Das Budget wird vor jedem Call geprüft, nicht hinterher abgerechnet. Ein Agent in der Endlosschleife wird gestoppt, solange er noch nichts gekostet hat.
Tages-, Wochen- und Monatsbudget je Tenant und Projekt · Prepaid-Wallet mit atomarem Debit · Refund bei Stream-Abbruch
-
Ein Schlüssel statt fünf Provider-Konten
Ein
pk_-Key für OpenAI, Anthropic und Google (Gemini). Ein neues Modell kommt über die Konfiguration ins System, nicht über ein Deployment.OpenAI-kompatibles API · nativer
/v1/messages-Endpunkt · Streaming und Tool-Calling -
Provider-Keys liegen nicht mehr im Code
Die echten Anbieter-Schlüssel bleiben im KeyVault. Anwendungen, Agenten und externe Dienstleister sehen ausschließlich den
pk_-Key — und der lässt sich einzeln sperren.AES-256-GCM verschlüsselt · Klartext nur transient im RAM · Rotation und Fingerprinting inklusive
-
Jeder Call ist nachweisbar — auch Monate später
Wer wann welches Modell wofür genutzt hat, steht in einer Hash-Chain. Das ist die Antwort auf Revisions- und Compliance-Fragen, ohne Nachbau in Excel.
HMAC-Hash-Chain · Export als CSV oder JSON · feste Löschfristen, 7 Tage Response-Retention
-
LLM-Kosten pro Kunde abrechnen
Kosten laufen getrennt nach Projekt und Mandant auf. Aus dem Protokoll wird die Position auf der Kundenrechnung — statt einer Sammelrechnung, die niemand aufteilen kann.
Auswertung je Tenant und Projekt · Modell, Tokenzahl und Kosten pro Call
-
Der Ausfall eines Anbieters kostet keine Nacht
Fällt ein Provider aus, übernimmt automatisch ein Ersatzmodell. Der fehlgeschlagene Versuch wird dem Guthaben gutgeschrieben.
Kuratierte Modell-Aliase · automatisches Failover mit Refund · Betrieben in Deutschland
Und der Kontext, mit dem die Agenten arbeiten, liegt im selben Konto: durchsuchbar, verlinkt, über dieselbe API abrufbar — das Brain-Repository.
Baustein 2 · Brain-Repository
Das Gedächtnis, aus dem deine Agenten lesen.
Wissen, Regeln und Prompts liegen an einem Ort — abrufbar über dieselbe API, über die auch die Modell-Calls laufen. Kein Kontext mehr, der in Chatverläufen verschwindet.
Wissensgraph statt Ordner
Notizen mit Verlinkungen, Rückverweisen und Volltextsuche. Ein Agent fragt die Workspace-Suche ab und bekommt den Kontext, statt ihn in jedem Prompt mitzuschleppen.
Prompts mit Versionen
Prompts und Vorlagen bekommen bei jeder Änderung eine Version und lassen sich auf jeden früheren Stand zurückholen.
Git-Spiegel und Team-Rollen
Spiegelung nach GitHub, GitLab oder Gitea. Freigaben je Workspace für Lesen, Schreiben oder Admin, mit Änderungsprotokoll — dasselbe Repository für Menschen und Agenten.
Baustein 3 · PromptGallery
Die PromptGallery als Starthilfe.
263 freigegebene Prompts in 16 Kategorien — durchsuchbar, per Klick ins eigene Repository klonbar und mit Variablen in ein teilbares Formular verwandelbar. Der Einstieg, bis das eigene Wissen im Brain-Repository liegt.
PromptGallery ansehen →Fragen und Antworten
Häufige Fragen
Was ist Promptopoly?
Promptopoly ist ein selbstverwaltetes LLM-Gateway. Anfragen an Sprachmodelle laufen über einen einzigen pk_-Schlüssel statt über getrennte Zugänge je Anbieter. Vor jedem Aufruf wird das Budget geprüft; ist es erschöpft, wird der Aufruf gestoppt statt ausgeführt und abgerechnet.
Wie verhindert Promptopoly, dass ein Agent die Rechnung sprengt?
Die Kostendeckelung greift vor dem Aufruf, nicht bei der Abrechnung. Ein Agent in einer Endlosschleife läuft gegen ein hartes Limit und wird gestoppt. Jeder Aufruf wird mit Modell, Tokenzahl und Kosten protokolliert, sodass sich der Verbrauch je Projekt nachvollziehen lässt.
Welche Anbieter und Modelle werden unterstützt?
OpenAI, Anthropic und Google (Gemini) über eine OpenAI-kompatible Schnittstelle, dazu der native Anthropic-Endpunkt. Ein Modellwechsel erfordert keine Codeänderung, weil die Anwendung weiterhin gegen dieselbe Schnittstelle spricht.
Was ist das Brain-Repository?
Der Ort für das Wissen, mit dem die Agenten arbeiten: Notizen mit Verlinkungen und Rückverweisen, Volltextsuche, versionierte Prompts zum Zurückholen und eine Spiegelung nach Git. Abgerufen wird es über dieselbe API wie die Modell-Calls.
Was ist die PromptGallery?
Eine Sammlung freigegebener Prompt-Vorlagen als Starthilfe. Jede Vorlage lässt sich per Klick ins eigene Repository übernehmen und dort versionieren; Vorlagen mit Variablen werden zu einem teilbaren Formular.
Eignet sich Promptopoly als Engine für Agent-Systeme?
Ja, das ist der Hauptanwendungsfall. Autonome Agenten rufen Modelle über den Proxy auf und erhalten damit Budgetgrenze, einheitlichen Zugang und Protokollierung, ohne dass die Agentenlogik das selbst abbilden muss. Betrieben wird in Deutschland.
Was kostet Promptopoly?
Es gibt einen kostenlosen Einstieg. Die aktuellen Tarife stehen auf der Preisseite.
Kostenlos starten
Kostenloses Konto, keine Kreditkarte, kein Abo. Das Gateway rechnet nutzungsbasiert über ein Prepaid-Guthaben ab — und stoppt, bevor dein Budget überschritten ist.