KI-Gateway
Bereitstellen, konfigurieren und Backend-LLM-Verkehr über den Orthalon KI-Gateway Reverse-Proxy leiten.
Plan-Anforderung: Überwachung und Erkennung sind in allen Plänen enthalten. Protect, Business und Enterprise können aktive Richtlinien (Schwärzen, Warnen, Genehmigung, Blockieren) durchsetzen.
Das Orthalon KI-Gateway ist ein speicherbasierter Reverse-Proxy für serverseitige Microservices, LLM-Backend-Anwendungen und Agentic-Pipelines. Es fängt Anfragen vor Upstream-Providern (OpenAI, Anthropic, Gemini) ab, prüft DLP-Regeln und protokolliert Audit-Metadaten.
1. Gateway bereitstellen
Bereitstellungspaket herunterladen
Orthalon KI-Gateway 0.1.0 herunterladen (.tar.gz) · Herunterladen (.zip)
(Optional: verifizieren mit der SHA-256 Prüfsumme)
Paket entpacken
Wechseln Sie in Ihren Downloads-Ordner (oder das Verzeichnis, in dem die Datei gespeichert wurde) und entpacken Sie das Archiv:
macOS / Linux (.tar.gz):
cd ~/Downloads
tar -xzf orthalon-ai-gateway-0.1.0.tar.gz
cd orthalon-ai-gateway-0.1.0Windows (PowerShell):
cd $HOME\Downloads
Expand-Archive -Path orthalon-ai-gateway-0.1.0.zip -DestinationPath .
cd orthalon-ai-gateway-0.1.0Umgebungsvariablen konfigurieren
- Öffnen Sie in Orthalon Betrieb → Sensoren & Schlüssel und klicken Sie auf Schlüssel erstellen.
- Wählen Sie KI-Gateway als Bereich und kopieren Sie Ihren Sensorschlüssel (
sk_orthalon_...) sowie Ihre Organisations-ID. - Konfigurieren Sie Ihre Gateway-Umgebung:
macOS / Linux:
cp gateway.env.example gateway.envWindows (Eingabeaufforderung):
copy gateway.env.example gateway.envTipp: Sie können dies auch ohne Terminal durchführen: Duplizieren Sie
gateway.env.examplein Ihrem Dateimanager (Finder oder Datei-Explorer) im Gateway-Ordner, benennen Sie die Kopie ingateway.envum, öffnen Sie die Datei in einem Texteditor (Notepad, VS Code oder TextEdit) und tragen Sie Ihren Sensorschlüssel und die Organisations-ID ein.
- In
gateway.envtragen Sie Ihre Anmeldedaten ein:
ORTHALON_SENSOR_KEY=sk_orthalon_ihr_gateway_schluessel_hier
ORTHALON_ORGANIZATION_ID=org_ihre_organisations_id
PORT=4000Mit Docker Compose starten
docker compose --env-file gateway.env up -d(Alternativ direkt über Node.js ausführen: pnpm start / node server.cjs)
2. Backend-Dienste auf das Gateway ausrichten
Leiten Sie Ihre Backend-Microservices und SDK-Aufrufe an das Orthalon Gateway weiter:
OpenAI (Node.js / Python)
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.OPENAI_API_KEY,
baseURL: "http://localhost:4000/v1", // Über Orthalon Gateway leiten
});Anthropic (Python SDK)
import anthropic
client = anthropic.Anthropic(
api_key="ihr_anthropic_api_schluessel",
base_url="http://localhost:4000" # Über Orthalon Gateway leiten
)3. Schutz testen und validieren
- Gateway-Status prüfen:
curl http://localhost:4000/health - Testanfrage senden:
curl http://localhost:4000/v1/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer sk-openai-test-key" \ -d '{ "model": "gpt-4o", "messages": [{"role": "user", "content": "Internal secret token: AKIAIOSFODNN7EXAMPLE"}] }' - Audit-Log prüfen: Öffnen Sie Erkennung → Richtlinienverstöße im Dashboard.