KI-Gateway
Leiten Sie genehmigte serverseitige Modell-API-Aufrufe über Orthalon weiter, um konsistente Erkennungs-, Richtlinien- und Nur-Metadaten-Überwachungsereignisse zu gewährleisten.
Plananforderung: Alle Pläne können überwachen. Schützen und höher durchsetzen können Richtlinien anfordern. Unternehmen und Unternehmen können kompatible Antworten prüfen.
Das KI-Gateway ist für interne Dienste gedacht, die Modellanbieter über ein anrufen OpenAI-kompatible oder Anthropic-kompatible API. Es ist von Next.js getrennt Steuerungsebene und sollte als eigener Dienst bereitgestellt werden.
Konfigurieren Sie eine Anwendung
- Stellen Sie unter Sensoren & Schlüssel einen Organisationssensorschlüssel bereit.
- Stellen Sie das Gateway mit seiner Orthalon-Ingest-/Richtlinienkonfiguration und seinem Anbieter bereit Zulassungsliste.
- Speichern Sie die Sensoranmeldeinformationen im serverseitigen Geheimnis der aufrufenden Anwendung speichern.
- Ändern Sie die Modellbasis-URL der Anwendung von der Anbieter-URL in die des Gateways URL.
- Behalten Sie den ursprünglichen Modell-/Anbieter-Autorisierungsheader bei, der von erwartet wird vorkonfiguriert.
- Senden Sie eine harmlose Anfrage und überprüfen Sie die Antwort des Anbieters.
- Senden Sie erfundene Detektortestdaten im Überwachungsmodus und bestätigen Sie ein Orthalon-Ereignis.
- Validieren Sie bei Protect oder höher eine Schwärzungs- oder Blockierungsregel vor der Produktion.
Sicherheitsverhalten
Das Gateway muss Anforderungsinhalte im Speicher verarbeiten, um sie als Proxy bereitzustellen. Orthalon nicht Behalten Sie rohe Eingabeaufforderungen standardmäßig bei. Die gespeicherte Telemetrie ist auf den Detektor beschränkt Metadaten, Entscheidungen und reine Platzhalterauszüge. Konfigurieren Sie den strikten Upstream Zulassungslisten, Anforderungsgrößenbeschränkungen, Zeitüberschreitungen und sichere Protokollierung.
Abdeckungsgrenze
Es werden nur über das Gateway gesendete Anrufe abgedeckt. Direkte Anbieteraufrufe, Browser Sitzungen, Verbraucher-KI-Websites und Clients, die die konfigurierte Basis-URL ignorieren benötigen eine andere Orthalon-Schicht. Streaming- und anbieterspezifische API-Varianten müssen vor einem Produktions-Rollout abnahmegetestet werden.
Verwenden Sie einen ablaufenden AI-Gateway-Schlüssel im serverseitigen
Geheimnisspeicher des aufrufenden Dienstes. Senden Sie ihn nur als
x-orthalon-key; der Provider-Schlüssel bleibt im normalen Authorization-
oder x-api-key-Header. Browser-, Desktop- und MCP-Schlüssel werden abgelehnt.