Så fungerar Gateway – från köp till AI-svar

Maskeras servrar ligger aldrig i vägen mellan er applikation och er AI-leverantör.

1. 1. Åtkomst i kundportalen

   Organisationens ägare får tillgång till avtalad pilot eller årslicens och den godkända Gateway-versionen.

2. 2. Versionslåst leverans

   Portalen lämnar ut en offline-licens och en exakt containerreferens. Versionen är signerad och har en komponentförteckning (SBOM).

3. 3. Paketet byggs lokalt

   Webbläsaren skapar en slumpad 256-bitars API-nyckel. Den öppna nyckeln visas en gång; bara dess SHA-256-verifierare skrivs till konfigurationen.

4. 4. Ni driftsätter

   ZIP-paketet startas med Docker Compose eller används som underlag för Helm. Ni lägger hemligheter i er egen hemlighetshanterare och sätter TLS framför tjänsten.

Paketet innehåller startfilerna och pekar ut den exakta signerade containerversionen. Modellen följer med i containern och hämtas inte vid varje start.

Två autentiseringssätt

OIDC-flödet, steg för steg

1. 1

   Användaren loggar in hos er

   Er applikation hämtar en signerad access-token från er vanliga identitetsutfärdare.

2. 2

   Token följer med anropet

   Applikationen skickar Authorization: Bearer tillsammans med anropet till Gateway.

3. 3

   Gateway verifierar token

   Signatur, tillåten algoritm, utfärdare, målgrupp och tidsgränserna nbf och exp måste stämma.

4. 4

   Roll blir behörighet och policy

   Ert valda rollfält mappas till mask, proxy eller metrics och till exakt en namngiven policy. Motstridiga policyer nekas.

{
  "auth": {
    "mode": "oidc",
    "issuer": "https://login.example.com/tenant/v2.0",
    "audience": "api://maskera-gateway",
    "jwksUri": "https://login.example.com/tenant/discovery/v2.0/keys",
    "algorithms": ["RS256"],
    "roleClaim": "roles",
    "roles": {
      "Maskera.Support": {
        "permissions": ["mask", "proxy"],
        "policy": "support-arenden"
      }
    }
  }
}

Om ni använder en JWKS-adress hämtar Gateway publika signeringsnycklar från den adress ni har angett, utan att följa omdirigeringar. Vill ni ha helt stängd nätverksdrift monterar ni i stället en lokal JWKS-fil.

curl -s https://maskera-gateway.ert-natverk.internal/v1/mask \
  -H "Authorization: Bearer $MASKERA_GATEWAY_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "text": "Lars Svensson ringde om fakturan.",
    "return_map": true
  }'

const client = new OpenAI({
  apiKey: process.env.MASKERA_GATEWAY_KEY,
  baseURL: "https://maskera-gateway.ert-natverk.internal/v1/openai",
})

const answer = await client.chat.completions.create({
  model: "gpt-4o-mini",
  messages: [{ role: "user", content: "Sammanfatta: Lars ringde om fakturan." }],
})

Den inbyggda proxyn stöder i dag OpenAI-formatets Chat Completions. Andra leverantörer och format kan fortfarande användas genom /v1/mask, där er applikation gör AI-anropet.

1. 1

   1. Driftberedskap

   Gateway kontrollerar att offline-licensen är giltig, modellen är laddad och anropet ryms inom satta gränser.

2. 2

   2. Autentisering

   API-nyckeln eller OIDC-token verifieras. Identiteten måste ha behörigheten proxy.

3. 3

   3. Policy

   Gateway väljer den policy som serverkonfigurationen kopplat till identiteten. Klienten kan inte begära en mildare policy.

4. 4

   4. Maskering i minnet

   Tillåtna textfält läses, personuppgifter upptäcks och ersätts med stabila platshållare. Återställningskartan hålls i arbetsminnet.

5. 5

   5. Exakt AI-adress

   Den maskerade förfrågan skickas till den HTTPS-adress som finns i er tillåtelselista. Omdirigeringar och godtyckliga mål accepteras inte.

6. 6

   6. Återställning

   Om policyn kräver det ersätter Gateway kända platshållare i AI-svarets textdelar med originalvärdena.

7. 7

   7. Svar och mätvärden

   Svaret går till er applikation. Endast grov metadata som status, tid och antal tecken kan loggas eller mätas – inte nyttolasten.

Policyn väljs på serversidan. Ett fält i kundens anrop kan därför inte stänga av ett skydd som policyn kräver.

När licensen har löpt ut fortsätter /healthz visa att processen lever, men /readyz och produktionsanrop stoppas. Gateway fortsätter inte med ett oskyddat reservflöde.

Inför produktion behöver ni fortfarande testa era verkliga texttyper, välja policy och validera identitet, nätverk, loggning och AI-leverantör. Det är kundspecifikt – men produktens tekniska gräns och leverans är densamma.