Sikkerhet
Cloudflare: 155 svar fra GLM-5.3 inneholdt andre kunders data på Workers AI
Cloudflare og SGLang offentliggjorde 26. oktober at 155 svar fra GLM-5.3 på Workers AI mellom 27. august og 9. september inneholdt data fra andre kunders forespørsler, på grunn av en for liten KV-cache-pool kombinert med en feil i SGLang.

Hva som skjedde
Mellom 27. august og 9. september 2026 inneholdt 155 svar fra språkmodellen GLM-5.3 (@cf/zai-org/glm-5.3) på Cloudflare Workers AI data fra andre kunders forespørsler. Det opplyser Cloudflare i en gjennomgang publisert 26. oktober 2026. Alle de berørte svarene gjaldt prompter på over 681 280 tokens. Et token er den minste tekstenheten en språkmodell regner med, grovt sett et ord eller en ordbit.
Samme dag publiserte SGLang-teamet, som utvikler serveringsrammeverket Cloudflare brukte, en egen sikkerhetsoppdatering. Cloudflare og SGLang omtaler saken som koordinert offentliggjøring. Cloudflare fant ifølge egen rapport ingen tegn til bevisst utnyttelse, og ingen andre modeller på Workers AI var berørt.
Slik fungerer det
Årsaken var en kombinasjon av to forhold. Det første var et avvik i oppsettet. Modellen var satt opp med et kontekstvindu på 1 048 576 tokens, altså den mengden tekst den skal kunne behandle i én forespørsel. Men KV-cache-poolen på GPU-ene som utfører prefill, rommet bare 681 280 tokens. KV-cache er minnet der modellen lagrer mellomresultater for tekst den allerede har lest, slik at den ikke må regne dem ut på nytt. Cloudflare opplyser at selskapet var kjent med avviket før lansering, men at testene bare kontrollerte HTTP-statuskoder og ytelse, ikke om svarene var riktige.
Det andre var en feil i SGLang i såkalt disaggregert modus. Her er arbeidet delt i to: prefill leser inn prompten, og decode genererer svaret. Ifølge Cloudflare lot feilen avviste, for lange forespørsler passere overleveringen mellom de to stegene. Prefill sendte da en cache-side for en plassholder-prompt, og decode leste i stedet gamle sider fra tidligere forespørsler. Klienten fikk statuskode HTTP 200 (alt i orden) i stedet for 400 (avvist), og svaret bygde dermed på andres data.
SGLang beskriver i tillegg en beslektet løpstilstand ved avbrutte RDMA-overføringer, en teknikk for rask direkte minnekopiering mellom maskiner. Den kan lekke fragmenter av én forespørsel inn i en annen. Ifølge SGLang var standardoppsett i PD-disaggregering utsatt fra v0.4.x, tidlig i 2025, til og med v0.5.21, og feilen gir ingen feillogg. Fra v0.5.21 beskytter utsatt frigjøring av minne Mooncake og NIXL, to overføringsbiblioteker, som standard.
Tidslinje og tiltak
Sårbarheten ble meldt via HackerOne 8. september 2026 av Gadi Evron i Knostic. Cloudflare erklærte hendelsen 9. september kl. 13:22 UTC, satte modellen til privat kl. 14:00 UTC og åpnet den igjen kl. 19:40 UTC samme dag. Prefill-poolen ble økt til omtrent 2,04 millioner tokens. SGLang-vedlikeholderne ble varslet 9. september, og de holdt møte med Cloudflare 10. september.
SGLang utga v0.5.21 2. oktober 2026 og v0.5.22 19. oktober 2026. SGLang la også til en valgfri sjekksum for PD-overføringer (--disaggregation-enable-kv-checksum, Adler-32), som er avslått som standard. Ytelsestester på to H100-GPU-er viste avvik innenfor ±2 prosent, ifølge SGLang.
Hva det betyr
Både Cloudflare og SGLang anbefaler at alle som kjører disaggregert SGLang oppgraderer til v0.5.22 eller nyere. Cloudflare anbefaler også at operatører sammenligner størrelsen på KV-poolen med den konfigurerte kontekstlengden på hver node. Det er en enkel kontroll som i dette tilfellet ville avslørt avviket.
For virksomheter som kjøper delt inferens, viser saken en type lekkasje som ligger under selve modellen: Isolasjonen mellom kunder kan svikte i serveringslaget, uten at modellen eller applikasjonen gjør noe galt. Det kan være verdt å spørre leverandøren hvordan isolasjon testes, og om testene dekker innholdet i svarene og ikke bare statuskoder.
Forbehold
Tallene og forklaringen kommer fra Cloudflare og SGLang, som begge er parter i saken, og de er ikke uavhengig verifisert. Det er uavklart hvor mange kunder som ble berørt og hva slags data som lå i svarene, siden dette ikke fremgår av kildene. Cloudflares konklusjon om at det ikke var bevisst utnyttelse, er selskapets egen vurdering. KerLabs bruker ikke Anthropics Claude som del av saken, men bruker Claude i eget arbeid generelt, og Anthropic er ikke involvert i denne hendelsen.