Vi arbeider med teknisk AI-sikkerhet med vekt på det vi kan måle: overvåkere og korreksjonssignaler for agenter, konfidensialitet i applikasjonslaget for driftede modeller, og policykollisjonene disse målingene avdekker.
Agentisk alignment
Problem
Etter hvert som agenter blir mer autonome, kjører de med mindre direkte tilsyn. Skadelige eller off-policy handlinger kan spre seg før en menneskelig sløyfe lukkes.
Tilnærming
Lette overvåkere kjører side om side med agenten og varsler handlinger som driver bort fra godkjent atferd. Graderte korreksjonssignaler styrer deretter agenten tilbake. Målet er kurskorrigering som holder i maskinhastighet, ikke en garanti om trygg AI.
Artefakter
Lorentzen (2026), Hvorfor agentisk alignment: stiftelsesdokument for Vitr Labs. Metodenotater og diagrammer på dette nettstedet. Empiriske evalueringer er underveis; vi lister dem her etter hvert som de skrives.
Åpne spørsmål
Hvor billig kan en pålitelig overvåker være? Når feiler gradert korreksjon åpent i stedet for stille? Hvordan skal en menneskelig operatør lese korreksjonssignalet?
Produksjonsflyter sender kunderegistre og interne dokumenter til driftede modeller. Kontraktuell zero data retention er ikke alltid aktiv, og logger underveis kan lagre klartekst selv der klausulene finnes.
Tilnærming
Sensitive felt erstattes med chiffer-tokens før forespørselen forlater klienten. Modellen bes om å operere på tokenene og holde dem maskert i svaret. Koblingen forlater aldri klientens minne. Vi evaluerte protokolletterlevelse på tre frontier-modeller over tre steg, tre forsøk per steg.
Artefakter
Lorentzen (2026), Personvern i applikasjonslaget: en kontekstbasert krypteringsprotokoll for LLM-API-er. openai/o3 fullførte alle ni forsøk; google/gemini-3.1-pro-preview åtte av ni; anthropic/claude-opus-4-8 etablerte nøkler, men avslo maskert operasjon i samtlige resterende forsøk.
Åpne spørsmål
Utvalget er lite og versjonsavhengig. Maskering er ikke semantisk sikker kryptering. Å måle kvalitetskostnaden ved å operere over maskerte data er videre arbeid.
Sikkerhetstrening som behandler obfuskert tekst som en risiko, kan også avvise et personverntiltak som avhenger av obfuskering. Alignment-laget avgjør nå hvilke sikkerhetsprotokoller en applikasjon kan implementere.
Tilnærming
Vi behandler styring som en begrensning som viser seg i eksperimenter, ikke som et eget kommunikasjonsspor. Claude-avslagene i personvernevalueringen er det aktuelle eksempelet: konsistente, policybegrunnede, og usynlige om man bare leser kapabilitetsskårer.
Artefakter
Diskusjons- og begrensningsavsnittene i den tekniske rapporten fra 2026. Vi er ikke et policykontor; vi publiserer målinger som policylesere kan bruke.
Åpne spørsmål
Hvilke andre kontroller på brukersiden kolliderer med dagens alignment-policyer? Hvordan bør anskaffelser behandle den dimensjonen ved modellvalg? Hvordan ville en nordisk offentlig evaluering av disse kollisjonene se ut?