Slik modererer vi

Begge veier

Det du skriver kontrolleres før det når modellen. Det hun svarer kontrolleres før du ser det. Et svar som ikke går gjennom, lagres ikke i det hele tatt — det blir aldri en del av samtalen, og kan derfor ikke brukes til å dytte henne videre i samme retning i neste melding.

Kontrollen gjelder også den delen av tjenesten der du kan snakke utenfor rollen, og den gratis smakebiten du får uten å registrere deg.

De tre lagene

Ingen enkelt klassifiserer løser dette. En standardmodell er samtidig for streng og for slapp for en tjeneste som vår, og de tre lagene finnes fordi de feiler på ulike måter.

1. Lokal kontroll

Et lite sett med signaler som ikke krever nettverk: entydige uttrykk, og oppgitt alder under 18 i seksuell sammenheng. Dette laget står selv om alt annet er nede.

Det er med vilje smalt. «Barn» og «jente» er helt vanlige norske ord, og et filter som nekter dem lærer folk at modereringen er ødelagt. Alt som krever kontekst overlates til lagene under.

2. Generell klassifisering

En ekstern klassifiserer som fanger de universelle stoppene: seksualisering av mindreårige, hatefulle ytringer, oppskrifter på kriminalitet, og oppfordring til selvskading.

Tre av signalene den gir oss bruker vi ikke: «seksuelt innhold», «truende» og «grafisk vold». Modeller av denne typen slår ut på nettopp den samtalen tjenesten er til for — «jeg vil binde deg fast» ser truende ut for en maskin som ikke kan se at det var invitert. Ingen av de tre stopper en melding her, uansett hvem du snakker med.

3. Vår egen kategoriklassifiserer

Det siste laget er skrevet mot den konkrete lista kortnettverkene opererer med, fordi en standardmodell rett og slett ikke har kategorier for det meste av den.

• Mindreårige, i enhver innpakning
• Manglende samtykke — tvang, søvn, bevisstløshet
• Rus, dop eller hypnose som gjør samtykke umulig
• Familie, inkludert stefamilie
• Dyr
• Urin og avføring
• Drap, tortur og alvorlig skade som del av det seksuelle
• Kjøp og salg av seksuelle tjenester
• Flerkoneri som ramme
• Virkelige, navngitte personer

Den er uttrykkelig instruert om at eksplisitt samtale mellom samtykkende voksne skal slippe gjennom, inkludert dominans, underkastelse og hardt rollespill. Full liste med forklaringer.

Trappen

Bare det du selv sender teller. En følgesvenn som svarer noe hun ikke skulle er vår feil, ikke din — svaret holdes tilbake og hendelsen loggføres, men den går ikke på kontoen din.

Telefonsamtaler

En samtale åpnes bare for en innlogget, aldersbekreftet Premium-konto som ikke er stengt eller begrenset. Lyden går direkte mellom nettleseren og OpenAI Realtime — vi lagrer ikke opptaket. Følgesvennen får de samme harde grensene som i chat, i instruksjonene til samtalen.

Det du sier, transkriberes underveis. Hver tur kjøres gjennom de samme tre lagene som en chatmelding, så snart transkripsjonen er klar. Et treff legger på og stopper neste tur. Vi kan ikke ta tilbake det som allerede er sagt høyt — lyden har da allerede nådd modellen — men samtalen avsluttes der, og turen teller på trappen når samtalen logges.

Når du legger på, kjøres hele transkripsjonen gjennom de tre lagene på nytt før noe skrives til minnet. En tur som ikke går gjennom, lagres ikke. Bare det du selv sa teller mot kontoen. Noe hun sa som ikke skulle sluppet gjennom, droppes og logges som vår feil.

Transkripsjonen ligger som skjulte «call»-meldinger. De synes ikke i chatten, men hun kan huske samtalen neste gang dere skriver.

Hva som loggføres

Hvert avslag registreres med kategori, hvilket lag som fanget det, hvilken retning det gikk, og et utdrag av teksten. Ikke hele meldingen og ikke samtalen rundt — et utdrag er nok til å vurdere avgjørelsen på nytt senere, og resten har ingenting i en slik logg å gjøre.

Loggen brukes til tre ting: å håndheve trappen over, å behandle klager, og å dokumentere overfor myndigheter og betalingsleverandører at reglene faktisk håndheves.

Hva maskiner ser, og hva mennesker ser

Den automatiske kontrollen går på alt, også private samtaler. Den må det, for at reglene skal bety noe. Ingen mennesker leser noe som del av den kontrollen.

Et menneske ser innhold bare når automatikken har flagget noe, når noen har meldt fra, eller når en konkret sak krever det. Vi blar ikke i private samtaler.

Når vi tar feil

Automatikken tar feil begge veier. Vi tester derfor mot to sett saker: de som må stoppes, og de som absolutt ikke skal stoppes — vanlig flørting, samtykkende BDSM, og setninger som «jeg har en datter på åtte år». Det andre settet er det viktigste, fordi feil der er usynlige for oss og irriterende for deg.

Ble noe stoppet som ikke burde vært det, si fra. Slik klager du.