«Vi jobber med dette fordi det er nødvendig, ikke enkelt.»

– De siste årene har vi hvert eneste år sett en dobling av nettovergrep som meldes inn. Dette er i ferd med å bli et kjempestort problem, og vi klarer ikke å løse det med tradisjonelle metoder i dag.

Det sier Hege Tokerud, CEO i Aiba. For å bistå de tradisjonelle metodene med mer moderne verktøy har de utviklet sikkerhetsplattformen Amanda. 

Amandas formål er å forhindre nettovergrep og annen uønsket adferd. Ved hjelp av kunstig intelligens (KI) gjenkjenner programmet mønstre i overgriperes kommunikasjon og flagger samtaler før de utvikler seg til overgrep eller cybergrooming.

– Kundene våre er hovedsakelig spillselskap og lignende virksomheter, men vi jobber også sammen med politiet, forteller Tokerud.

Aiba ble etablert i fjor, og har flere pilotkunder på plattformen, men ønsker også å få større nedslagsfelt og skaffe flere kunder. Det tror Tokerud at de vil greie, spesielt fordi EU-parlamentet nylig godkjente lovpakken DSA (The Digital Services Act) og UK Online Safety Bill:

– Loven pålegger enkelt forklart spillselskaper og andre tilbydere på nettet å sikre at barn og unge er trygge på nett. Frem til nå har det vært selskaper som virkelig bryr seg om barn og unge som har kontaktet oss for å håndtere dette. Med DSA vil det tvinge seg frem en endring hos mange selskap – og også et stort behov for tjenester som Amanda, sier hun.

Vanskelig å skille vanlige samtaler fra risikosamtaler

Amanda kan bygges inn i chattetjenester i spill eller andre plattformer, og fungerer helt konkret ved å se på chattens tekstinnhold og forsøke å identifisere om det er risiko for overgrep. Dersom utvekslingen merkes som en høyrisikosamtale, vil KI-en automatisk kunne sette den på pause. Før den kan gjenopptas må et menneske inn og undersøke den. 

Men å skille vanlige samtaler barn imellom og samtaler der overgripere er tilstede er ikke bare enkelt, forteller Tokerud:

– Vi gjør ikke dette fordi det er enkelt. Det er kjempevanskelig! Ingen har fått dette til før oss. Men vi ser at vi nærmer oss, vi har en god løsning som er i ferd med å kunne brukes. 

En ofte brukt metode blant nettovergripere er nemlig å utgi seg for å være et barn, ta kontakt med jevnaldrende barn via en chatteplattform og bygge tillit. Aibas teknologi kan i gjennomsnitt identifisere slike samtaler på mindre enn 20 meldingsutvekslinger, i noen tilfeller langt færre. 

Amanda er opptil 30 ganger mer effektiv 

Amanda kan ifølge Aibas egne tall være opptil 30 ganger mer effektiv og kostnadsbesparende enn manuell moderering, noe som setter de menneskelige ansatte i stand til å bruke arbeidskraften sin på å løse helt konkrete saker og spare tid. Og som Tokerud nevnte tidligere har antallet nettovergrep som må identifiseres og håndteres skutt i været. Da er effektivisering raskt noe som trenger seg frem:

– Ifølge politiet er den eneste måten vi kan få ned antallet nettovergrep på å stanse dem før de i det hele tatt skjer. Å straffe overgriperne hjelper ikke. Da har jo allerede overgrepet skjedd, forteller Tokerud.

Å hindre overgrep kompliseres dessuten av at både barn og overgripere benytter språklige triks for å omgå automatiske filtre. For eksempel kan ord erstattes med emojier, tekst kan skrives vertikalt eller bokstaver kan erstattes med andre tegn. Dette er noe Amandas språkmodeller trenes opp i, og etter hvert vil Aiba også trene opp algoritmene på lyd- og bildeinnhold. Dess flere verktøy Amanda får, dess flere samtaler kan fanges opp.

Tokerud mener dette i praksis er et våpenkappløp:

– Overgripere deler metoder og fremgangsmåte med hverandre, noe som gjør at problemet vokser ut av kontroll. Vi regner med at det er mellom én og en halv million overgripere som jobber dag og natt for å groome og utnytte barn og unge.

Har forsket på dette i åtte år

Miljøet som står bak Aiba springer ut fra informasjonssikkerhetsmiljøet ved NTNU i Gjøvik, med god hjelp fra professor i adferdsbiologi Patrick Bours. Bours er selv fra Nederland, og det var via ham historien om Amanda Todd ble sentral i prosjektet. 

Tokerud traff Bours i 2018, og sammen begynte de å se på problemstillingen, og de oppdaget raskt det enorme omfanget av overgrepene og ikke minst de manglende verktøyene for å håndtere dem.

I dag har Aiba ni ansatte, og jobber fra Forskningsparken i Oslo og fra kontorer i Gjøvik med å ta forskningen på dette området ut i det virkelige liv. Og selv om de arbeider med mørke problemstillinger, er Tokerud klar på at de ikke lar det påvirke arbeidsmiljøet eller den gode kulturen Aiba har:

– God kultur er viktig, og vår bransje er jo preget av alvor. Men vi skal ikke være alt for seriøse hele tiden, så humor, åpenhet og raushet er viktig. Vi rekrutterer i alle aldersgrupper på tvers av kjønn, nasjonaliteter og fagdisipliner. Vi bygger et selskap som løser et særs viktig og vanskelig globalt problem, så derfor er vi nødt til å tiltrekke oss de flinkeste folka.

Vil du lese mer om Aiba og deres arbeid? Les mer på deres nettside her.