Platforme za dopisivanje u video igrama ili aplikacije za razmjenu poruka postale su lovišta za seksualne grabežljivce, internet lovce na djecu. Microsoftov tim razvio je automatizirani alat kodnog naziva Project Artemis, koji bi trebao pomoći u njihovom ranom otkrivanju.

Ideja Project Artemis automatiziranog sustav za   otkrivanje zlostavljanja djece putem interneta nastala je u  studenom 2018. godine tijekom Microsoftovog 360 Cross-Industry Hackathonu. Od tada su na razvoju osim tvrtke iz Redmonda bili uključeni programeri i  inženjeri internetske dječje igre Roblox, aplikacije za razmjenu poruka i druženje  Kik,  Skout, MeetMe i Lovoo, te  tim koji je vodio Hany Farid, stručnjak za digitalnu forenziku na koledžu u Dartmouthu.  Projekt je sponzoriran od WePROTECT Global Alliance u suradnji s Child Dignity Alliance.  

Kako radi Artemis sustav?

Microsoftovi programeri i inženjere  uvrstili  su  u model strojnog učenja primjere obrazaca, fraza i ključnih riječi   koje koriste seksualni predatori u svojim  manipulacijama, sve kako bi poboljšali  sposobnost predviđanja potencijalnih scenarija. Na temelju AI nastalih algoritama Artemis  skenira dopisivanje i  prepoznaje ako korisnik pokušava seksualno iskoristiti dijete bilo kroz razgovor, poticanjem na dijeljenje seksualnih aktivnosti ili razmjenu fotografija.

Osim toga tijekom analize   sustav   dodjeljuju  preliminarnu ocjenu.  Ako je  visokog rizika  to je  znak  za  temeljiti pregled  komunikacije od strane  moderatora.  Utvrdi li   postojanja  neposredne prijetnje, neke osobine seksualnog uznemiravanja, ili  ne može točno  klasificirati  je li prijetnja stvarna, informacije prosljeđuje policiji  kako bi se poduzeli daljnji odgovarajući  postupci.  Sustav će također označiti slučajeve koji možda ne dosežu prag neposredne prijetnje ili iskorištavanja, ali krše uvjete pružanja usluge tvrtke. U tim bi slučajevima korisnički račun mogao biti deaktiviran ili obustavljen.

Cijena, licenciranje i distribucija

Artemis  je besplatan  i može raditi s bilo kojom web platformom  za  dopisivanje. Licenciranjem   softvera   bavi se neprofitna organizacija Thorn.     Oni će ujedno distribuirati softver  svim zainteresiranim neprofitnim organizacijama, programerima usluga za igre i tvrtkama koje nude integriranu platformu   razmjene poruka. 

U postu na blogu koji najavljuje  Artemis, Microsoft je napisao:  Projekt Artemis  značajan je korak naprijed, ali nikako nije panaceja.  Seksualno iskorištavanje i zlostavljanje djece putem interneta i otkrivanje predatora  su dalje veliki  problemi.   Mi u ovom trenutku samo stavljamo alat na raspolaganje kako bismo pozvali na daljnje doprinose i angažman drugih tehnoloških kompanija i organizacija, a sve s ciljem stalnog unapređenja i usavršavanja. 

Osim Microsofta i mnoge druge tech kompanije priključile su se  borbi protiv iskorištavanja i zlostavljanja djece. Prošle godine YouTube je  blokirao stotine računa i onemogućio komentare na desetine milijuna videozapisa nakon što   su neka izvješća sugerirala da   postoji neka vrsta dječje pornografije. Facebook se  koristi strojnim učenjem u borbi protiv iskorištavanja djece, a aplikacija Tumblr je čak bila uklonjena iz App Storea kada su  fotografije s prikazom seksualnog zlostavljanja djece ipak prošle  filtre. 

Svakako je ovdje vrijedno spomenuti i PhotoDNA tehnologiju koja pomaže policijskim službama i tehnološkim kompanijama da pronađu i uklone  fotografije seksualnog iskorištavanja djece.  Koristi ju   više od 150 tvrtki i organizacija, uključujući Google, Facebook, Twitter i Microsoft.

I za kraj,  trebali bi svi   imati na umu  kako se  AI  sustav se ne može  boriti u potpunosti s identifikacijom složenog ljudskog ponašanja. Postoje kulturološki aspekti, jezične prepreke i sleng terminologija, koje otežavaju precizno prepoznavanje internetskih seksualnih grabežljivaca djece.  Zato  moramo djecu učiti kako pametno koristiti računala, tablete pametne telefone, a ne prepustiti ih samima sebi i da rade što hoće.