Facebook eksperimentiše sa ''lošim botovima'' koji oponašaju prevarante na društvenoj mreži

Društvene mreže, 24.07.2020, 11:30 AM

Facebookovi inženjeri razvili su novu metodu koja će im pomoći da prepoznaju i spreče štetna ponašanja na društvenoj mreži poput slanja spam poruka, prevara ili trgovine oružjem i narkoticima. Oni sada mogu da simuliraju takvo ponašanje koristeći AI (veštačka inteligencija) botove koje puštaju u paralelnu verziju Facebooka. Istraživači zatim mogu da proučavaju ponašanje botova u simulaciji i da eksperimentišu sa novim načinima da ih zaustave. Simulator je nazvan WW (zato što je skraćena verzija WWW).

Istraživanje vodi inženjer Facebooka Mark Harman koji je šef AI odseka kompanije u Londonu. Harman kaže da je WW izuzetno fleksibilan alat koji se može koristiti za ograničavanje širokog spektra štetnog ponašanja na sajtu.

U stvarnom životu, prevaranti često započinju svoj pokušaj prevare tako što pretražuju grupe kako bi pronašli potencijalne mete. Kako bi modelirali ovo ponašanje u WW, inženjeri Facebooka stvorili su grupu „nevinih“ botova koji će se ponašati kao mete i obučili brojne „loše“ botove koji pretražuju mrežu da bi pronašli “dobre” botove. Inženjeri su zatim pokušali na različite načine da zaustave loše botove, uvodeći različita ograničenja, poput ograničavanja broja privatnih poruka i objava botova, kako bi videli kako to utiče na njihovo ponašanje.

Harman upoređuje ovaj posao sa urbanistima koji pokušavaju da smanje brzinu na prometnim putevima. U tom slučaju, inženjeri modeliraju protok saobraćaja u simulatorima, a zatim eksperimentišu sa uvođenjem mera poput “ležećih policajaca” na određenim ulicama da bi videli kakav efekat one imaju. WW simulacija omogućava Facebooku da uradi istu stvar, ali sa korisnicima Facebooka.

Simulacija ponašanja koje želite da proučite je uobičajena praksa u mašinskom učenju, ali WW projekat je značajan jer se simulacija oslanja na stvarnu verziju Facebooka. Facebook svoj pristup naziva “simulacija bazirana na vebu”.

“Za razliku od tradicionalne simulacije, gde je sve simulirano, u simulaciji na veb sajtu, akcije i zapažanja se zapravo odvijaju kroz stvarnu infrastrukturu i tako su mnogo realniji”, kaže Harman. On je naglasio da uprkos korišćenju stvarne infrastrukture, botovi nisu u stanju da ni na koji način komuniciraju sa korisnicima, već samo sa drugim botovima.

Simulacija nije vizuelna kopija Facebooka. Dakle, nemojte zamišljati naučnike koji proučavaju ponašanje botova na isti način na koji biste mogli da gledate kako ljudi međusobno komuniciraju u Facebook grupi. Sve interakcije se beleže kao numerički podaci. Zamislite to kao razliku između gledanja fudbalske utakmice (pravog Facebooka) i čitanja statistika utakmica (WW).

Trenutno je i WW u fazi istraživanja, a nijedna simulacija koju je kompanija izvela sa botovima nije rezultirala stvarnim promenama na Facebooku. Harman kaže da njegov tim još uvek proverava da li simulacije odgovaraju ponašanju u stvarnom životu dovoljno da opravdaju stvarne promene. Ipak, on veruje da će ono što njegov tim radi rezultirati modifikacijama Facebookovog koda do kraja godine.

Svakako postoje ograničenja na simulatoru. WW, na primer, ne može da simulira namere korisnika, niti složeno ponašanje. Facebook kaže da botovi pretražuju, šalju zahteve za prijateljstva, ostavljaju komentare, postavljaju objave i šalju poruke, ali stvarni sadržaj tih akcija (kao npr. sadržaj razgovora) nije simuliran.

Ipak, Harman kaže da WW omogućava Facebooku da izvede hiljade simulacija kako bi proverio sve vrste manjih promena na veb sajtu bez uticaja na korisnike.

WW ima potencijal da otkrije nove slabosti u Facebookovoj arhitekturi pomoću botova. Botovi se mogu obučiti na različite načine. Ponekad im se daju eksplicitna uputstva o tome kako da postupaju, ponekad se od njih traži da imitiraju ponašanje u stvarnom životu, a ponekad im se samo postavljaju određeni ciljevi i ostavlja se da odlučuju o svojim postupcima. U ovom poslednjem scenariju (metoda poznata kao nenadzirano mašinsko učenje) mogu se pojaviti neočekivana ponašanja, jer botovi pronalaze načine da ostvare svoj cilj koje inženjeri nisu predvideli.

“Trenutno je glavni fokus obuka botova da imitiraju stvari za koje znamo da se dešavaju na platformi. Ali u teoriji i u praksi, botovi mogu raditi i ono što ranije nismo videli“, kaže Harman dodajući da je to nešto što oni žele, jer žele da budu korak ispred prevaranata. On kaže da je njegov tim već primetio neočekivano ponašanje botova, ali nije želeo da ulazi u detalje i daje ideje prevarantima.