VEŠTAČKA INTELIGENCIJA

Dr Milan Gnjatović,
docent na Fakultetu tehničkih nauka u Novom Sadu

Softver i fiziognomika

Pseudonauka u naučnoj oblandi

Dva istraživača sa Univerziteta Stenford, Vong (Yilun Wang) i Kozinski (Michal Kosinski), predstavila su 2017. u jednom uglednom naučnom časopisu softver koji, na osnovu izgleda nečijeg lica, prepoznaje seksualnu orijentaciju. Ovaj softverski sistem je brzo postao poznatiji pod pejorativnom jezičkom slivenicom  „gejdar” (engl. gaydar), nastalom iz  reči „gay” i „radar”.

Članak je, očekivano, izazvao negativne reakcije javnosti. Autori su optuženi da, omogućavanjem uvida u nečiju seksualnu orijentaciju, ugrožavaju privatnost i sigurnost ljudi, a Kozinski, koga profesorsko zvanje čini vidljivijim u ovom autorskom dvojcu, pravdao je svoj angažman namerom da ukaže na opasnosti koje nose moderne tehnologije. Kao što to obično biva, prašina se ubrzo slegla, a javnost je, čini se, ostala uskraćena za razrešenje ove priče.
O čemu se, dakle, radi? Kao u vicu, postoje dobra vest i loša vest. Dobra vest je da ovaj sistem ne radi ono za šta je reklamiran, a loša vest je da postoje „naučnici” koji veruju da je seksualnu orijentaciju moguće pročitati s lica. Vong i Kozinski su krivi po obe osnove: za nerazumevanje popularnih metoda veštačke inteligencije, i za bavljenje opasnom pseudonaukom.

Povratak fiziognomike

Još od antičkih vremena, mislioci - pravi i oni u pokušaju - povremeno su se bavili pretpostavkom da se karakterne i mentalne karakteristike ljudi oslikavaju na njihovim licima. Ljudska istorija je prepuna tragičnih posledica koje pokazuju koliko su ovakve ideje opasne. Ali Vong i Kozinski su iz nekog razloga mislili da ova pseudonaučna pretpostavka zaslužuje da joj se vrati naučni legitimitet.
Ono što sledi je kratki pregled konfuzne i nedosledne argumentacije kojom ovi autori pokušavaju da opravdaju svoj pristup. Na početku svog izlaganja, oni ističu da je fiziognomika „univerzalno, i sa pravom, odbačena kao mešavina sujeverja i rasizma prerušena u nauku”. A odmah nakon toga obrazlažu, referencirajući intenzivno moderne naučne izvore, da veze između karaktera i izgleda lica ipak postoje, i da su dvosmerne. Kao primer da karakter utiče na izgled lica, oni navode istraživanje koje tvrdi da žene koje su ekstrovertne u mladosti, postaju atraktivnije s godinama. A kao primer da izgled lica utiče na karakter, navode istraživanje u kojem se tvrdi da zgodni ljudi usled pozitivnog društvenog odziva postaju ekstrovertniji. Ovakva argumentacija bi bila zabavna, da nije strašna, jer se nastavlja u sledećem smeru:
„Postojanje ovakvih veza između izgleda lica i karaktera podržano je činjenicom da ljudi tačno procenjuju karakter, psihološko stanje i demografska obeležja drugih ljudi na osnovu njihovih lica.”
Sasvim je jasno, i ne baš spektakularno otkriće, da se na osnovu nečijeg lica može relativno tačno proceniti pol, starost ili emotivno stanje. Ali nijedna od ovih stvari se ne odnosi na karakter, koji Vong i Kozinski u prethodnom citatu navode kao prvi objekat prepoznavanja. I tu nije kraj. Pozivajući se opet na naučne izvore, oni ističu da ljudi mogu, sa minimalnom tačnošću, na osnovu lica neke osobe da prepoznaju njene političke poglede, poštenje, ličnost, seksualnu orijentaciju, čak i šanse da pobedi na izborima.
Autori priznaju da ova predviđanja nisu sasvim tačna, ali - pazite sad - ne zbog toga što se poštenje ili seksualna orijentacija ne reflektuju obavezno na nečijem licu, već zbog toga što ljudi ne mogu da detektuju relevantna obeležja lica. I tu izvode konačni zaključak da prepoznavanje treba prepustiti računarima.
Čovek ne može da se ne zapita: da li postoji išta naučno u ovim pogledima? Odgovor je žalosno jednostavan: reč je o predrasudama uvijenim u oblandu veštačke inteligencije, u nameri da im se pruži naučni legitimitet.

Statistika u službi pseudonauke

Za one koji ipak veruju da softveri mogu da budu u pravu čak i kad niko ne razume potpuno kako funkcionišu, korisno je pogledati kako je ovaj softver napravljen. Suprotno očekivanjima, ovo istraživanje nije tehnički napredno. Da bi ustanovili veze između lica i seksualne orijentacije, autori su, nimalo maštovito, upotrebili statističku metodu čija je učestalost upotrebe u modernoj veštačkoj inteligenciji dostigla nivo dosade, poznatiju pod neprimerenim nazivom „neuralne mreže”. Kao reprezentativni uzorak, iskoristili su više od trideset pet hiljada slika preuzetih sa veb-sajtova za upoznavanje intimnih partnera. Zbog izabrane metode, čak ni autori nisu sigurni koja obeležja lica sistem koristi za diskriminisanje, niti na koji način. U intervjuu za “Gardian”, Kozinski kaže:
„Bio sam prosto šokiran kad sam video da je algoritmu toliko lako da razlikuje homoseksualne od heteroseksualnih ljudi. Nisam razumeo zašto bi to bilo moguće.”

Ono što je zaista šokantno je dubina njegovog nerazumevanja, ili bar grubog zanemarivanja činjenice da neuralne mreže nisu ni predviđene da pruže kvalitativne uvide u fenomene koje modeluju. To ga, ipak, nije sprečilo da objavi  tačnost prepoznavanja: 81% za muškarce i 71% za žene.
Ovakvi rezultati ne znače ništa bez konteksta u kom bi mogli pouzdano da se interpretiraju. Npr. Vu (Xiaolin Wu) i Čang (Xi Zhang), sa Univerziteta Ciao Tong u Šangaju, stavili su 2016. na uvid javnosti svoj nepublikovani članak u kojem predstavljaju slični softverski sistem. Njihov softver, takođe zasnovan na neuralnim mrežama, prepoznaje kriminalce na osnovu analize izgleda lica. Na uzorku od 1856 slika, prijavljena je tačnost prepoznavanja od skoro 90%.

Tek nakon intenzivnih i javnih kritika, autori su pojasnili rezultate, koristeći standardnu bajesovsku interpretaciju. Postoje dve verovatnoće: ako je neko kriminalan, verovatnoća da će ga softver prepoznati kao kriminalnog je oko 90%. Ali ako softver prepozna slučajno izabranu osobu kao kriminalnu, verovatnoća da je ta osoba zaista kriminalac je svega 4%, uzimajući u obzir trenutnu stopu kriminala u Kini. Međutim, treba imati u vidu da je ovo  pojašnjenje došlo tek posle izvesnog medijskog pritika.

Lažna briga

U stvari, situacija je lošija nego što je predstavljeno u medijima. Navodna briga naučnika o narušavanju privatnosti i sigurnosti zvuči licemerno kad služi da zamaskira opasne pseudonaučne pretpostavke. Ono što treba da nas zabrine više od softvera za automatizovano profilisanje su ljudi koji ozbiljno shvataju i primenjuju ovu parodiju nauke.

Šta biste radili da softver za analizu lica presudi da vaše dete nije dovoljno pametno da upiše školu, vaš supružnik nije dovoljno pošten da se zaposli, a vi niste dovoljno pouzdani da vam se odobri bankarski kredit? Ako vam se ovo čini kao prenaglašeni scenario, postoji i konkretni primer. Firma „Fejsepšn“ (engl. Faception) tvrdi da je u posedu softvera koji, na osnovu izgleda ljudskog lica, može da prepozna tipove ličnosti karakteristične za teroriste, pedofile, akademske istraživače, visokointeligentne ljude, profesionalne igrače pokera, igrače binga, itd. Prepoznavanje pseudonaučnika nisu prijavili.

Dr Milan Gnjatović,
docent na Fakultetu tehničkih nauka u Novom Sadu

Kompletni tekstove sa slikama i prilozima potražite u magazinu
"PLANETA" - štampano izdanje ili u ON LINE prodaji Elektronskog izdanja
"Novinarnica"