Ni Facebook ne razumije algoritme Facebooka

Nakon svih rukova koji su proizašli iz spektakla "lažnih vijesti" zahvaljujući Facebook feedu vijesti - sadržaju koji vidite kad se na Facebook prijavite s telefona ili prijenosnog računala - jedno je postalo potpuno jasno. Ni Facebook ne razumije Facebook.

I to je problem oslanjanja na algoritamsku umjetnu inteligenciju (AI) koju su tijekom godina izgrađivali (ili točnije, slagali) stotine različitih programera i programera.

Sve mi je to postalo jasno proteklih dana dok sam promišljao o stvarima koje sam naučio na najnovijoj konferenciji HealtheVoices 2017 i nakon što sam pročitao izvrstan članak o Facebooku Farhada Manjooa u New York Times Magazine.

Na konferenciji se predstavnik Facebooka suočio s pomalo frustriranim (a ponekad i gotovo neprijateljskim) ispitivanjem o tome zašto se čini da se stvari koje su pisali kao zdravstveni aktivisti i zagovornici rijetko pojavljuju na tuđim Facebook feedovima vijesti. Čini se da je jedini način da se angažira, rekli su ljudi iz publike tog dana, da ga kupe putem Facebooka (putem plaćenog mehanizma poznatog kao "pojačavanje" objave).

Predstavnik Facebooka nije mogao odgovoriti na ova pitanja o tome zašto se naizgled kvalitetan i dobar sadržaj ne prikazuje u njihovom feedu vijesti. Ipak, svaki pojedinačni sudionik s kojim sam razgovarao - strastveni, angažirani zagovornici zdravstva - vidio je to kao problem s Facebookom. Ali čak ni Facebook nije mogao objasniti kako to popraviti.

Nije ni čudo. Članak časopisa Times rasvijetlio je "zašto". Algoritam feeda vijesti na Facebooku razvrstava, međutim, u prosjeku 2000 komada mogućeg sadržaja svaki put kad osoba prvi put učita Facebook i pri svakom osvježavanju.

Toliko je varijabli koje ulaze u taj složeni, mračni i zaštićeni algoritam sortiranja da čak ni Facebook ne može odgovoriti zašto se nešto hoće ili neće prikazati u nečijem feedu vijesti. To je uglavnom ista vrsta boli koju webmasteri već dugo osjećaju u radu s Googleom i njihovim algoritmom indeksiranja pretraživanja.

Činjenica da se algoritam lako može zaobići jednostavnom kupnjom pristupa vijestima ljudi nije iznenađenje. To je velik dio razloga što Facebook zarađuje toliko novca iz godine u godinu. Čak i najlošiji sadržaj može se prebaciti na vaš navodno personalizirani feed vijesti.

Feed vijesti: Još uvijek u tijeku

Pomislili biste da bi nakon toliko godina napornog rada, pažnje, radnog vremena programera i istraživanja ovog algoritma neke osnovne stvari ispravio. Ali dvije nedavne anegdote pokazuju mi ​​koliko još treba proslaviti Facebook-ov hvaljeni AI.

Prvi je koncertni mem koji je održao Facebook vijesti krajem travnja 2017. U ovom konkretnom memu sudionici navode 10 koncerata kojima su prisustvovali u životu, ali jedan od njih je lažan. Na prijateljima je osobe da uoče lažni koncert kojem nisu prisustvovali i komentiraju ga.

Moja prva misao kad sam prvi put vidio ovo iskakanje je bila: "Koga briga?" jer, iskreno, nije me briga na kojim su koncertima moji prijatelji prisustvovali. Da sam bio u stvarnom razgovoru sa svojim prijateljima na temu "koncerti koje smo vidjeli", to bi potencijalno moglo biti cool. No, kao pokretač razgovora, smatrao sam da to nije senzibilno, jer je nesvakidašnje - društveno povezano s ništa, Stoga sam pogodio "Sakrij ovaj post" od prvog koji sam vidio na svom feedu vijesti.

Je li to pomoglo zaustaviti priljev ovog sadržaja na moj feed vijesti tijekom sljedećih nekoliko dana? Niti jednu jotu. Vidio sam ne manje od desetak takvih pitanja u sljedeća dva dana kako preplavljuju moj feed (čak i nakon što sam kliknuo na "Sakrij ovaj post" i na još najmanje dva). Sve me to nije zanimalo nula. Toliko o Facebookovom AI radu.

Druga je županija Bloom. Veliki sam obožavatelj i radovalo me kad je Berkeley Breathed ponovno počeo crtati. Radujem se svakom danu kada se u njegovom feedu pojavi novi njegov strip. Ipak, misteriozno, Facebook o tome nema pojma. Prestali su mi prikazivati ​​njegove stripove prije nekoliko tjedana, iako sam studiozno kliknuo na većinu njih kako bih ih lakše čitao u povećanom obliku.

Kako bi toliko klikova moglo rezultirati oznakom "ne zanima me, prestani to prikazivati ​​ovom korisniku"? Facebook ne bi mogao odgovoriti na ovo pitanje ako bi želio, jer nema pojma kako njegov algoritam feeda vijesti zapravo radi - ili ne radi - za pojedine korisnike. Ovo bi bilo smiješno da nije tako velika stvar. Prema istraživačkom centru Pew, više od polovice Amerikanaca vijesti dobiva s Facebooka.

Obrasci povratnih informacija koji korisnicima daju malo povratnih informacija

Facebook tvrdi da može procijeniti (i raditi na rješavanju) mnogih problema ako su korisnici samo češće koristili svoje obrasce za povratne informacije. Ali postoji razlog zbog kojeg korisnici mrze davati povratne informacije Facebooku - njihov sustav povratnih informacija samo sranje.

Facebookovi obrasci za povratne informacije korisnicima daju vrlo malo vlastitih povratnih informacija i umjesto toga vrednuju vodeće korisnike nizom pitanja "Evo kako to sami popraviti, idiote" koja očito uvijek sugeriraju da je većina vaših problema popravak - ne Facebook. Na kraju tih oblika nema čovjeka i nema ljudskog odgovora koji ćete ikada primiti. To je sama definicija neljudskog. Ironično za tvrtku koja sebe vidi kako „gradi globalnu zajednicu“ povezujući sve socijalnije. Kako tvrtka to može učiniti izbjegavajući bilo kakav ljudski kontakt sa svojim korisnicima? 1

AI je toliko složen da ljudi trebaju pomoći

Mnogi programeri kažu si da AI može u velikoj mjeri riješiti bilo koji ljudski problem ako mu se da dovoljno varijabli, skupova podataka i dorade. Ali ono što je Facebook jasno pokazao jest da ono što čini kako bi pomoglo u rješavanju problema sa feedom vijesti, njegov AI ne funkcionira dobro za mnoge, mnoge ljude.

Nitko se ne osjeća kao da Facebook uopće sluša. Kao što sam ranije napomenuo, zdravstveni zagovornici i aktivisti s kojima sam razgovarao na konferenciji rekli su da ih se ne čuje. Čini se da društvenim mrežama poput Facebooka nije stalo. I u zatvorenoj Facebook grupi za izdavače vijesti, svakodnevno slušam frustraciju zbog toga koliko uglednih novinskih organizacija na Facebooku propadaju njihovi detaljni, istraživački novinarski članci bez plaćenog poticanja. U međuvremenu, lagani članak o bacanju "5 nevjerojatnih, brzih i jednostavnih načina za ljetnu preplanulost" postiže više pogodaka nego što Trumpov Google pretražuje "Kako mogu popraviti ...".

Pucnjave za rastanak na današnjoj AI

Pohvaljeni Appleov Siri često se smatra korisnim primjerom umjetne inteligencije koja djeluje u današnjem modernom svijetu. Ali dok sam pisao ovaj članak, rekao sam: "Hej Siri, reci Nancy da je volim."

Siri je u svojoj beskrajnoj mudrosti ispravno primila primatelja poruke (srećom, budući da znam samo jednu Nancy). Ali tekst koji je poslala glasio je: "Volim je." Siri očito nije razumjela stvarno značenje moje rečenice, i umjesto toga koristila je osnovne filtre kako bi shvatila da želim poslati tekst osobi u mojim kontaktima s doslovnom porukom: "Volim je."

Ovo je razina umjetne inteligencije s kojom danas radimo u velikim tehnološkim tvrtkama kao što su Facebook, Google i Apple - donekle korisna, ali frustrirajuće nejednaka u kvaliteti i provedbi.

Zaista se nadam da će Facebook to shvatiti, jer se svaki dan sve manje koristim jer sve manje postaje manje važan za moj stvarni interesi i svakodnevnom životu. Možda sam danas u manjini, ali pretpostavljam da će se to promijeniti ako Facebook uskoro ne riješi ove probleme relevantnosti i interesa.

fusnote:

1. To je jedan od razloga zbog kojih Facebook prezentatore na konferencijama često zapljuskuju s toliko pitanja - to je jedini ljudski kontakt koji je većina nas ikad imala s ovim tehnološkim gigantom. [↩]