Tajni dokumenti: čini se da Facebook stavlja značajke i dobit iznad sigurnosti korisnika

Facebook, trinaestogodišnji behemot s 1,23 milijarde aktivnih korisnika, ostvaruje prihod od preko 8 milijardi dolara po tromjesečju - od toga 3 milijarde neto prihoda (npr. Dobit).

No, s toliko mnogo korisnika, čini se da je Facebook sigurnost korisnika prebacio u sekundarnu brigu. Do početka ove godine, Facebook je zapošljavao samo 4.500 ljudi za pregled sadržaja. Što zvuči kao mnogo ljudi dok ne shvatite da tih 1,23 milijarde aktivnih korisnika dijeli milijarde dijelova sadržaja svaki dan, s milijunima pritužbi korisnika na Facebook sadržaje koji se podnose svaki dan.

Ima li Facebook ozbiljan problem sa sigurnošću korisnika? Upravo objavljeno Čuvar pregled tajnih, internih dokumenata sugerira da je njegov problem izvan kontrole.

Facebook je priznao da ima nekakvih problema kad se ranije ove godine dogovorio da će udvostručeno osoblje za pregled udvostručiti - na 7.500 - usred navoda da tvrtka jednostavno ne radi (ili možda brine?) Kada se potencijalno štetni sadržaj prometuje preko njene platforme , Ne udvostručujete svoje moderatorsko osoblje ako je sve otkačeno.

Sada, (UK) Guardian objavio je zapanjujuće detalje Facebook-ovih smjernica za moderiranje sadržaja, iskorištenih iz više od 100 tajnih, internih priručnika za obuku i dokumentaciju. Pomalo je uznemirujuće što sve ove važne stvari nema ni u jednom priručniku koji Facebook moderatori dobivaju kad ih angažiraju.Umjesto toga, čini se da je riječ o djelomičnom pristupu politici, što rezultira sukobljenim informacijama, neujednačenom umjerenošću i vrlo malo pouzdanosti u tome kako njegove politike moderiranja zapravo djeluju u stvarnom svijetu.

"Facebook ne može zadržati kontrolu nad svojim sadržajem", rekao je jedan izvor. "Previše je narastao, prebrzo."

Kaže se da mnogi moderatori imaju zabrinutosti zbog nedosljednosti i neobične prirode nekih politika. Na primjer, oni koji imaju seksualni sadržaj najsloženiji su i zbunjujući.

Kao samo jedan mali primjer koliko Facebook umjerava sadržaja, u člancima se napominje: "Jedan dokument kaže da Facebook tjedno pregledava više od 6,5 milijuna izvještaja koji se odnose na potencijalno lažne račune - poznate kao FNRP (lažni, a ne stvarna osoba)." I to samo za lažne račune. Zamislite koliko je još milijuna izvještaja za stvarni sadržaj.

Značajke prije razmišljanja

Prije nego što se razmisli o tome kako bi ljudi mogli koristiti (i zloupotrijebiti) novu značajku, čini se da Facebook favorizira izbacivanje stvari i smišljanje kako to moderirati kao naknadnu pomisao. Pogledajte Facebook Live, uslugu streaminga video zapisa koja omogućava ljudima da vide sve što im se trenutno događa u životu. Za što su mislili da će ih ljudi na kraju koristiti?

"Istodobno se Facebookova značajka streaminga uživo koristila za emitiranje ubojstava i samoubojstava, a tvrtka očito nije mogla preventivno isključiti stream." Duh! Većina tvrtki vjerojatno bi pomislila, prije nego što pokrene ovako nešto, "Hej, trebamo način da odmah prijavimo tako problematične videozapise i da ih prekinemo." Očigledno, ne Facebook.

To pokazuje stalni nedostatak promišljanja i proaktivnog rješavanja problema prije nego što se pojave. Ili pogriješiti na strani: "Hej, krenimo s ovim i vidjet ćemo kakvu će negodovanje dobiti prije nego što nešto poduzmemo." (Sve u ime „slobode govora“, naravno, zanemarujući činjenicu da je Facebook globalna platforma.) 1

Gdje sam ponovno stavio tu smjernicu za moderiranje?

Zaštita vaše zajednice započinje angažiranjem dovoljno moderatora koji će im posao učiniti ugodnim i ne neodoljivim. Jasno je da Facebook to nije uspio uživajući u svom rekordnom rastu korisnika, prihodima i dobiti. Ali to također uključuje osnaženo vodstvo umjerenosti u zajednici koje osigurava da je sve što im je potrebno za obavljanje posla sve na jednom mjestu. Facebook, tek sada, očito dublje razmišlja o potrebi za boljim alatima, prema njihovom glasnogovorniku: "Pored ulaganja u veći broj ljudi, gradimo i bolje alate kako bismo zaštitili svoju zajednicu", rekla je za The Guardian. "Pojednostavit ćemo prijavu problema, brže će naši recenzenti utvrditi koji postovi krše naše standarde i lakše će se obratiti policiji ako nekome treba pomoć."

A možda ih sve staviti u jedan priručnik? Dakle, moderatori znaju gdje treba tražiti i trebaju li sve smjernice biti dosljedne?

Videozapisi o samoozljeđivanju sasvim su u redu u Facebookovom svijetu, jer je osoba "u nevolji". Pa tako i okrutnost prema životinjama (možda zato što je životinja u nevolji?). "Osveta za osvetu" također je u redu, ako moderator ne može potvrditi nedostatak pristanka obje strane (što bi, pretpostavljam, moglo biti prilično teško izvršiti na vrijeme).

"Neke fotografije neseksualnog fizičkog zlostavljanja i maltretiranja djece ne moraju se brisati ili" postupati "ako nema sadističkog ili slavljeničkog elementa." Sve dok ne držite sadizam i proslave izvan svojih nasilnih slika i videozapisa, očito će im Facebook to dopuštati.

Prema dokumentima, „Videozapisi nasilnih smrti uznemiruju, ali mogu pomoći u stvaranju svijesti. Za videozapise smatramo da maloljetnicima treba zaštita, a odraslima izbor. Označavamo kao "uznemirujuće" videozapise nasilne smrti ljudi. " Nije jasno gdje samoubilački sadržaj - poput videozapisa uživo ili prijetnji - spada u Facebook-ove politike moderiranja, ali čini se da je dopušten.

Facebook treba dati prioritet sigurnosti korisnika

Neki su zatražili da se Facebook strože regulira, budući da je čuvar svih ovih sadržaja (slično kao što je televizijska kuća čuvar sadržaja na svojoj mreži):

Izvještaj britanskih zastupnika objavljen 1. svibnja kaže da su "najveće i najbogatije tvrtke na društvenim mrežama sramotno daleko od poduzimanja dovoljnih radnji za borbu protiv ilegalnih ili opasnih sadržaja, za primjenu ispravnih standarda zajednice ili za zaštitu svojih korisnika".

Pogreška na strani "slobode govora" može se činiti dobrom idejom, posebno za američku tvrtku. No, društvene mreže su prvenstveno internetske zajednice - nisu baš poput novina. Facebook-ova je primarna svrha povezati ljude jedni s drugima. Iz toga proizlazi da bi njihove smjernice više odražavale ovu raznolikost i dizajnirane za sigurnost te zajednice, a ne nekakve mantre o objavljivanju vijesti ili praznu ideologiju.

Željeli bismo da Facebook bude transparentniji u pogledu načina na koji svakodnevno moderira milijune ljudi i dijelove sadržaja. Prosipanje većeg svjetla na ove probleme pomaže ukazivanju na probleme i daje Facebooku priliku da poboljša sigurnost svoje zajednice. I željeli bismo vidjeti da Facebook uloži puno više od svog prihoda kako bi osigurao dovoljno osoblja za zaštitu svoje platforme. Za sve korisnike.

Za daljnje informacije

fusnote:

1. Oh, i imajte na umu da ako imate 100.000 sljedbenika na Facebooku, u njihovim očima to vas čini "javnom osobom" - a ne podliježe privatnosti ili drugim zaštitama običnih ljudi. [↩]