Cum folosește Amazon inteligența artificială pentru a supraveghea sau sancționa personalul din depozite

Pare să fie cea mai anostă dintre toate continuările posibile ale francizei „Terminator“ – roboții nu au venit să dezlănțuie asupra noastră Apocalipsa după Skynet, ci să ne concedieze.

Când Jake a început să lucreze la un depozit Amazon din Florida, a fost surprins de cât de puțini supraveghetori erau: doar doi sau trei la o echipă de peste 300 de mun­citori. „Managementul a fost complet automatizat“, povestea el pentru The Verge. Din când în când, un supraveghetor ap­ă­rea printre ei, cu un laptop în brațe, atrăgându-le atenția să se miște mai repede când rata lor de productivitate începea să scadă.

Jake, care a cerut să folosească un pseu­donim din teama de eventuale represalii juridice, a fost un așa-numit „rebinner“. Sar­cina lui era să ia un obiect de pe o bandă rulantă, să apese un buton, să pună acel obiect într-o lădiță sau o cutie, să apese un alt buton și apoi să o ia de la ca­păt cu un alt obiect, o altă cutie etc. Totul, într-o rutină impusă de zece secunde pentru întregul lanț de operațiuni. „Nu te oprești. Literalmente, nu te oprești. Este ca și cum ai ieși din casă, ai începe să alergi și nu te-ai mai opri pentru nimic timp de zece ore consecutive. Doar ai alerga“, po­vestea el.

După câteva luni, a simțit o arsură în spate. Un supraveghetor i-a spus să-și îndoaie mai mult genunchii atunci când ri­dică greutăți. Când a făcut acest lucru, indicii săi de performanță au scăzut, iar un alt supraveghetor i-a cerut să se miște mai repede. În cele din urmă, spatele i-a cedat complet. I s-au descoperit două discuri deteriorate ale coloanei și a sfârșit cu un ajutor de handicap.

La nivelul tuturor depozitelor Amazon din SUA, arăta o inves­tigație din noiembrie 2020 publicată de The Atlantic, aproximativ 10% din lucrătorii cu normă întreagă au suferit răni grave în 2018, de peste două ori media națională pentru activități simi­lare.

Dintre colegii lui Jake, toți cei care nu au reușit să mențină ritmul – aproape 75%, estima el – au fost concediați în baza unei evaluări fără posibilitate de apel, făcută de un algoritm de inteligență artificială (AI). Orice slăbiciune este astfel permanent opti­mizată din sistem, eliminându-se odată cu aceasta și orice oportunitate de odihnă sau repaus. Pentru că, la Amazon, mașinile sunt adesea șeful – ele angajează, eva­luează și concediază milioane de oameni, fără a mai fi supravegheate de cineva.

Amazon: roboți pentru roboți

Compania fon­dată de Jeff Bezos în 1994 a devenit cel mai mare retailer al lumii și datorită ex­ter­nalizării operațiunilor sale către algoritmi – seturi de instrucțiuni pentru computere con­cepute pentru a rezolva probleme spe­ci­fice. În ultimii ani, tot mai multe atribuții ce țin de middle management și de resurse umane au fost preluate de mașini, iar oameni familiarizați cu strategia corporației Amazon spun că Jeff Bezos este de părere că algo­ritmii AI iau decizii mai rapid și mai precis decât oamenii, reducând costurile și ofe­rind companiei un avantaj compe­titiv.

Aproape fiecare aspect al managemen­tului din depozitele companiei este di­rec­ționat de software, de ora la care oamenii își încep ziua de lucru până la con­­ce­dierea lor pentru că nu au ținut pasul cu ritmul impus.

Sistemul este o mașină care vede doar cifre, nu oameni, spun acum criticii săi. „Unul dintre lucrurile pe care le auzim în mod constant de la lucrători este că aceș­tia sunt tratați ca niște roboți, deoarece sunt monitorizați și supravegheați de acești algoritmi automați“, explică Stacy Mitchell, director al grupului de advocacy Institute for Local Self-Reliance.

Un muncitor dintr-un depozit de pe Coasta de Vest, de exemplu, povestea despre un dispozitiv care proiectează o rază de lumină asupra obiectului pe care trebuie să îl aleagă de pe bandă, eliminân­du-se astfel ceea ce el numea „microtimpii de repaus furați în timpul în care căutam următorul articol“.

Algoritmul de supraveghere merge atât de departe, încât urmărește și ceea ce com­pania numește TOT – „time off task“. Dacă scanarea unui pachet, de exemplu, ia prea mult timp, angajatul este avertizat auto­mat, iar dacă nu își îmbunătățește timpii de reacție, este dat afară. Diferite publicații americane citează foști sau actuali angajați din depozite care mărturiseau că au evitat sau evită pauzele de baie pentru a-și men­ține timpii în conformitate cu așteptările.

Anul trecut a avut loc un val de proteste ale lucrătorilor din diferite facilități ale Amazon. Majoritatea au fost declanșate de gestionarea automată a activității, despre care contestatarii spuneau că nu mai lasă loc pentru nevoile umane de bază. În California, de exemplu, un muncitor a fost con­cediat automat după ce și-a depășit cu o singură oră cota de timp liber neplătit alo­cată, ca urmare a unui deces în familie. Este unul dintre puținele cazuri în care s-a revenit asupra deciziei și doar după ce colegii săi au depus o petiție. Pentru a satisface mașina, muncitorii au simțit că sunt obligați să devină ei înșiși mașini. „Nu suntem roboți!“ a fost una dintre scandările cel mai des auzite.

Deshidratare intenționată

Lansat en fanfare în 2015, serviciul de livrări Flex – în fapt, o veritabilă armată de șoferi inde­pen­denți, contractuali – a devenit rapid o parte critică a mecanismului de livrări al Ama­zon. Practic, șoferii Flex asigură livra­rea în aceeași zi a coletelor comandate de clienți, gestionând în același timp și un nu­măr mare de livrări de produse alimentare vândute prin Amazon Whole Foods Market.

Numai că, odată ce intră în sistem, fie­care mișcare a lor este atent monitorizată, analizată și interpretată de algoritmi. Au ajuns la destinația de livrare când au spus că o vor face? Și-au completat traseul în tim­pul alocat? Au lăsat pachetul pe pragul ușii din spatele casei, așa cum a cerut clien­tul?

Algoritmii Amazon scanează permanent fluxul de date, le raportează la anumite mo­dele de performanță prestabilite și decid apoi cine merită să primească mai multe comenzi sau cine trebuie să fie trecut pe linie moartă. Feedbackul uman este rar. Șoferii primesc ocazional e-mailuri automate, dar în cea mai mare parte a timpului sunt într-o ceață totală în ceea ce pri­­vește evaluările lor, care includ patru ca­tegorii: Fantastic, Excelent, Corect sau În pericol.

Bloomberg a intervievat mai mulți foști manageri ai retailerului, care spun că sistemul nu este suficient de adaptat la provo­cările din lumea reală cu care se confruntă șoferii în fiecare zi. Potrivit acestora, top managementul Amazon știa că delegarea muncii către mașini va duce la apariția de greș­eli și la o imagine negativă, dar ar fi decis că este mai ieftin să aibă încredere în algoritmi decât să plătească specialiști în resurse umane pentru a investiga concedierile cu semne de întrebare, mai ales că șo­ferii pot fi înlocuiți permanent, cu ușu­rință. Iar cel puțin până în prezent, Amazon nu a avut probleme în găsirea contractorilor Flex.

Practic, orice proprietar de ma­șină cu un permis de conducere valid poate deveni șofer Flex. Trebuie doar să-și instaleze o aplicație pe telefonul mobil, aplicație descărcată până acum la nivel glo­bal de aproximativ patru milioane de persoane – dintre care peste 660.000 doar în primele cinci luni ale acestui an, numai în SUA, în creștere cu 21% față de aceeași perioadă a lui 2020.

În cadrul companiei, programul Flex este considerat un mare succes, ale cărui beneficii depășesc cu mult ceea ce sunt nu­­mite „daune colaterale“. „Executivii știau că rahatul va ajunge în cele din urmă în ventilator. Singura întrebare era cât de pu­ternic va împroșca“, explica pentru Bloomberg unul dintre inginerii IT care au ajutat la proiectarea sistemului.

Purtătoarea de cuvânt a Amazon, Kate Kudrna, replica recent că plângerile existente nu pot fi generalizate la nivelul între­gului sistem de evaluare și că acestea ar ține mai degrabă de domeniul anecdoticului și al mitologiei urbane. „Am investit se­rios în tehnologie și resurse, atât pentru a le oferi șoferilor transparență în ceea ce pri­vește calitatea și eligibilitatea lor pentru a continua să livreze, cât și pentru a le investiga toate contestațiile“, adăuga Kate Kudrna.

Într-o scrisoare deschisă către Jeff Bezos, Abe Collier îi scria anul trecut magnatului despre presiunile exercitate asupra sa în timpul unei zile de lucru în calitatea sa de șofer de livrări al Amazon: deshidratarea intenționată pentru a nu fi nevoit să meargă la baie, așteptări nerealiste în ceea ce pri­vește timpii de livrare, ostilitatea trecători­lor, permanentul stres fizic și psihic. Dar Collier a ținut să precizeze și că, în pofida a toate astea, este recunoscător pentru „oportunitatea“ avută. Nu era eligibil pentru indemnizația de șomaj și, scria el, „din cauza pandemiei, eram disperat după o sursă de venit“.

(In)corectitudinea algoritmică

La nivelul său cel mai de bază, managementul automat a început cu planificarea echipelor. Algoritmii de programare există de la sfârșitul anilor 1990, când magazinele au început să îi folosească pentru a prezice traficul de clienți și a stabili schimburile de personal astfel încât să se obțină vânzări maxime.

Apoi, software-ul a devenit tot mai eficient și a continuat să se îmbunătățească și să ia în considerare inclusiv variabile pre­cum vremea sau evenimentele sportive din apropierea magazinelor, ajungând să prognozeze nevoia de personal în trepte de 15 minute.

Astăzi, în schimb, astfel de so­luții sunt folosite adesea pentru a stabili și coordona doar minimul de lucrători necesari pentru a face față cererii prognozate. Și chiar dacă nu este neapărat cea mai profi­ta­bilă abordare, este mai ușor pentru companii și investitori să cuantifice câștigurile rezultate din reducerile costu­rilor forței de muncă decât vânzările pierdute.

Deși au început în retail, algoritmii de planificare sunt acum omniprezenți, iar noile tehnologii le-au permis sistemelor de ma­nagement automat să preia un rol de su­praveghere mai detaliat. Amazon și-a au­tomatizat operațiunile de resurse umane mai mult decât majoritatea companiilor, dar utilizarea algoritmilor pentru luarea unor decizii care afectează viața oamenilor este din ce în ce mai frecventă. Mașinile pot aproba cererile de împrumuturi bancare și pot chiar decide dacă cineva merită să fie eliberat condiționat sau dacă ar trebui să rămână după gratii.

Experții în informatică au cerut regle­men­tări care să oblige companiile să fie tran­sparente cu privire la modul în care algo­ritmii le afectează angajații. În decembrie 2020, de exemplu, senatorul democrat Chris Coons a înaintat un proiect de lege pri­vind „corectitudinea algoritmică“. Potrivit acestuia, Comisia Federală pentru Co­merț a SUA ar urma să stabilească un pachet de reguli care să asigure utilizarea al­goritmilor în mod echitabil, astfel încât cei direct afectați de deciziile acestora să aibă șansa de a contesta și corecta eventualele greșeli. Până acum, lucrurile nu s-au mai mișcat însă deloc.

Deocamdată, e limpede că aceasta nu este noua revoluție industrială anticipată și așteptată de profeții din Silicon Valley. Și în timp ce unii magnați-tech precum Elon Musk sau Mark Zuckerberg rămân fixați pe scenariul distopic că roboții ne fură locurile de muncă, marea spaimă a tot mai mulți dintre oamenii de rând este că mașinile sunt de acum șefii lor.

Acest articol a apărut în numărul 121 al Revistei NewMoney. FOTO: Getty