Capcanele mașinilor autonome: Cât de pregătiți suntem să ne lăsăm viețile pe mâna inteligenței artificiale

Elaine Herzberg a murit într-o seară de duminică, după ce a fost lovită de o ma­șină. Într-o știre obișnuită a unei zile obiș­nuite, ar fi fost și ea o simplă zecimală în statistica celor aproape 1,3 milioane de oa­meni care își pierd viața în fiecare an în accidentele auto. Numai că prea puține lucruri au fost obișnuite în incidentul din martie din Tempe, Arizona.

Herzberg (49 de ani) a fost lovită de un Volvo XC90 în timp ce traversa strada pe lângă o bicicletă. O înregistrare a camerelor de la bord arată că drumul era slab lu­minat, iar femeia a apărut brusc din beznă, în fața SUV-ului controlat de un sistem au­to­nom experimentat de Uber. În imediata apropiere nu erau treceri de pietoni, ma­șina avea o viteză de aproximativ 65 de km/h, iar pe scaunul șofe­ru­lui se afla un angajat al Uber care ar fi trebuit să monitorizeze tehnologia și să preia controlul în cazul unor urgențe sau al unui impact iminent. Se uita însă în altă parte, iar Lidar-ul sistemului automat – citiți-l ca pe un radar care folosește raze laser – nu a „văzut“ nici el nimic. Elaine Herzberg a fost internată de urgență. Nu a supraviețuit și a devenit pri­mul pieton accidentat mortal de o ma­șină autonomă.

UN EȘEC CATASTROFAL. Când a apărut pe piață, Uber a început prin a înlocui șo­ferii de taximetre și mașinile lor cu șoferi dispuși să-și folosească mașinile proprii și timpul liber pentru a câștiga un ban transportând pasageri. În ultimul timp, compania din California și-a propus să ducă lucrurile și mai departe și să înlocuiască șoferii umani cu o flotă de mașini complet autonome. Pro­iectul inițial a debutat în Pittsburgh, cu o echipă de cercetători de la Carnegie Mellon University și un parc de 20 de Forduri Fusion. Ca principiu general, mașinile autonome se bazează pe senzori și un flux constant de date pentru a naviga și a evita obstacolele. Practic, o combinație de GPS, Lidar (Light Detection and Ranging), radar clasic, camere și alte echipamente al căror rol este monitorizarea con­tinuă a indicatoarelor rutiere, a marcajelor de pe asfalt și a celorlalte vehicule participante la trafic, a pietonilor etc.

Încurajată de primele rezultate, Uber a scos în teste pe străzile din Pittsburgh 100 de Volvo XC90, spre marea încântare a primarului Bill Peduto, care vorbea de transformarea orașului într-un „laborator pentru tehnologie al secolului XXI“. Însă lunile care au urmat au fost marcate de o mul­ți­me de accidente ușoare și de încălcări ale regulilor de trafic, iar relația inițială de dragoste dintre Peduto și Uber a devenit mai degrabă tensionată. Între timp, Uber și-a extins testele în San Francisco, Tempe și Toronto. Din martie 2017 încoace, mași­nile autonome ale Uber au mai fost implicate în alte două accidente în Tempe, ambele fără victime și produse din cauza unor erori umane. După incidentul de luna trecută, compania și-a suspendat toate tes­tele pe drumuri publice, iar o anchetă a Consiliului Național pentru Siguranța Trans­porturilor (NTBS) se află în desfă­șu­rare.

Până la o concluzie oficială, experții din domeniu vorbesc despre un eșec catastrofal al tehnologiei Uber, care și-a arătat slă­biciunile în chiar una dintre funcțiile sale de bază. „Este exact genul de situație pe care Lidar ar trebui să o preîntâmpine“, spune David King, profesor la Arizona State University și expert în planificarea transporturilor, citat de The Guardian. „Chiar nu pot să înțeleg de ce Lidar nu a de­tectat nimic. Înregistrarea video nu ab­solvă Uber cu nimic“, îl completează Ryan Calo, profesor de drept la University of Washington și specialist în sisteme autonome de condus. „Faptul că vizibilitatea era redusă nu are nicio importanță pentru Lidar. Nu există nicio îndoială că ar fi trebuit să o vadă (pe Herzberg, n.r.)“, explică și Missy Cummings, profesor de inginerie la Duke University. Și tot ea mai avertizează că cercetările de până acum au demons­trat că persoanele care monitorizează un sistem automat se plictisesc rapid și pot fi ușor distrase, ceea ce face ca actuala fază de testare semi-autonomă să fie mai peri­culoasă decât am putea să credem.

Poliția a subliniat de mai multe ori că vic­tima a traversat printr-un loc nemarcat și nesemnalizat, dar părerea unanimă este că tehnologia ar fi trebuit să oprească ma­șina indiferent de condiții. „Uber pare să fie o companie pusă pe grabă, care a luat-o pe scurtături pentru a pune pe străzi toate chestiile astea. Nu există nicio scuză“, spu­ne și John Simpson, unul dintre directorii organizației independente pentru drep­­­turile consumatorilor Consumer Wa­t­chdog, adăugând că autoritățile din Arizona ar fi „momit“ Uber cu promisiunea unor reglementări mai relaxate.

SCENARIU CU REPETIȚIE. Cu onoarea nereperată și imaginea serios afectată, sistemele autonome au încasat rapid o nouă lovitură frontală. La doar cinci zile de la Tempe, un bărbat în vârstă de 38 de ani a murit într-un accident produs pe Autostrada 101 din statul California, după ce ma­șina sa, o Tesla X, s-a izbit de o barieră separatoare și a luat foc. Modelul are în dotările standard și un modul Autopilot, care era activ în acel moment. Numai că trebuie făcută o precizare. Obligatorie. Tesla nu produce autovehicule complet autonome, iar Autopilot nu transformă în așa ceva niciuna dintre mașinile pe care este instalat. De altfel, Tesla a explicat încă de la primele versiuni că Autopilot este un sistem imperfect, care „nu previne toate accidentele – un astfel de standard ar fi im­posibil –, dar reduce cu mult probabilitatea producerii lor“, după cum scria pe blogul companiei.

Altfel spus, Autopilot crește siguranța pasagerilor, dar limitele și limitările sale nu trebuie uitate nicio clipă. Potrivit aceleiași surse, o statistică a numărului de accidente raportat la cel al kilometrilor par­curși arată că mașinile Tesla echipate cu Autopilot ar fi de aproape patru ori mai sigure decât orice alt model al oricărui alt producător. Dar această statistică ar putea avea cel puțin o problemă – numărul mic de mașini Tesla de pe străzile de pretutindeni. În SUA, de exemplu, compania a vândut anul trecut 50.154 de unități, echiva­lentul a 0,29% din piața auto ame­ricană.

Dincolo de cifre și de interpretări, Autopilot mai făcuse înainte o victimă. S-a în­tâmplat în mai 2016, când o Tesla S aflată în modul de navigare semi-autonom a intrat sub un camion care a virat brusc în fața sa. În mașină se afla fostul pușcaș marin Joshua Brown, care a murit pe loc în urma impactului. După un an de inves­tigații, NTBS a publicat un raport de 500 de pagini în care se arată că Brown și-ar fi luat mâinile de pe volan pe perioade lungi de timp, în ciuda avertismentelor repetate ale sistemelor de siguranță de a nu face așa ceva. Conform aceleiași surse, băr­ba­tul ar fi trebuit să vadă camionul cu cel puțin șapte secunde înainte de impact, „dar nu a frânat, nu a schimbat direcția și nu a fă­cut niciun alt gest care ar fi putut evita coliziunea“. Lipsa de reacție a lui Brown a fost pusă inițial pe seama faptului că s-ar fi uitat pe un dvd portabil la un film din seria Harry Potter, ipoteză pe care familia sa a respins-o ca fiind „în totalitate falsă“. Nu același lucru se poate spune și despre faptul că senzorii mașinii nu au putut să detecteze un camion cu o remorcă cu 18 roți, într-o după-amiază însorită. Iar asta nu e neapărat o (atât de mare) surpriză.

Ironic, John Dolan, cer­ce­tător-șef al Ins­titutului de Robotică al Uni­versității Carnegie Mellon, avertiza cu doar o zi înainte de producerea accidentului din mai 2016, într-un interviu pentru TechRepublic, că primul astfel de incident va face vâlvă peste tot în lume. „Pă­re­rea multora este că gradul de înțelegere și toleranță pentru un accident mortal cu o mașină autonomă va fi cu mult mai mic decât în cazul celor cu șofer uman. Există un soi de barieră mentală greu de depășit“, spunea el. Și chiar așa a și fost. Și continuă să fie.

NIVELUL ACCEPTABIL DE RISC. Rezultatele preliminare ale investigațiilor Tesla în cazul accidentului de luna trecută arată că, și de această dată, șoferul – identificat între timp în persoana lui Wei Huang, un inginer software al Apple – ar fi ignorat aver­tismentele audio și vizuale de a-și pune mâinile pe volan, și că ar fi avut cel puțin cinci secunde și 150 de metri în care să observe bariera de beton și să reac­țio­neze. Totuși, jurnalul de bord al mașinii nu a înregistrat nicio acțiune.

În această fază a poveștii, accidentele de până acum confirmă ceea ce mulți au subliniat deja – mașinile autonome se com­portă bine în condiții normale de rulare, dar pot avea probleme în cazul unor eveni­mente neașteptate. „În clipa de față, putem să facem orice mașină să conducă auto­mat. Avem sistemele care permit asta la ni­vel de direcție, de frânare și de acce­le­rație. Dar nu avem sistemele de backup pentru cazurile de avarie. Nimeni nu le are. Sigur, problemele de genul ăsta nu au loc des, dar, dacă se întâmplă, trebuie să fie acoperite. Statistic, ele vor avea loc. Din această perspectivă nu trebuie să lăsăm mașinile să circule autonom“, spune Jochen Haab, inginer al Daimler și specialist în noile tehnologii, citat de goauto.com.

Dar chiar dacă un astfel de accident e unul dintre lucrurile cel mai de temut pentru dezvoltatorii mașinilor autonome, el nu trebuie exagerat și exacerbat, crede Dolan de la Carnegie Mellon. „Istoria teh­no­logiei auto a implicat o creștere cons­tantă a nivelului de siguranță datorită ex­pe­rienței acumulate în urma unor expe­riențe dure și nu există niciun motiv pen­tru care acest lucru nu s-ar putea aplica și în cazul mașinilor autonome“. Practic, problema încrederii a fost și va ră­mâne crucială în adoptarea sistemelor autonome, subliniază Ted Koslowski, fost vicepreședinte al Gartner, mai ales că „noile tehnologii implică reconsiderarea unei culturi a automobilului pe care am construit-o vreme de un secol“.

„Tranziția către mașinile electrice și autonome va aduce o schimbare radicală atât în calitatea vieții, cât și în productivitatea economică, având potențialul de a deveni transformarea cu cel mai puternic impact social de la Internet încoace. Va schimba nu doar modul în care trăim, ci și multe dintre actualele fundamente ale economiei globale“, scrie inventatorul  Levi Tillemann în cartea sa „The Great Race: The Global Quest for the Car of the Future“. Marele semn de întrebare, spune Jeffrey Miller, profesor de inginerie la University of Southern California, este dacă și în ce măsură noile tehnologii au atins sau pot atinge un nivel de risc acceptabil la ni­vel social.  Ce ar putea însemna asta? Să acceptăm în primul rând, spune Koslow­ski, că aceste mașini nu sunt perfecte. „Pier­derea controlului și lipsa de încredere sunt probleme majore pentru mulți oameni. Gândiți-vă că, dintr-odată, delegăm unui robot un lucru pe care îl facem de zeci de ani“, adaugă el.

CONTROLUL LIPSIT DE CONTROL. Într-o abordare radicală, Google susţine că autoturismele vor fi mai sigure atunci când oa­menii nu vor avea niciun control sau capa­ci­tatea de a interveni în conducerea lor, sistemul de inteligenţă artificială fiind considerat mult mai sigur decât un om. Prin a sa divizie Waymo, compania are în teste o flotă de câteva sute de mașini care au parcurs până la sfârșitul lui februarie 2018 peste opt milioane de kilometri pe drumurile publice din 25 de orașe din Sta­tele Unite. În trei milioane de kilometri, auto­nomele Waymo au fost vinovate pentru producerea unui singur accident.

În schimb, se pare că au un adevărat ta­lent în a fi lovite de alte mașini, rata acci­dentelor în care au fost implicate fiind mai mare decât cea a șoferilor umani experi­mentați, potrivit datelor unui raport publi­cat de HuffPost. O posibilă explicație ar fi aceea că autonomele respectă la literă legislația rutieră, spre deo­sebire de șoferii umani, pentru care prevederi de genul reducerii vitezei la apro­pierea de o trecere de pietoni sunt mai degrabă „opționale“. Efectul, o rată mai mare a coliziunilor din spate provocate de șoferi umani.

La nivelul marelui public, autonomele încă sunt privite cu reținere. 74% din  ame­ricani, 72% din germani, 65% din francezi și 62% din chinezi cred că acestea nu sunt sigure, potrivit unui studiu Deloitte de anul trecut. Iar această schismă – între un pu­blic obișnuit cu slăbiciunile șoferilor umani și compa­nii­le care construiesc viitorul industriei – nu trebuie trecută ușor cu vederea, pentru că accidentele de până acum nu vor fi și ultimele. Pe măsură ce companii precum General Motors, Ford, Aptiv, Zoox sau Waymo își continuă testele pe drumurile publice, vom mai avea astfel de știri și dezbateri.

Marele argument în favoarea mașinilor autonome este acela că rata accidentelor auto ar trebui să scadă masiv atunci când tehnologia va atinge un anumit nivel de maturitate. Dar cum vom ajunge de aici acolo, nu este întotdeauna foarte clar. Sau foarte sigur.

Șoferul accesoriu

Un ghid de bune practici pentru industrie al Departamentului american al Transporturilor identifică cinci niveluri de (non)autonomie a mașinilor.

• NIVELUL 0. Este cel tradițional. Nu există niciun fel de operațiune automată. Șoferul este uman și controlează integral mașina, de la sistemele de frânare și direcție la semnalizare și pornirea ștergătoarelor de ploaie.
• NIVELUL 1. Majoritatea funcțiilor mașinii sunt controlate doar de șofer, dar există și unele, cum ar fi sistemul de frânare, care pot fi acționate automat de computerul de bord în anumite condiții specifice.
• NIVELUL 2. Cel puțin două funcții – cum ar fi controlul direcției și al vitezei – sunt automate. Șoferul nu are contact fizic cu volanul sau pedalele, dar trebuie să fie pregătit să preia în orice moment controlul autovehiculului. Autopilotul Tesla se află undeva la mijloc între acest nivel și următorul.
• NIVELUL 3. Încă este necesară prezența șoferului la volan, dar fără ca acesta să monitorizeze funcțiile critice sau condițiile de trafic, așa cum se întâmplă în cazul nivelului doi. Intervenția umană poate fi necesară în cazuri de extremă urgență. Cei de la Audi spun că noul model A8 ar fi primul ajuns la un nivel trei autentic.
• NIVELUL 4. Este în totalitate autonom. Computerul de bord controlează permanent toate funcțiile mașinii și monitorizează condițiile de trafic. Intervenția omului este în continuare posibilă și ar putea fi necesară în condiții extreme/ atipice de călătorie. Volvo anunța anul trecut că ar putea vinde primele astfel de modele în 2021.
• NIVELUL 5. Oamenii nu sunt altceva decât o „încărcătură“ care stabilesc o destinație. Mașina este complet autonomă pe întreaga durată a drumului, indiferent de condiții, iar orice intervenție umană este exclusă. Potrivit unor păreri din industrie, am putea vedea primele modele pe străzi începând cu 2025.

Acest articol a apărut în numărul 38 (16-29 aprilie) al revistei NewMoney 

FOTO: Guliver / Getty Images