Dilemă. Un om sau un computer a provocat moartea a doi pasageri ai unei mașini Tesla inteligente?

Întrebarea e simplă. Răspunsul e ceva mai complicat. Un om sau un computer a provocat moartea a doi pasageri ai unei mașini Tesla inteligente?

S-a întâmplat spre sfârșitul lunii trecute și ar fi putut trece la prima vedere drept o altă știre despre un alt accident auto – o Tesla Model S a ieșit de pe șosea, s-a izbit violent de un copac dintr-o suburbie din Houston, cei doi bărbați aflați la bord pier­zându-și viața.

Pentru a stinge incendiul izbucnit imediat după impact, pompierii au folosit peste 110.000 de litri de apă, iar epava mis­tuită de flăcări a dezvăluit un mister care i-a surprins, deopotrivă, pe șoferii de Tesla, investitorii și oficialii companiei: la volan nu se aflase nimeni.

Autonomie și nu prea

„Suntem 100% siguri că nimeni nu se afla pe scaunul șofe­ru­lui, conducând vehiculul respectiv în mo­mentul impactului“, declara pentru pos­tul local de știri KHOU unul dintre poli­țiștii sosiți la fața locului, care au găsit un corp pe bancheta din spate și un altul pe scaunul din dreapta șoferului. Autoritățile spun că berlina mergea cu viteză mare, a ratat un viraj și a lovit apoi copacul frontal.

Tesla, Inc. nu a făcut nicio declarație ofi­cială și nici nu a răspuns la întrebările puse de mass-media. Compania nici măcar nu are un departament de PR. Însă CEO-ul său, Elon Musk, a oferit câteva indicii, reu­șind doar să ridice și mai multe semne de întrebare. „Proprietarul mașinii nu cumpă­rase pachetul Full Self-Driving al Tesla“, a scris Musk într-un tweet, o opțiune supli­mentară de 10.000 de dolari, încă în fază beta, cu un nume care promite mult, dar oferă mai puțin.

Tesla a promovat mult timp ideea că ma­șinile sale vor putea într-o bună zi să-și ducă pasagerii la destinație fără nicio intervenție umană. În 2016, de exemplu, Musk anunța că, în decurs de un an, șoferii de Tesla vor putea să meargă de la Los An­geles la New York „fără a atinge volanul nici măcar o singură dată“. Și mai spunea tot atunci că noile mașini ale companiei sunt dotate cu hardware-ul necesar pentru „conducerea complet autonomă“ și că ar mai fi nevoie doar de software pentru ca aceasta să devină realitate.

Primele versiuni de software au fost lansate în același an, la un preț de 3.000 de dolari. Între timp, prețul a crescut la 10.000 de dolari. „Full Self-Driving“ este însă mai degrabă un artificiu de marketing, criticat și contestat de experții industriei auto.

În cazul unei mașini complet autonome, oamenii nu sunt altceva decât o „încărcă­tură“ care stabilește o destinație. Mașina rulează independent pe întreaga durată a drumului, indiferent de condiții, iar orice in­tervenție umană este exclusă. Tesla încă e departe de așa ceva. Deocamdată, Full Self-Driving (FSD) este doar un alt nume pentru o versiune mai complexă a de pe acum clasicului Autopilot.

Operațional din toamna lui 2015, Autopilot este un sistem avansat de asistență a șoferului, o combinație de software, ca­me­re video, radar și senzori, grație căreia mașina poate rula independent, urmărind indicatoarele rutiere, marcajele de pe asfalt și celelalte vehicule participante la trafic. În plus, poate să găsească locuri libere de parcare, să parcheze singură sau să avertizeze șoferul printr-un zgâlțâit al scaunului dacă deviază de la cursul de pe banda sa.

Dar chiar și așa, Autopilot nu transformă o Tesla într-o mașină complet autonomă. Potrivit prezentărilor companiei, pilotul automat este un sistem avansat de asis­tență a șoferului, menit să crească sigu­ranța și confortul la volan, dar care nece­sită în continuare supravegherea „activă“ – ceea ce înseamnă că șoferul trebuie să își țină permanent mâinile pe volan, pentru a putea interveni în cazul în care apar situații neprevăzute sau erori de func­țio­nare. Cerință valabilă și în cazul FSD.

(Prea) ușor de păcălit

În cazul accidentului de la Houston, datele de bord re­cu­­perate de Tesla „arată până acum că pilotul automat nu a fost activat“, mai scria Musk.

Dacă lucrurile stau într-adevăr așa, e și mai greu de înțeles de ce proprietarul ma­șinii s-a mutat pe locul din spate imediat după ce a scos-o de pe aleea casei, așa cum spune cumnatul acestuia că ar fi fă­cut. Credea că a pornit pilotul automat, dar, de fapt, nu a reușit să o facă? A fost activat inițial, dar s-a decuplat în cele doar câteva sute de metri pe care a apucat să le parcurgă până la producerea accidentului?

Un răspuns oficial vom avea doar la fina­lul anchetei demarate de National Highway Traffic Safety Administration (NHTSA), însă până atunci ar putea trece și câțiva ani. O posibilă și imediată expli­cație ar putea veni de la un experiment realizat de cei de la Consumer Reports (CR), care au încercat să afle imediat după accident dacă ar putea păcăli o Tesla Mo­del Y să meargă pe pilot automat, chiar dacă la volan nu se află nimeni.

Testul a avut loc pe o pistă închisă și a fost condus de Jake Fisher, senior director al centrului de teste auto al CR. Înainte de a intra în mașină, Fisher a închis centura de siguranță și s-a așezat peste ea, pe sca-unul șoferului. (Ca măsură suplimentară de siguranță, pilotul automat se decu-plează dacă este desfăcută centura de si­gu­­­ranță a șoferului în timp ce vehiculul este în mișcare.) A început să ruleze cu aproximativ 25 de kilometri pe oră și a acti­vat Autopilot, după care a setat la zero viteza de deplasare. Mașina s-a oprit, dar pilotul automat a rămas activat. A prins apoi cu o curea o greutate de volan, pentru a înșela senzorii că presiunea pe care o detectează este exercitată de mâinile șoferului, și s-a mutat pe locul din dreapta. Când a crescut din nou viteza, mașina a pornit, urmând marcajele de pe asfalt.

„Mașina a parcurs în mod repetat pista noastră, fără a observa că nu se află nimeni pe scaunul șoferului, fără a observa că nu există nimeni care să atingă volanul. A fost un pic înspăimântător când ne-am dat seama cât de ușor a fost să dejucăm măsurile de siguranță, în mod clar insuficiente, după cum am reușit să dovedim“, spunea Fisher, avertizând că „oricine fo­lo­sește Autopilot fără a se afla pe scaunul șo­ferului se pune pe sine și pe ceilalți în pe­ricol iminent“. Și nici măcar atunci lucrurile nu sunt 100% sigure.

În primăvara lui 2018, Joshua Brown, un fost pușcaș ma­rin, se afla la volanul unei Tesla S, pe care îi plăcea s-o alinte Tessy, și se îndrepta pe Autostrada 27 spre Williston, Florida. Ma­șina era pe Autopilot și a intrat în plin într-un autocamion care a virat brusc la stânga în fața sa. Brown a murit pe loc, devenind pri­ma vic­timă a unui accident în care a fost impli­cată o mașină inte­li­­gentă.

Potrivit declarațiilor oficiale de pe blo­gul Tesla, accidentul s-ar fi produs în „cir­cumstanțe extrem de rare“. Iar când spun asta, cei de la Tesla se referă la faptul că, în momentul schimbării neașteptate de direcție a camionului din fața sa, mașina lui Brown a intrat sub remorcă, în spațiul dintre roțile acesteia. Dacă l-ar fi lovit din spate sau frontal, inclusiv la viteză mare, sistemele sale de siguranță ar fi putut preveni rănirea gravă a pasagerului.

Omul sau mașina?

După un an de in­ves­tigații, The National Transportation Safety Board (NTSB) a publicat un raport de 500 de pagini în care se arată că Brown și-ar fi luat mâinile de pe volan pe perioade lungi, în ciuda avertismentelor repetate ale sistemelor de siguranță de a nu face așa ceva. Lipsa de reacție a șoferului a fost pusă inițial pe seama faptului că s-ar fi uitat la un film pe un DVD portabil, ipoteză pe care familia sa a respins-o ca fiind „în to­talitate falsă“.

Este însă sigur că senzorii lui Tessy nu au putut repera un camion cu o remorcă cu 18 roți. Iar asta, într-o zi cu cer senin. Ironic, cu aproximativ o lună înaintea acci­dentului fatal, Brown postase pe YouTube o înregistrare video făcută din interiorul mașinii sale în care se vede cum Tessy îl avertizează în momentul în care o autouti­li­tară încearcă să-l depășească fără să se asigure, pentru ca apoi să încetinească și să vireze la dreapta, evitând astfel un impact lateral.

Răspunsul lui Musk la demonstrația fă­cută de Consumer Reports a venit printr-un nou tweet, prin care susținea că Autopilotul mașinii din Houston nu ar fi putut fi ac­tivat într-un mod similar, deoarece strada pe care a avut loc accidentul nu avea niciun fel de marcaje, iar pilotul auto­mat nu funcționează în lipsa acestora.

În replică, un proprietar de Tesla a pos­tat un videoclip care demonstrează contrariul. „Tesla mea activează Autopilotul chiar și atunci când nu există marcaje pe drum. Aș putea sfârși oricând într-un copac“, comenta Sergio Rodriguez imaginile filmate de la bordul mașinii sale.

Până în momentul de față, în atenția National Highway Traffic Safety Administration (NHTSA) au ajuns 28 de accidente în care au fost implicate diferite modele produse de Tesla. Investigațiile s-au încheiat în doar 4 cazuri (dintre care unul mortal), toate, cu șofer la volan.

Așa cum se întâmplă de fiecare dată când un accident Tesla face furori, valoa­rea acțiunilor companiei a scăzut și de data asta precipitat. Presat de întrebările in­vestitorilor, Adam Jonas, un analist al băncii Morgan Stanley, a publicat la scurt timp după accident o notă în care scrie că nu există motive de îngrijorare, progno­zând în continuare o creștere semnificativă a titlurilor Tesla. Într-un viitor nu prea în­de­părtat, crede Jonas, noile modele de Tesla vor fi 100% autonome și nici măcar nu vor mai avea volan. Cheia siguranței, continuă el, este înde­păr­tarea completă a oamenilor din ecuația com­plicată a traficului.

Ideea (radicală) că autoturismele vor fi mai sigure atunci când oamenii nu vor avea niciun control sau capacitatea de a interveni în conducerea lor e împărtășită de mulți specialiști din industrie, în opinia cărora un sistem cu inteligență artificială (AI) care funcționează pe baza datelor primite de la o serie de senzori, hărți și ca­me­re video poate fi considerat mult mai sigur decât un om.

În opinia prozeliților autonomiei auto, mo­delele fără șofer vor fi mai sigure decât orice altă mașină aflată în momentul de față pe străzi, fiind imune la oboseală, ne­atenție, nerăbdare, oboseală, șicanări sau alte gre­șeli care cauzează, toate la un loc, 93% din accidentele produse la nivel mondial.

În termeni de siguranță a traficului, cifrele arată că la nivel mondial se produc anual 8 milioane de accidente rutiere, cu 1,3 milioane de victime. Estimările făcute de Cisco spun că mașinile autonome ar pu­tea diminua cu până la 85% rata tam­po­nărilor frontale, după cum ar putea ajuta la reducerea considerabilă a aglomerărilor din trafic, ținând cont că își pot comunica între ele poziția, viteza și direcția de mers. Șoferii ar putea reduce astfel din cele 90 de miliarde de ore pe care se estimează că le petrec anual blocați în trafic la nivel mondial, timp în care se pierd aproximativ 1.000 de miliarde de dolari, în costuri de com­bustibil consumat și productivitate irosită.

La nivelul marelui public, mașinile autonome încă sunt privite cu reținere. 74% din ame­ricani, 72% din germani, 65% din francezi și 62% din chinezi cred că acestea nu sunt sigure, potrivit datelor unui studiu Deloitte. Iar această schismă – între un pu­blic obișnuit cu slăbiciunile șoferilor umani și companiile care construiesc vii­torul industriei – nu trebuie trecută ușor cu vede-rea. Pentru că, din păcate, accidentele de până acum nu vor fi și ultimele. In­di­ferent de cine se va afla (sau nu) la volan.

Acest articol a apărut în numărul 115 al revistei NewMoney