Cum încearcă Amazon să înlocuiască prietenii reali ai copilului dumneavoastră cu inteligența artificială

Autor: Romulus Deac

„Alexaficarea” Amazon continuă. Și odată cu ea, Inteligența Artificială mai face încă un pas și în viața copiilor. Dar cât de mare și cu ce preț?

Acest articol a apărut în numărul 42 (11-24 iunie) al revistei NewMoney

„Echo e magic. Și mi-a și transformat copilul într-un netrebnic“, scria la un moment dat pe blogul său Hunter Walk, fost pro­duct manager la YouTube, reproșându-le celor de la Amazon că Alexa tolerează proas­tele năravuri, încurajându-i astfel pe copii să devină autoritari și nepoliticoși.

După ce l-a integrat în telefoane, mașini, frigidere, ceasuri, ba chiar și în aspiratoare, Amazon a lansat luna trecută Echo Dot Kids, o versiune pentru copii a omniprezentului său asistent personal, Alexa. Costă 79.99 dolari, e asemănător unui puc de hochei pe gheață și are aceleași dotări ca standardul Echo Dot – șapte microfoane pentru a prelua comenzile vocale și un difuzor pentru a reda muzică sau răs­pun­surile date de Alexa. Ce diferențiază cu adevărat Kids Edition este însă noul serviciu FreeTime, care vine preactivat și adaugă control parental, conținut dedicat pentru copii și o interacțiune cu Alexa adap­tată vârstei lor. Ceea ce înseamnă inclusiv o funcție care încurajează folosirea formulelor magice „te rog“ și „mulțumesc“. Numai că ex­perții de la răscrucea dintre pediatrie și Inteligența Artifi­cială (AI) aver­ti­zează la unison că există o grămadă de necunoscute legate de modul în care inte­­r­acțiunea cu inteligența artifi­cială – indiferent de „ambalajul“ său – ar pu­tea afecta min­tea unui copil și consideră că perverti­rea bunelor maniere ar trebui să fie cea mai mică dintre îngrijorările unui părinte.

PRECEDENTUL BARBIE. Când a lansat Hello Barbie, prima pă­pușă cu inteligență artificială, e greu de crezut că Mattel a anti­cipat furtuna care a urmat. „Păpușa Barbie vorbitoare a copilului dumneavoastră ar putea trage cu urechea la toate con­ver­sa­țiile particulare“, atenționa un articol New York Daily News. „Înspăimântător“, a fost reacția The Was­hington Post, în vreme ce The New York Times avertiza că „prietenia sintetică ar putea-o înlocui pe cea reală“. Uitându-te însă la ea, e greu să in­tuiești că Hello Barbie e nu doar male­fică, ci și una dintre cele mai avansate tehnologic jucării făcute vreodată. Sub ținuta sa trendy – un sacou metalic, tricou și jeans strâmți – se ascund o grămadă de componente electronice de vârf. Colierul ei stilat, de exemplu, ascunde un microfon și un difuzor, care îi permit să inițieze sau să întrețină discuții, să spună povești și glume sau să se joace. Pentru a-i dezlega limba, părinții trebuie să descarce o aplicație mobilă și să conec­teze păpușa la o rețea WiFi. Când copilul vorbește cu păpușa, aceasta înre­gis­trează conversația și o transmite către ser­verele ToyTalk, companie cu care Mattel a încheiat un par­teneriat pentru a o aduce la viață pe Hello Barbie. Un software de recunoaștere a vorbirii convertește conținutul audio în text, iar un alt software AI selectează câteva cu­vinte-cheie pentru a-i sugera păpușii un răspuns dintr-o bază de peste 8.000 de replici imaginate de o echipă de scriitori. Totul în mai puțin de o secundă!

Citiți și: De ce a început să aibă din nou succes Volvo, după ce a fost reconstruit de chinezi

Mai mult, Hello Barbie nu uită nimic și construiește în cloud o bază de date despre preferințele și obiceiurile copiilor, pentru a le folosi în conversațiile ulteri­oare. Și, atenție!, nu poate să păstreze un secret! O selecție de cuvinte-cheie extrase din discuțiile copiilor sunt canalizate în­spre o bază de trenduri, din care Mattel și ToyTalk află ce îi interesează pe micii lor clienți în fiecare moment. Date despre care cei de la Mattel spun că îi ajută să-și îmbu­nă­tățească permanent produsul, de exemplu prin adăugarea de noi replici în baza de răspunsuri. Vorbesc copiii despre ulti­mul film de animație al Disney? Cu sigu­ranță și Barbie va avea ceva de spus.

De aici și până la un instrument pervers de marketing pare să nu mai rămână decât o linie tot mai estompată. Întrebată de Newsweek dacă informațiile stocate vor fi folosite și în alte scopuri, Michelle Chidoni, purtătorul de cuvânt al Mattel, a dat un răspuns prudent: „Nu le vom folosi pentru a influența deciziile în ceea ce pri­vește linia de produse Barbie“. Numai că răspunsul său nu spune nimic despre posi­bilitatea folosirii acestor date pentru alte linii de jucării, în condițiile în care, potrivit politicii de confidențialitate a ToyTalk, „terțe părți“ pot valorifica aceste date pentru „cercetare și dezvoltare“.

PRIETENIE SAU MONITORIZARE? E limpede că toate astea nu au sunat și nu sună prea bine pentru apărătorii drepturilor co­piilor. „Ar fi trebuit să-i spună Supraveghetoarea Barbie, nu Hello Barbie“, afirma la un moment dat Susan Linn, fondatoarea or­ganizației non-profit Campaign for a Commercial-Free Childhood. „Copiii care vorbesc cu Hello Barbie nu vorbesc doar cu o păpușă; ei vorbesc cu Mattel, o cor­po­rație pentru care ei sunt interesanți doar din punct de vedere financiar“, explica ea pentru Newsweek.

„Nu e un instrument de supraveghere. Nu există nicio cameră în păpușă, iar aceasta nu ascultă tot timpul conversațiile; ea trebuie să fie activată (prin apăsarea la fiecare schimb de replici a unui buton de la curea, n.r.). În plus, toate aceste date sunt la dispoziția părinților“, a fost replica Mattel. Și așa și este. Părinții au un cont de pe care pot interzice accesul ToyTalk la anumite părți ale unei conversații sau la întregul ei. „Dacă există ceva în ceea ce spune copilul dumneavoastră ce nu vreți să fie pe serverele noastre, îl puteți șterge și e bun șters din toate bazele noastre, în doar câ­teva secunde“, explica Oren Jacob, CEO al ToyTalk.

Dar ce se întâmplă dacă Hello Barbie e martorul unei confesiuni tulburătoare despre un eventual abuz asupra copilului sau alte fapte care ar trebui să ajungă în aten­ția autorităților? „ToyTalk nu monito­ri­zează constant discuțiile pe care copiii le au cu Hello Barbie. Ocazional și aleatoriu, putem analiza anumite conversații, dar nu­mai pentru a testa, îmbunătăți și schimba tehnologia folosită de Hello Barbie. În situația puțin probabilă în care ajunge în atenția noastră o conversație care ridică semne de întrebare privind siguranța copilului, vom respecta legile în vigoare și vom coopera cu autoritățile în drept, de la caz la caz“, explica purtătorul de cuvânt al Mattel, într-o discuție cu fushion.net.

Anul acesta, Mattel ar urma să lanseze o nouă versiune a Hello Barbie, de data asta cu rol de „asistent personal“ sub for­ma unei holograme 3D. Prezentată încă din iarna lui 2017, Hello Barbie Hologram poate conversa, răspunde la o grămadă de întrebări, dansează, face yoga, își schimbă hainele și înfățișarea, le reamintește copii­lor să se spele pe dinți și e activă 24 de ore din 24. Mattel nu a intrat în detalii despre specificațiile tehnice, dar a dat asigurări că nu stochează nicio informație pe serverele sale și că produsul final va fi întru totul con­form prevederilor COPRA (Children’s Online Privacy Protection Act). Inițial, lansarea Hello Barbie Hologram a fost anun­țată pentru vacanța lui 2017, dar a fost amâ­nată apoi pentru 2018, „din cauza unor teste adiționale“, fără a se mai reveni și cu alte detalii.

(IN)SECURITATEA DATELOR. Tot de la Mattel, și tot în acest an, ar fi trebuit să apară pe piață și Aristotle, un dispozitiv inteligent bazat pe Alexa celor de la Amazon, dotat și cu o cameră video cu rol de monitorizare, capabil să le „citească“ po­vești copiilor, să-i calmeze când plâng, să-i învețe abecedarul și bunele maniere, să-i implice în jocuri interactive sau să-i ajute cu temele. Pe scurt, „să evolueze alături de copii pe măsură ce nevoile lor se schimbă“, după cum spunea o prezentare oficială.  Frumoase pe hârtie, lucrurile au luat o altă turnură în realitate. Aceeași Campaign for a Commercial-Free Childhood a inițiat o petiție prin care 17.000 de semnatari solicitau companiei să renunțe la Aristotle, argumentând că un copil nu ar trebui să fie încurajat să creeze legături emoționale cu un dispozitiv de colectare a datelor.

Într-o scrisoare deschisă către producă­to­rul de jucării, congresmenii Edward J. Markey și Joe Barton arătau că „acest nou produs are potențialul de a trezi semne serioase de întrebare în ceea ce privește confidențialitatea, în condițiile în care Mattel poate construi un profil amănunțit al co­pilului și al familiei sale. „Din câte se pare, cel puțin până acum, niciun alt dispozitiv nu a avut capacitatea de a privi atât de intim în viața unui copil“, mai ară­tau cei doi. Mattel a renunțat la Aristotle, iar explicația oficială a fost că noul său CTO, Sven Gerjets, „a fă­cut o analiză extinsă a produsului și a decis că acesta nu e în deplină con­cor­danță cu stra­­te­gia tehnologică a companiei“.

Securitatea datelor e și motivul invocat de autoritățile germane, care au decis anul trecut interzicerea și scoaterea de la vânzare a unei alte păpuși AI, My Friend Cayla, pe care au descris-o nici mai mult, nici mai puțin decât un „dispozitiv ascuns de spionaj“. Produsă de Genesis Toys, păpușa înregistrează conversațiile și le transmite către un server, iar experții în securitate au arătat că software-ul său poate fi ușor spart de un atacator, care capătă astfel acces la tot felul de date sensibile.

Dar temerile legate de securitate sunt doar o (altă) fațetă a problemei. La începutul anilor ’90, Noel Sharkey, profesor al Uni­versității din Sheffield, Anglia, pionier al roboticii (etica roboților), i-a cumpărat fiicei sale una dintre primele jucării dotate cu inte­ligență artificială, un animal virtual de casă, Tamagotchi. La fel ca orice alt pose­sor de Tamagotchi, fetița lui Sharkey îl hrănea de câteva ori pe zi, îl ducea la toa­letă și se juca cu el pentru a-i crește ni­velul de fericire. În timp, nevoile priete­nu­lui ei computerizat au devenit tot mai mari, ne­ce­sitând tot mai multă atenție, pentru că igno­rarea lor ar fi dus la îmbolnăvirea de moarte a animăluțului virtual. „În cele din urmă a trebuit să i-l luăm cu forța, pentru că devenise obsedată de el. Se plângea tot timpul, «O, Doamne, Tamagotchi-ul meu o să moar㻓, povestea Sharkey pentru The New York Times.

Abilitatea gadgeturilor de a seduce utilizatorii și a-i con­vinge că ar avea o altfel de formă de viață a fost evidentă încă din zilele de început ale AI. În cazul copiilor, fenomenul e și mai pronunțat. Pentru a observa cum reacțio­nează la tehnologii ce pot lăsa impresia de viață, roboticienii MIT au lăsat mai mulți copii să se joace cu doi roboți cu trăsături uma­noide. Aceștia nu erau capabili să vor­bească cu micii lor tovarăși de joacă, dar interacționau cu ei prin ges­turi și expresii faciale. La sfârșit, majoritatea copiilor erau convinși că ro­boții pot asculta, simți, că le pasă de ei și că sunt ca­pabili să își facă prieteni.

LEGĂTURI EMOȚIONALE. Cum o jucărie care se poate împrieteni cu un copil are un potențial comercial greu de ignorat, e de așteptat ca Inteligența Ar­ti­fi­cială să fie tot mai simpatică, empatică și prietenoasă. „Se vor naște astfel legături emo­ționale din ce în ce mai puternice. Iar pentru unii copii, prietenii artificiali ar pu­tea să înceapă să-i înlocuiască pe cei reali. Dacă ai pe cineva care te ascultă de fiecare dată și poți vorbi tot timpul cu el, de ce să mai încerci să-ți faci alți prieteni? Membrii familiei și prietenii ne pot enerva, provoca sau deranja, în vreme ce o Barbie va fi tot timpul drăguță cu noi“, crede Sharkey.

La rândul său, Peter Kahn Jr., psiholog al Universității Washington din Seattle, atrage atenția că genul acesta de prietenie ar putea duce la ceea ce el numește o re­lație de dominație, în care copilul este nu doar cel care cere tot timpul, dar și cel care este răsplătit de fiecare dată, fără a simți vreo responsabilitate față de robot. Iar un astfel de raport de forțe, adaugă el, este nesănătos pentru dezvoltarea sa mo­rală și emoțională. Pentru că abuzul de putere e doar la un pas de aici.

Cei de la Mattel au anticipat, de altfel, că unii copii ar putea fi tentați să-i spună rău­tăți lui Hello Barbie și au programat-o să ignore înțepăturile verbale, în ideea – co­mună de altfel în cazul AI – că o confirmare/recu­noaștere ca atare a unui comportament nepotrivit ar duce de fapt la încurajarea acestuia. Alternativa pentru roboți ar fi să se apere singuri. Pentru a testa eficiența unui astfel de scenariu, Kahn a făcut un experiment în timpul căruia 90 de copii s-au jucat cu un robot botezat Robovie. La un moment dat, unul dintre adulții care supravegheau experimentul i-a spus lui Robovie că trebuie să-l închidă într-un dulap. Robotul a început să protesteze și apoi să se plân­gă că îi este frică în dulap, dar a fost luat pe sus și scos din cameră.

90% din copii au fost de partea lui Robovie și mai mult de jumătate au spus că nu este în regulă ca el să fie închis într-un dulap. „Constatarea-surpriză este că un copil va interacționa nu doar social, ci și moral cu un robot programat astfel“, nuanțează Kahn, recunoscând că are senti­mente contradictorii despre programarea unui robot astfel încât să fie capabil să ceară un tratament corect moral. Pentru că mulți robo­ticieni cred că astfel ar crea o apa­rență și mai convingătoare a ceea ce noi numim (deocamdată?) viață.

Critica rațiunii impure

Dacă părinții înțeleg pe deplin implicațiile înregistrărilor convorbirilor, nu același lucru se poate spune despre copii, care s-ar putea simți trădați dacă ceva din confesiunile pe care le fac păpușii s-ar întoarce împotriva lor, avertizează psihologii.

• AUTORITATE DEPLINĂ? „Părinții nu ar trebui să-și supravegheze copiii fără consimță-mântul lor. O companie care vrea să folosească datele colectate de la un copil care încă nu a împlinit 14 ani are nevoie de acordul expres al părinților. Numai că legea nu spune că părinții au dreptul să-și spioneze copiii“, consideră Danielle Citron, profesor de drept la Universitatea Maryland, coordonatoare a unor cercetări despre rolul și impactul programelor de tip spyware în violența domestică.
• PRINTRE RÂNDURI. „Să asculți ceea ce un copil îi mărturisește păpușii sale e similar cu a-i citi jurnalul. Pentru cei unu din zece copii care sunt agresați fizic și/ sau psihic, și unu din 16 care sunt abuzați sexual într-un an, perspectiva unui părinte care ascultă mărturisirile inocente făcute păpușilor lor e cel puțin tulburătoare. O conversație cu păpușa despre o bătaie pe care ai primit-o de la părinți ar putea aduce alte bătăi. Există tot felul de oameni și o mulțime de întrebări“, spune Pam Dixon, director executiv al World Privacy Forum, într-o discuție cu Kernel.
• LIMITE ȘI CONSTRÂNGERI. Pentru psihologii care studiază jocul copiilor, marea îngrijorare nu este că Inteligența Artificială i-ar putea face să-și imagineze lucruri exagerate. Dimpotrivă, se tem că imaginația lor ar putea avea de suferit. „Prietenii imaginari nu impun limite sau constrângeri. Copiii le schimbă adesea vârsta, aspectul, genul, prioritățile sau interesele. Cu o jucărie precum Hello Barbie, personalitatea acesteia este limitată din start prin programare, la fel și interacțiunea. Poate fi foarte nostim, dar e cu siguranță mai puțin creativ și interactiv decât jocul cu cineva/ ceva ce poate fi orice și oricum îți poți dori tu să fie“, nuanțează Tracy Gleason, profesor de psihologie la Wellesley College.

FOTO: Guliver / Getty Images