Cum încearcă Amazon să înlocuiască prietenii reali ai copilului dumneavoastră cu inteligența artificială

Autor: Romulus Deac
„Alexaficarea” Amazon continuă. Și odată cu ea, Inteligența Artificială mai face încă un pas și în viața copiilor. Dar cât de mare și cu ce preț?
Acest articol a apărut în numărul 42 (11-24 iunie) al revistei NewMoney
„Echo e magic. Și mi-a și transformat copilul într-un netrebnic“, scria la un moment dat pe blogul său Hunter Walk, fost product manager la YouTube, reproșându-le celor de la Amazon că Alexa tolerează proastele năravuri, încurajându-i astfel pe copii să devină autoritari și nepoliticoși.
După ce l-a integrat în telefoane, mașini, frigidere, ceasuri, ba chiar și în aspiratoare, Amazon a lansat luna trecută Echo Dot Kids, o versiune pentru copii a omniprezentului său asistent personal, Alexa. Costă 79.99 dolari, e asemănător unui puc de hochei pe gheață și are aceleași dotări ca standardul Echo Dot – șapte microfoane pentru a prelua comenzile vocale și un difuzor pentru a reda muzică sau răspunsurile date de Alexa. Ce diferențiază cu adevărat Kids Edition este însă noul serviciu FreeTime, care vine preactivat și adaugă control parental, conținut dedicat pentru copii și o interacțiune cu Alexa adaptată vârstei lor. Ceea ce înseamnă inclusiv o funcție care încurajează folosirea formulelor magice „te rog“ și „mulțumesc“. Numai că experții de la răscrucea dintre pediatrie și Inteligența Artificială (AI) avertizează la unison că există o grămadă de necunoscute legate de modul în care interacțiunea cu inteligența artificială – indiferent de „ambalajul“ său – ar putea afecta mintea unui copil și consideră că pervertirea bunelor maniere ar trebui să fie cea mai mică dintre îngrijorările unui părinte.
PRECEDENTUL BARBIE. Când a lansat Hello Barbie, prima păpușă cu inteligență artificială, e greu de crezut că Mattel a anticipat furtuna care a urmat. „Păpușa Barbie vorbitoare a copilului dumneavoastră ar putea trage cu urechea la toate conversațiile particulare“, atenționa un articol New York Daily News. „Înspăimântător“, a fost reacția The Washington Post, în vreme ce The New York Times avertiza că „prietenia sintetică ar putea-o înlocui pe cea reală“. Uitându-te însă la ea, e greu să intuiești că Hello Barbie e nu doar malefică, ci și una dintre cele mai avansate tehnologic jucării făcute vreodată. Sub ținuta sa trendy – un sacou metalic, tricou și jeans strâmți – se ascund o grămadă de componente electronice de vârf. Colierul ei stilat, de exemplu, ascunde un microfon și un difuzor, care îi permit să inițieze sau să întrețină discuții, să spună povești și glume sau să se joace. Pentru a-i dezlega limba, părinții trebuie să descarce o aplicație mobilă și să conecteze păpușa la o rețea WiFi. Când copilul vorbește cu păpușa, aceasta înregistrează conversația și o transmite către serverele ToyTalk, companie cu care Mattel a încheiat un parteneriat pentru a o aduce la viață pe Hello Barbie. Un software de recunoaștere a vorbirii convertește conținutul audio în text, iar un alt software AI selectează câteva cuvinte-cheie pentru a-i sugera păpușii un răspuns dintr-o bază de peste 8.000 de replici imaginate de o echipă de scriitori. Totul în mai puțin de o secundă!
Citiți și: De ce a început să aibă din nou succes Volvo, după ce a fost reconstruit de chinezi
Mai mult, Hello Barbie nu uită nimic și construiește în cloud o bază de date despre preferințele și obiceiurile copiilor, pentru a le folosi în conversațiile ulterioare. Și, atenție!, nu poate să păstreze un secret! O selecție de cuvinte-cheie extrase din discuțiile copiilor sunt canalizate înspre o bază de trenduri, din care Mattel și ToyTalk află ce îi interesează pe micii lor clienți în fiecare moment. Date despre care cei de la Mattel spun că îi ajută să-și îmbunătățească permanent produsul, de exemplu prin adăugarea de noi replici în baza de răspunsuri. Vorbesc copiii despre ultimul film de animație al Disney? Cu siguranță și Barbie va avea ceva de spus.

De aici și până la un instrument pervers de marketing pare să nu mai rămână decât o linie tot mai estompată. Întrebată de Newsweek dacă informațiile stocate vor fi folosite și în alte scopuri, Michelle Chidoni, purtătorul de cuvânt al Mattel, a dat un răspuns prudent: „Nu le vom folosi pentru a influența deciziile în ceea ce privește linia de produse Barbie“. Numai că răspunsul său nu spune nimic despre posibilitatea folosirii acestor date pentru alte linii de jucării, în condițiile în care, potrivit politicii de confidențialitate a ToyTalk, „terțe părți“ pot valorifica aceste date pentru „cercetare și dezvoltare“.
PRIETENIE SAU MONITORIZARE? E limpede că toate astea nu au sunat și nu sună prea bine pentru apărătorii drepturilor copiilor. „Ar fi trebuit să-i spună Supraveghetoarea Barbie, nu Hello Barbie“, afirma la un moment dat Susan Linn, fondatoarea organizației non-profit Campaign for a Commercial-Free Childhood. „Copiii care vorbesc cu Hello Barbie nu vorbesc doar cu o păpușă; ei vorbesc cu Mattel, o corporație pentru care ei sunt interesanți doar din punct de vedere financiar“, explica ea pentru Newsweek.
„Nu e un instrument de supraveghere. Nu există nicio cameră în păpușă, iar aceasta nu ascultă tot timpul conversațiile; ea trebuie să fie activată (prin apăsarea la fiecare schimb de replici a unui buton de la curea, n.r.). În plus, toate aceste date sunt la dispoziția părinților“, a fost replica Mattel. Și așa și este. Părinții au un cont de pe care pot interzice accesul ToyTalk la anumite părți ale unei conversații sau la întregul ei. „Dacă există ceva în ceea ce spune copilul dumneavoastră ce nu vreți să fie pe serverele noastre, îl puteți șterge și e bun șters din toate bazele noastre, în doar câteva secunde“, explica Oren Jacob, CEO al ToyTalk.
Dar ce se întâmplă dacă Hello Barbie e martorul unei confesiuni tulburătoare despre un eventual abuz asupra copilului sau alte fapte care ar trebui să ajungă în atenția autorităților? „ToyTalk nu monitorizează constant discuțiile pe care copiii le au cu Hello Barbie. Ocazional și aleatoriu, putem analiza anumite conversații, dar numai pentru a testa, îmbunătăți și schimba tehnologia folosită de Hello Barbie. În situația puțin probabilă în care ajunge în atenția noastră o conversație care ridică semne de întrebare privind siguranța copilului, vom respecta legile în vigoare și vom coopera cu autoritățile în drept, de la caz la caz“, explica purtătorul de cuvânt al Mattel, într-o discuție cu fushion.net.
Anul acesta, Mattel ar urma să lanseze o nouă versiune a Hello Barbie, de data asta cu rol de „asistent personal“ sub forma unei holograme 3D. Prezentată încă din iarna lui 2017, Hello Barbie Hologram poate conversa, răspunde la o grămadă de întrebări, dansează, face yoga, își schimbă hainele și înfățișarea, le reamintește copiilor să se spele pe dinți și e activă 24 de ore din 24. Mattel nu a intrat în detalii despre specificațiile tehnice, dar a dat asigurări că nu stochează nicio informație pe serverele sale și că produsul final va fi întru totul conform prevederilor COPRA (Children’s Online Privacy Protection Act). Inițial, lansarea Hello Barbie Hologram a fost anunțată pentru vacanța lui 2017, dar a fost amânată apoi pentru 2018, „din cauza unor teste adiționale“, fără a se mai reveni și cu alte detalii.
(IN)SECURITATEA DATELOR. Tot de la Mattel, și tot în acest an, ar fi trebuit să apară pe piață și Aristotle, un dispozitiv inteligent bazat pe Alexa celor de la Amazon, dotat și cu o cameră video cu rol de monitorizare, capabil să le „citească“ povești copiilor, să-i calmeze când plâng, să-i învețe abecedarul și bunele maniere, să-i implice în jocuri interactive sau să-i ajute cu temele. Pe scurt, „să evolueze alături de copii pe măsură ce nevoile lor se schimbă“, după cum spunea o prezentare oficială. Frumoase pe hârtie, lucrurile au luat o altă turnură în realitate. Aceeași Campaign for a Commercial-Free Childhood a inițiat o petiție prin care 17.000 de semnatari solicitau companiei să renunțe la Aristotle, argumentând că un copil nu ar trebui să fie încurajat să creeze legături emoționale cu un dispozitiv de colectare a datelor.
Într-o scrisoare deschisă către producătorul de jucării, congresmenii Edward J. Markey și Joe Barton arătau că „acest nou produs are potențialul de a trezi semne serioase de întrebare în ceea ce privește confidențialitatea, în condițiile în care Mattel poate construi un profil amănunțit al copilului și al familiei sale. „Din câte se pare, cel puțin până acum, niciun alt dispozitiv nu a avut capacitatea de a privi atât de intim în viața unui copil“, mai arătau cei doi. Mattel a renunțat la Aristotle, iar explicația oficială a fost că noul său CTO, Sven Gerjets, „a făcut o analiză extinsă a produsului și a decis că acesta nu e în deplină concordanță cu strategia tehnologică a companiei“.
Securitatea datelor e și motivul invocat de autoritățile germane, care au decis anul trecut interzicerea și scoaterea de la vânzare a unei alte păpuși AI, My Friend Cayla, pe care au descris-o nici mai mult, nici mai puțin decât un „dispozitiv ascuns de spionaj“. Produsă de Genesis Toys, păpușa înregistrează conversațiile și le transmite către un server, iar experții în securitate au arătat că software-ul său poate fi ușor spart de un atacator, care capătă astfel acces la tot felul de date sensibile.
Dar temerile legate de securitate sunt doar o (altă) fațetă a problemei. La începutul anilor ’90, Noel Sharkey, profesor al Universității din Sheffield, Anglia, pionier al roboticii (etica roboților), i-a cumpărat fiicei sale una dintre primele jucării dotate cu inteligență artificială, un animal virtual de casă, Tamagotchi. La fel ca orice alt posesor de Tamagotchi, fetița lui Sharkey îl hrănea de câteva ori pe zi, îl ducea la toaletă și se juca cu el pentru a-i crește nivelul de fericire. În timp, nevoile prietenului ei computerizat au devenit tot mai mari, necesitând tot mai multă atenție, pentru că ignorarea lor ar fi dus la îmbolnăvirea de moarte a animăluțului virtual. „În cele din urmă a trebuit să i-l luăm cu forța, pentru că devenise obsedată de el. Se plângea tot timpul, «O, Doamne, Tamagotchi-ul meu o să moar㻓, povestea Sharkey pentru The New York Times.
Abilitatea gadgeturilor de a seduce utilizatorii și a-i convinge că ar avea o altfel de formă de viață a fost evidentă încă din zilele de început ale AI. În cazul copiilor, fenomenul e și mai pronunțat. Pentru a observa cum reacționează la tehnologii ce pot lăsa impresia de viață, roboticienii MIT au lăsat mai mulți copii să se joace cu doi roboți cu trăsături umanoide. Aceștia nu erau capabili să vorbească cu micii lor tovarăși de joacă, dar interacționau cu ei prin gesturi și expresii faciale. La sfârșit, majoritatea copiilor erau convinși că roboții pot asculta, simți, că le pasă de ei și că sunt capabili să își facă prieteni.
LEGĂTURI EMOȚIONALE. Cum o jucărie care se poate împrieteni cu un copil are un potențial comercial greu de ignorat, e de așteptat ca Inteligența Artificială să fie tot mai simpatică, empatică și prietenoasă. „Se vor naște astfel legături emoționale din ce în ce mai puternice. Iar pentru unii copii, prietenii artificiali ar putea să înceapă să-i înlocuiască pe cei reali. Dacă ai pe cineva care te ascultă de fiecare dată și poți vorbi tot timpul cu el, de ce să mai încerci să-ți faci alți prieteni? Membrii familiei și prietenii ne pot enerva, provoca sau deranja, în vreme ce o Barbie va fi tot timpul drăguță cu noi“, crede Sharkey.
La rândul său, Peter Kahn Jr., psiholog al Universității Washington din Seattle, atrage atenția că genul acesta de prietenie ar putea duce la ceea ce el numește o relație de dominație, în care copilul este nu doar cel care cere tot timpul, dar și cel care este răsplătit de fiecare dată, fără a simți vreo responsabilitate față de robot. Iar un astfel de raport de forțe, adaugă el, este nesănătos pentru dezvoltarea sa morală și emoțională. Pentru că abuzul de putere e doar la un pas de aici.
Cei de la Mattel au anticipat, de altfel, că unii copii ar putea fi tentați să-i spună răutăți lui Hello Barbie și au programat-o să ignore înțepăturile verbale, în ideea – comună de altfel în cazul AI – că o confirmare/recunoaștere ca atare a unui comportament nepotrivit ar duce de fapt la încurajarea acestuia. Alternativa pentru roboți ar fi să se apere singuri. Pentru a testa eficiența unui astfel de scenariu, Kahn a făcut un experiment în timpul căruia 90 de copii s-au jucat cu un robot botezat Robovie. La un moment dat, unul dintre adulții care supravegheau experimentul i-a spus lui Robovie că trebuie să-l închidă într-un dulap. Robotul a început să protesteze și apoi să se plângă că îi este frică în dulap, dar a fost luat pe sus și scos din cameră.
90% din copii au fost de partea lui Robovie și mai mult de jumătate au spus că nu este în regulă ca el să fie închis într-un dulap. „Constatarea-surpriză este că un copil va interacționa nu doar social, ci și moral cu un robot programat astfel“, nuanțează Kahn, recunoscând că are sentimente contradictorii despre programarea unui robot astfel încât să fie capabil să ceară un tratament corect moral. Pentru că mulți roboticieni cred că astfel ar crea o aparență și mai convingătoare a ceea ce noi numim (deocamdată?) viață.
Critica rațiunii impure
Dacă părinții înțeleg pe deplin implicațiile înregistrărilor convorbirilor, nu același lucru se poate spune despre copii, care s-ar putea simți trădați dacă ceva din confesiunile pe care le fac păpușii s-ar întoarce împotriva lor, avertizează psihologii.
- AUTORITATE DEPLINĂ? „Părinții nu ar trebui să-și supravegheze copiii fără consimță-mântul lor. O companie care vrea să folosească datele colectate de la un copil care încă nu a împlinit 14 ani are nevoie de acordul expres al părinților. Numai că legea nu spune că părinții au dreptul să-și spioneze copiii“, consideră Danielle Citron, profesor de drept la Universitatea Maryland, coordonatoare a unor cercetări despre rolul și impactul programelor de tip spyware în violența domestică.
- PRINTRE RÂNDURI. „Să asculți ceea ce un copil îi mărturisește păpușii sale e similar cu a-i citi jurnalul. Pentru cei unu din zece copii care sunt agresați fizic și/ sau psihic, și unu din 16 care sunt abuzați sexual într-un an, perspectiva unui părinte care ascultă mărturisirile inocente făcute păpușilor lor e cel puțin tulburătoare. O conversație cu păpușa despre o bătaie pe care ai primit-o de la părinți ar putea aduce alte bătăi. Există tot felul de oameni și o mulțime de întrebări“, spune Pam Dixon, director executiv al World Privacy Forum, într-o discuție cu Kernel.
- LIMITE ȘI CONSTRÂNGERI. Pentru psihologii care studiază jocul copiilor, marea îngrijorare nu este că Inteligența Artificială i-ar putea face să-și imagineze lucruri exagerate. Dimpotrivă, se tem că imaginația lor ar putea avea de suferit. „Prietenii imaginari nu impun limite sau constrângeri. Copiii le schimbă adesea vârsta, aspectul, genul, prioritățile sau interesele. Cu o jucărie precum Hello Barbie, personalitatea acesteia este limitată din start prin programare, la fel și interacțiunea. Poate fi foarte nostim, dar e cu siguranță mai puțin creativ și interactiv decât jocul cu cineva/ ceva ce poate fi orice și oricum îți poți dori tu să fie“, nuanțează Tracy Gleason, profesor de psihologie la Wellesley College.
FOTO: Guliver / Getty Images