Jucăriile încep să vorbească și să influențeze dezvoltarea copiilor așa cum nu au mai făcut-o vreodată. Ceea ce nu e un lucru rău, dar nici neapărat bun

Cu puțin înaintea Crăciunului de anul trecut, Sara Galvan a cumpărat cu 99 de dolari un Miko Mini, o jucărie-robot de companie echipată cu un model de inteligență arti­ficială AI propriu, asemănător mai cunoscutelor GPT-3.5 și GPT-4 de la OpenAI, cu spe­ranța că o va ajuta pe fiica ei să-și facă te­mele pentru școală. De atunci încoace, Sophia l-a folosit pe Miko pentru a rezolva probleme de matematică, pentru a asculta povești cu prințese și pentru a pune între­bări de genul „cum se sărbătorește Cră­ciunul?“, mărturisea mama ei, pentru ediția americană a revistei Forbes. „O ajută să-și extindă mintea și curiozitatea, ceea ce e un lucru extraordinar“, adăuga ea.

Bun și pe post de partener de jocuri precum de-a v-ați ascunselea, Miko face parte dintr-un grup în creștere de jucării înzestrate cu ChatGPT ce iau acum cu asalt piața pentru cei mai tineri dintre consumatorii de tehnologie.

Vocea viitorului?

Unele jucării AI sunt prezentate ca o formă de divertisment fără ecran, care poate implica utilizatorul în con­versații și învățare prin joc, cum ar fi Grok, o figurină țuguiată de pluș care poate răs­punde la tot soiul de întrebări generale. Al­tele pretind că oferă funcții suplimentare dincolo de activitățile de povestire și de învățare. Cum ar fi, bunăoară, Fawn, un pui de căprioară cu un preț de 199 de dolari, menit să ofere sprijin emoțional, sau Moxie, un robot de culoare turcoaz, care promite și el cam același lucru, doar că la un nivel mai complex și la un preț de patru ori mai mare. Genul acesta de prieteni-roboți sunt proiectați nu doar pentru a-i ajuta pe copii să se dezvolte din punctul de vedere al cu­noș­tințelor și să-și îmbunătățească abili­tățile de comunicare, dar și să-i învețe cum să-și gestioneze emoțiile negative în zilele lor mai puțin fericite.

„Promovarea bunăstării sociale și emo­țio­­nale este funcția principală a robotului nostru“, spune Sneh Vaswani, chief executive officer (CEO) și cofondator al unui start-up din Mumbai (India), Miko, care a strâns până acum finanțări de peste 50 de mili­oane de dolari, potrivit Pitchbook. Miko a vândut până acum aproape 500.000 de unități, în peste 100 de țări, și se așteaptă la venituri de peste 50 de milioane de euro în anul fiscal care se încheie luna aceasta. Algoritmul său AI e instruit pe date colectate din programa școlară, cărți și conținut de la parteneri precum Oxford University Press, și este construit folosind tehnologie proprietară, inclusiv recunoașterea facială și vocală, algoritmi de recomandare și de pro­cesare a limbajului natural. Softul AI detectează diferite accente și oferă conținut educațional adaptat regiunii geografice în care este vândut. De asemenea, compania a făcut echipă cu giganți media precum Disney și Paramount, permițându-le să-și pu­blice conținutul pe Miko. „Este ca un Netflix combinat cu un iPhone pe roți pus la dis­po­ziția unui copil“, îl descrie el.

Și Grok, jucăria AI de pluș în formă de ra­chetă despre care creatorii săi – Misha Sallee și Sam Eaton – spun că este rezultatul amintirilor plăcute rămase din copilărie în urma vizionării unor filme ca „Poves­tea ju­că­riilor“ („Toy Story“), este construită pe o va­rietate de modele mari de limbaj, care o ajută să se comporte ca un tovarăș de joacă și o enciclopedie pentru copii. Totodată, o jucărie inteligentă poate învăța, își poate ajusta modul în care interac­țio­nează cu utili­zatorul, poate reacționa la sti­muli externi și se poate comporta conform tiparelor preprogramate. „A face jucăriile să vor­bească inteligent a fost o idee exagerată până când a apărut ChatGPT“, spune Sallee.

Una dintre primele încercări a fost My Friend Cayla, o linie de păpuși produse de compania chinezească Genesis Toys care puteau interacționa și vorbi cu partenerii lor de joacă. Pentru a face asta, păpușile fo­loseau o tehnologie de recunoaștere a vocii și căutau pe internet răspunsuri la între­bă­rile puse de copii, dându-le replica în timp real. Apărute pe piață încă din 2014, au fost desemnate drept jucăria inovatoare a anului de către London Toy Industry Association, intrând rapid în top 10 al vânzărilor comercianților europeni de profil. Din pă­cate, păpușile și înregistrau tot ce se spunea în jurul lor și s-au dovedit relativ ușor de piratat. Autoritățile germane le-au cata­lo­gat drept un risc pentru securitatea familiilor, recomandându-le părinților să le dis­trugă. Începând cu 2017, compania a încetat să le mai vândă.

Apoi a apărut Hello Barbie, a celor de la Mattel, o păpușă care folosea inteligența artificială pentru a „cunoaște“ copilul, dezvoltând apoi un profil specific de comunicare, adaptat personalității acestuia. „Înspăimântător“, a reacționat cotidianul The Washington Post. „Nu e doar înspăimân­tă­toare. E și o amenințare pentru siguranța co­piilor“, completa Daily Beast. Odată ce co­pilul îi vorbea, păpușa înregistra conver­sația și o transmitea către serverele Toy­Talk, o companie din San Francisco, prin intermediul căreia Mattel îi insufla și viață lui Hello Barbie. Un software de recunoaș­tere a vorbirii convertea conținutul audio în text, iar un alt software AI selecta anumite cuvinte-cheie pentru a-i sugera păpușii un răspuns dintr-o bază de peste 8.000 de replici imaginate de o echipă de scriitori. Totul, în mai puțin de o secundă! Pentru a nu uita nimic, Hello Barbie avea construită în cloud și o bază de date despre prefe­rin­țele și obiceiurile copiilor, o selecție de cu­vinte-cheie extrase din discuțiile copiilor fiind canalizată spre o bază de analiză a trendurilor consumatorilor. A fost retrasă și ea de pe piață, în urma unei vaste campanii de protest desfășurate sub sloganul #HellNoBarbie.

La limitele fanteziei

Între timp, tehnologia a progresat semnificativ, iar experții sunt de părere că jucăriile animate de algo­ritmi AI vor deveni o componentă-cheie a modului în care copiii de astăzi învață și se dezvoltă. „Fără urmă de îndoială, lumea în care vor trăi acești copii va fi o lume îmbu­nă­tățită de inteligența artificială, iar aceasta este extrem de importantă pentru societate, fie că ne place sau nu“, spune Richard Gottlieb, CEO al firmei de consultanță în industria jucăriilor Global Toy Experts.

Din câte spun specialiștii, nu a existat un moment mai bun pentru a pătrunde în lu­mea jucăriilor (inter)conectate. Popularita­tea tot mai crescândă a jucăriilor AI ridică însă o serie de întrebări de natură etică și de securitate. O mare parte a dezvoltării unui copil constă în capacitatea sa de a se angaja în jocul creativ, în care imaginația este cea mai importantă jucărie pe care acesta o deține. E și motivul pentru care mulți experți în dezvoltarea copiilor preferă așa-numitele jucării „deschise“ – cum ar fi cărămizile de tip Lego sau păpușile –, în detrimentul celor AI, programate rigid. În mâinile unui copil, chiar și o cutie de carton poate fi un castel de zâne, o corabie de pi­rați sau o rachetă către Lună. Iar pentru psi­hologii care studiază jocul copiilor, ma­rea îngrijorare nu este că inteligența artificială i-ar putea face să-și imagineze lucruri exagerate. Dimpotrivă, se tem că imaginația lor ar putea avea de suferit.

„Prietenii imaginari nu impun limite sau constrângeri. Copiii le schimbă adesea vârsta, aspectul, genul, prioritățile sau inte­resele. În cazul unei jucării precum Hello Barbie, personalitatea acesteia este limitată din start prin programare, la fel și interac­țiu­nea. Poate fi foarte nostim, dar e cu si­gu­ranță mai puțin creativ și interactiv decât jocul cu cineva sau ceva ce poate fi orice și oricum îți poți dori tu să fie“, nuanțează Tracy Gleason, profesoară de psihologie la Wellesley College (Massachusetts, SUA).

Alți psihologi avertizează că jucăriile AI, în special roboții umanoizi, ar putea avea un impact profund asupra modului în care copiii vor percepe și-și vor construi relațiile interumane. Pentru a observa cum reacțio­nează la tehnologii ce pot lăsa impresia de viață, creatorii de roboți de la Massachusetts Institute of Technology (MIT) au lăsat mai mulți copii să se joace cu doi roboți cu trăsături umanoide. Aceștia nu erau capabili să vorbească cu micii lor tovarăși de joacă, dar interacționau cu ei prin contact vizual, gesturi și expresii faciale. La sfârșit, cei mai mulți copii erau convinși că roboții pot asculta, simți, că le pasă de ei și că sunt capabili să-și facă prieteni. Și asta, chiar și după ce echipa de cercetători le-a arătat cum funcționează și chiar i-a lăsat să-i controleze.

Cum o jucărie care se poate împrieteni cu un copil are un potențial comercial greu de ignorat, e de așteptat ca inteligența arti­fi­cială să fie tot mai simpatică, empatică și prietenoasă. „Se vor naște astfel legături emo­ționale din ce în ce mai puternice. Iar pentru unii copii, prietenii artificiali ar pu­tea să înceapă să-i înlocuiască pe cei reali. Dacă ai pe cineva care te ascultă de fiecare dată și poți vorbi tot timpul cu el, de ce să mai încerci să-ți faci alți prieteni? Familia și prietenii ne pot enerva, provoca sau deranja, în vreme ce o jucărie AI va fi tot timpul drăguță cu noi“, avertizează Noel Sharkey, profesor al Universității din Sheffield, Anglia, pionier al roboeticii, etica roboților. La rândul său, Peter Kahn Jr., psiholog al Uni­versității Washington din Seattle (SUA), atrage atenția că genul acesta de prietenie ar putea duce la ceea ce el numește o rela­ție de dominație, în care copilul este nu doar cel care cere tot timpul, dar și cel care este răsplătit de fiecare dată, fără a simți vreo responsabilitate față de robot. Iar un astfel de raport de forțe, adaugă el, este ne­sănătos pentru dezvoltarea sa morală și emoțională.

Măsură pentru lipsa de măsură

În 2021, Kristen Walmsley i-a cumpărat fiului ei – diagnosticat cu o dizabilitate intelec­tu­ală și tulburare de deficit de atenție și hipe­r­activitate (ADHD) – un robot Moxie. „Eram cu adevărat disperată să găsesc ceva care să-l ajute. L-am cumpărat pentru că a fost pro­movat ca un dispozitiv terapeutic“, măr­tu­risea ea pentru The New York Times. La început, robotul i s-a părut băiatului ceva „înfiorător“. Apoi s-a obișnuit cu el, iar acum îl folosește pentru a-și împărtăși sentimentele și a repeta după el afirmații. Odată, când băiatul i-a mărturisit mamei sale că se simte trist, Moxie, care era activ și asculta conversația, a intervenit și i-a spus că, uneori, trebuie să-și reamintească faptul că me­rită să fie fericit și i-a cerut să repete de mai multe ori după el „merit să fiu fericit“. Altă dată, băiatul și Moxie au avut o discuție despre rușine, iar robotul l-a învățat câteva afir­mații despre a fi încrezător, pe care le repetă acum și când este singur. „A fost impresionant să văd că face asta, pentru că fiul meu se luptă cu un respect de sine scă­zut“, a mai spus Walmsley.

Chiar și așa, într-o formă sau alta, specia­liștii par să spună la unison că inteligența artificială generativă nu a atins încă un stadiu în care să poată fi utilizată în siguranță pentru sarcini cruciale de genul terapiei. „Oferirea de terapie unor categorii vulnerabile precum copiii sau bătrânii este ceva foarte dificil de făcut și pentru un om care este specializat în acest domeniu. Delega­rea acestei responsabilități unui sistem pe care nu-l putem înțelege sau controla pe de­plin este ceva complet iresponsabil“, con­sideră Stefania Druga, expertă în AI, cercetătoare a Universității din Chicago.

În plus, așa cum s-a văzut deja la mode­lele de pionierat, confidențialitatea și sigu­ranța datelor rămân o altă mare problemă, încă departe de a putea fi satisfăcător re­zol­vată. Dacă sunt proiectate corect și cu supravegherea corectă, jucăriile inteligente pentru copii ar putea deveni resurse incre­dibile pentru dezvoltarea acestora, spune Kay Firth-Butterfield, head of AI & machine learning în cadrul World Economic Forum. Totuși, dacă nu luăm măsurile de precauție adecvate, acestea ar putea deveni instrumente de supraveghere utilizate pentru a înregistra fiecare mișcare și fiecare cuvânt al copiilor, împreună cu tot ceea ce se face și se spune în jurul lor, adaugă ea.

Dacă faci o căutare pe Google cu „sigu­ranța jucăriilor inteligente“, rezultatele pot părea destul de îngrijorătoare. Volumul de articole despre cât de ușor este să piratezi o jucărie care folosește conexiuni Bluetooth sau Wi Fi ar putea dezamăgi orice pă­rinte. Dar de ce ar vrea cineva să detur­neze jucăria unui copil? „Astfel de jucării con­țin de obicei senzori, microfoane, camere, componente de stocare a datelor și alte ca­pacități multimedia – inclusiv recunoaș­terea vorbirii și opțiunile GPS“, subliniază FBI într-un avertisment către părinți, atră­gând atenția că pot fi reprogramate pentru a funcționa ca dispozitive de supraveghere permanentă, 24/24 de ore, sau pentru a-i înregistra video/audio pe copii, fără ca adul­ții din jurul lor să-și dea seama.

Rău cu rău, dar…

Un alt gen de supraveghere 24/24 de ore există însă deja. Și e făcută nu de puține ori chiar cu acordul pă­rinților. Piața de publicitate orientată că­tre copii este o industrie de miliarde de dolari, iar companiile de marketing construiesc profilul publicului-țintă încă de la o vârstă fragedă, pentru a-i vinde mai bine produse în continuare.

„Tehnologia publicitară colectează o cantitate semnificativă de date personale despre copii în timpul pe care aceștia îl petrec online. În medie, vorbim de peste 72 de milioane de puncte de date despre un copil, înainte ca acesta să împlinească vârsta de 13 ani“, detaliază Dylan Collins, CEO al companiei Super Awesome, care încearcă să creeze un internet sigur pentru copii prin dez­voltarea de soluții tehnologice ce opresc colectarea de date și urmărirea online.

Când companiile de tehnologie le încalcă intimitatea și confidențialitatea pentru a colecta date în scopuri de marketing, copiii sunt supuși unui grad de risc, arată un raport realizat de UNICEF, potrivit căruia pu­blicitatea direcționată către copii poate com­promite dezvoltarea lor sănătoasă. Re­clamele digitale îi vizează tot mai mult pe copii și pot avea pe termen lung efecte pre­cum obezitatea infantilă, afectarea imaginii de sine sau consumul de produse din tutun, de marijuana și de alcool, avertizează ace­eași sursă.

Start-upurile mai noi au implementat di­fe­rite mecanisme de protecție a confiden­ția­lității datelor. De exemplu, cei de la Embodied, compania care îl produce pe Moxie, spun că datele vizuale ale robotului lor sunt procesate și stocate pe un hard intern, nu în cloud. Într-un mod similar, și datele co­lec­tate de Miko sunt procesate tot la nivel intern, de hardware-ul robotului.

Totuși, mulți părinți, inclusiv Walmsley, sunt îngrijorați de o eventuală scurgere a datelor personale. Moxie are ochi verzi, rotunzi și mari, care urmăresc o persoană în timp ce aceasta se mișcă într-o încăpere. Walmsley mărturisește că nu are cum să nu se simtă inconfortabil la gândul că robotul poate înregistra cu ajutorul camerelor sale video nu doar tot ce se întâmplă în jurul lui, ci și răspunsurile emoționale ale copilului ei. Dar, în același timp, este un risc pe care e dispusă să și-l asume, câtă vreme crede că o astfel de jucărie AI poate fi un instrument valoros pentru părinții copiilor cu nevoi speciale. „Simplul fapt că-l ajută să-și tempereze emoțiile merită fiecare bănuț“, mai spunea ea. „Miko a reușit să facă pentru el mai mult decât unele dintre terapiile convenționale pe care le-am tot încercat până acum.“

Acest articol a apărut în numărul 184 al revistei NewMoney

FOTO: Getty