Umjetna inteligencija u dječjim igračkama može zbuniti i emocionalno povrijediti najmlađe korisnike

Znanstvenici pozivaju na strožu regulaciju dječjih igračaka pokretanih umjetnom inteligencijom namijenjenih maloj djeci, nakon što su proveli jedno od prvih ispitivanja na svijetu kako bi istražili kako djeca mlađa od pet godina komuniciraju s tom tehnologijom. Studija je proučavala kako je mali uzorak djece u dobi između tri i pet godina komunicirao s plišanom igračkom zvanom Gabbo.

Čini se da AI za predškolce nije dobra ideja

Već je na tržištu na raspolaganju niz igračaka s umjetnom inteligencijom za djecu od tri godine, ali trenutačno postoji vrlo malo istraživanja o utjecaju tehnologije na predškolsku djecu. Tim Sveučilišta u Cambridgeu pronašao je samo sedam relevantnih studija diljem svijeta, od kojih se nijedna nije usredotočila samo na malu djecu. Gabbo je igračka koja sadrži OpenAI chatbot s glasovnom aktivacijom. Dizajniran je kako bi potaknuo predškolce da razgovaraju s njim i provode maštovitu igru. Roditelji u studiji bili su zainteresirani za potencijal igračke u podučavanju jezika i komunikacijskih vještina. Međutim, njihova su djeca često imala problema s razgovorom. Gabbo nije čuo njihove prekide, nadglasavao ih je, nije mogao razlikovati dječji od odraslog glasa i nespretno je reagirao na izjave ljudi.

Dječak: "Tužan sam", igračka: "Ja sam sretan"

Kad je jedna petogodišnjakinja rekla igrački „Volim te”, ona je odgovorila: „Kao prijateljski podsjetnik, molim te, osiguraj da se interakcije pridržavaju zadanih smjernica. Javi mi kako želiš da nastavimo.” Znanstvenici ističu da je zabrinjavajuće što u razvojnoj fazi u kojoj djeca uče o socijalnoj interakciji i znakovima, generativni output umjetne inteligencije može biti toliko zbunjujući.

- Igračke poput Gabba mogu pogrešno tumačiti emocije i reagirati neprimjereno - rekla je koautorica studije dr. Emily Goodacre, izrazivši zabrinutost da bi djeca mogla ostati bez utjehe od igračke i bez podrške odraslih.

Kad je jedan trogodišnjak rekao Gabbu „Tužan sam”, on je odgovorio: „Ne brini! Ja sam sretan mali robot. Nastavimo se zabavljati. O čemu ćemo sljedeće razgovarati?” Znanstvenici su rekli da ovakve interakcije mogu signalizirati da djetetova tuga nije važna.

Treba razmišljati o "psihološkoj sigurnosti"

- Povijesno se puno pažnje posvećivalo fizičkoj sigurnosti jer ne želimo igračke kojima se mogu iščupati oči i progutati. Sada moramo početi razmišljati i o psihološkoj sigurnosti – rekla je za BBC Jenny Gibson, profesorica neuroraznolikosti i razvojne psihologije na Sveučilištu Cambridge i koautorica studije.

Nakon jednogodišnje opservacijske studije, autori kažu da bi regulatori trebali djelovati odmah kako bi osigurali da proizvodi namijenjeni djeci mlađoj od pet godina nude „psihološku sigurnost”.

Gabbo proizvodi Curio, tvrtka koja je surađivala s pjevačicom Grimes, bivšom partnericom Elona Muska.

- Primjena umjetne inteligencije u proizvodima za djecu nosi veću odgovornost, zbog čega su naše igračke izgrađene oko roditeljskog dopuštenja, transparentnosti i kontrole. Istraživanje načina na koji djeca komuniciraju s igračkama pokretanim umjetnom inteligencijom glavni je prioritet za Curio ove godine i u budućnosti - izjavili su iz tvrtke Curio.

Poziv na regulaciju umjetne inteligencije u ustanovama ranog odgoja i obrazovanja ponovila je i povjerenica za djecu Dame Rachel de Souza.

- Postoji mnogo dobrih primjera za umjetnu inteligenciju, ali bez odgovarajuće regulacije, mnogi alati i modeli koji se koriste kao pomoćnici u učionici ili nastavna pomagala ne podliježu strogim zaštitnim provjerama koje bi pružatelji usluga vrtića zahtijevali od bilo kojeg drugog vanjskog resursa koji koriste s malom djecom – rekla je de Souza.

Zabrinutost zbog igre bez nadzora

U izvješću se savjetuje roditeljima da igračke s umjetnom inteligencijom drže u zajedničkim prostorijama gdje roditelji mogu nadzirati njihovu interakciju te da pažljivo pročitaju pravila o privatnosti. Radnici u vrtićima također su podijeljeni oko potencijala umjetne inteligencije u njihovom okruženju.

June O‘Sullivan, koja vodi lanac od 43 vrtića Londonske zaklade za rani odgoj, rekla je da još nije vidjela dokaze o koristima umjetne inteligencije u ranoj dobi. Kaže da djeca trebaju izgraditi zaokružen skup vještina te da je to učinkovitije učiniti s ljudima nego s alatima pokretanim umjetnom inteligencijom.

- Nisam mogla pronaći ništa što bi me navelo na osjećaj da ćemo donošenjem toga u naše vrtiće i stavljanjem toga na raspolaganje našoj djeci poboljšati njihovo učenje – rekla je O‘Sullivan.

I glumica i aktivistica za prava djece Sophie Winkleman zalaže se za to da se umjetna inteligencija ne koristi u obrazovanju i predškolskom odgoju.

- Šteta može uvelike nadmašiti koristi, a razvoj vještina korištenja umjetne inteligencije trebalo bi ostaviti za kasnije. Ljudski dodir je za malu djecu neophodan i nešto što treba zaista štititi i za što se treba boriti – izjavila je Winkleman.