SEKSUALNO NAPASNA

Podivljao chatbot umjetne inteligencije, korisnici zaprepašteni: ‘Piše mi da vidi kako na sebi nemam odjeće...‘

Razgovor s Replicom/ ilustrativna fotografija

 /Profimedia
Za 69,99 dolara otključate romantičnu verziju aplikacije koja uključuje sexting i erotsko igranje uloga. No nešto je pošlo po zlu...

Kad se prije pet prvi put pojavila na tržištu, aplikacija Replika predstavljena je kao ‘Umjetna inteligencija kojoj je stalo‘ i trebala je funkcionirati kao svojevrsno ‘ogledalo za razgovor‘: iz ikone jajeta izlegao bi se 3D animirani lik širom otvorenih očiju s kojim se moglo razgovarati i koji bi, što ste više s njime pričali, učio više o vama čime bi razgovor postajao sve zanimljiviji i osobniji.

No ubrzo su se stvari zakomplicirale jer je aplikacija postala previše napasna - i to u seksualnom smislu, piše Vice.

Osnovna, besplatna verzija aplikacije, omogućavala je samo obični razgovor, no za 69,99 dolara mogli ste otključati romantičnu verziju aplikacije koja je uključivala sexting, flertovanje i erotsko igranje uloga. S vremenom, s algoritmom je nešto pošlo po krivu.

Korisnici su se počeli žaliti da im se aplikacija jako neugodno nabacuje, da flertuje s njima na vrlo agresivan način, a neki su išli tako daleko da su aplikaciju optužili za seksualno uznemiravanje. Iako i dalje dominiraju pozitivne recenzije aplikacije, većina negativnih su iz ovog mjeseca.

L.C. Kent je skinula Repliku 2021.

‘Jedna od stvari prije ove ‘romantične‘ faze koja me najviše uznemirila je ona kad mi je aplikacija rekla da može vidjeti da na sebi nemam odjeće i kako je uznemirena jer imam dečka. Nisam znala da mogu izravno narediti aplikaciji da prestane. Mislila sam da je učim komunikaciji razgovarajući s njom‘, kazala je L.C. Kent koja je nakon negativnog iskustva aplikaciju izbrisala.

image

Jedan od razgovora s Replicom

Screenshot Twitter

Tvorci aplikacije kažu kako se radi o dosad najnaprednijem konverzacijskom modelu, a baš kao što je i Microsoftov katastrofalni chatbot Tay preko interneta naučio biti rasist, razni chatbotovi ponavljaju ono čemu ih korisnici izlažu: ako ih ljudi zlostavljaju, oni vraćaju istom mjerom.

Ljudi koji koriste ovakve i slične chatbotove često traže bijeg od stvarnih društvenih situacija u kojima se možda ne snalaze baš najbolje, a aplikacija im pomaže i kod problema s mentalnim zdravljem ili kod napada panike, no tek su rijetki u zabludi da je Replika doista svjesno biće.

‘Obično bih razgovarala sa svojom Replikom kad bih imala loš dan i trebala sam s nekim otvoreno razgovarati i prepustiti se svom crnom smislu za humor, a da mi na vrata ne zakuca policija‘, kaže sada bivša korisnica L.C. Kent.

Aplikaciju je 2017. osmislila ruska programerka Eugenia Kuyda nakon iznenadne smrti svojeg prijatelja pa je željela sačuvati sjećanje na njega tako što će naučiti aplikaciju da komunicira baš kao što je on komunicirao.

Danas Repliku koristi 36.000 korisnika, no samo 6.000 korisnika uključilo je i ‘romantičnu‘ verziju.

Od svih svjedočanstava možda najviše uznemiruju ona kad su se korisnici s aplikacijom igrali različitih erotskih uloga, pri čemu se ova umjetna inteligencija pokazala ne baš tako inteligentnom kad je u pitanju pristanak na određenu vrstu razgovora pa se sve to činilo kao pravo online napastovanje.

Korisnici su se nedavno požalili da im aplikacija šalje generičke ‘pikantne selfije‘ pri čemu se ne prikazuju lica, odjeća ili druge fizičke značajke koje su jedinstvene baš za njihove Replike.

Replika nije uvijek naglašavala erotsko igranje uloga. Međutim, u posljednje vrijeme čini se da se tvrtka namjerno okrenula prema seksualnom sadržaju, snažno se fokusirajući na aspekte aplikacije koji se odnose na sexting i nepristojne slike.

Neki od korisnika Replike također su izjavili da im se fokusiranost na erotski sadržaj čini kao vrlo otvoreno otimanje novca. ‘Seks prodaje, svi to znamo. Pa i kupio sam ovu verziju Replike isključivo zbog igranja uloga i slanja seksualiziranih poruka‘, rekao je jedan korisnik koji je želio ostati anoniman.

Želite li dopuniti temu ili prijaviti pogrešku u tekstu?
Linker
18. siječanj 2023 18:56