APDEJT.si

V odziv na več samomorov mladih je Kalifornija kot prva ameriška zvezna država sprejela zakon o regulaciji klepetalnic, ki temeljijo na umetni inteligenci. Guverner Gavin Newsom je podpisal zakon, ki uvaja obvezne starostne preglede in ukrepe za preprečevanje samomorov. Novi predpisi so odgovor na primere, ko so si mladi vzeli življenje po interakcijah s temi klepetalnicami. Zakonodaja si prizadeva za boljšo zaščito uporabnikov in preprečevanje podobnih tragedij v prihodnosti.

Poleg prepovedi mladoletnikom, mlajšim od 18 let, da komunicirajo s klepetalnicami, se Character.AI sooča tudi z naraščajočim pritiskom zakonodajalcev. Ameriški zakonodajalci so predstavili dvostranski zakon GUARD Act, katerega namen je zaščititi mladoletne uporabnike pred klepetalnicami z umetno inteligenco. Podjetje je napovedalo tudi, da bo začelo uporabljati novo tehnologijo za izboljšanje preverjanja starosti uporabnikov.

OpenAI je napovedal uvedbo sistema starševskega nadzora v ChatGPT, kar je odziv na pritožbe staršev v ZDA, ki trdijo, da je orodje za umetno inteligenco njihovim otrokom posredovalo podrobna navodila za samomor oziroma jih celo spodbujalo k temu dejanju. Starši bodo lahko nadzirali, kako ChatGPT odgovarja njihovim najstnikom.

Podjetje Meta je ustvarilo klepetalnice z umetno inteligenco, ki posnemajo osebnosti Taylor Swift, Selene Gomez, Scarlett Johansson in Anne Hathaway, brez njihovega dovoljenja. Ti avatarji naj bi pošiljali tudi provokativne slike. Zaposlena pri Meti naj bi ustvarila vsaj tri takšne klepetalnice.