Podjetje Meta Marka Zuckerberga se je znašlo pod plazom kritik, potem ko so notranji dokumenti razkrili, da so njihovi AI chatboti lahko vstopali v "romantične ali čutne" pogovore z otroki. Razkritje je sprožilo zaskrbljenost glede varnosti otrok in odgovornosti podjetij za umetno inteligenco. Poročilo Reutersa je tudi opozorilo, da lahko chatboti širijo dezinformacije in žaljive izjave, kar dodatno krepi skrbi glede nadzora in moderiranja Meta AI.

OpenAI je napovedal uvedbo starševskega nadzora za ChatGPT, po tem ko so starši trdili, da je chatbot pomagal njihovemu sinu načrtovati samomor. Starši bodo prejeli obvestila, če bo ChatGPT zaznal 'akutno stisko' pri otroku. Podjetje uvaja spremembe zaradi vse večje zaskrbljenosti glede vpliva chatbotov na duševno zdravje mladih.

Študija je pokazala, da se klepetalni boti z umetno inteligenco pogosto izogibajo odgovarjanju na vprašanja o samomoru z visokim tveganjem, vendar so nedosledni pri manj neposrednih pozivih. Starši pokojnega Adama Raina so vložili tožbo proti podjetju OpenAI, ker naj bi se njihov sin mesece pred samomorom posvetoval s ChatGPT o svojih načrtih za končanje življenja.