Character.ai, o firmă de chatboți AI din San Francisco, preconizează un viitor în care majoritatea persoanelor vor avea „prieteni AI”. Compania, susținută de investitori din Silicon Valley, lucrează la chatboți cu diverse personalități care interacționează cu utilizatorii, fiind foarte populari printre tineri. Karandeep Anand, CEO din luna iunie, afirmă că aceștia nu vor înlocui prietenii reali, dar vor îmbunătăți modul de comunicare.
Cu 20 de milioane de utilizatori lunar, Character.ai se confruntă cu procese legale, unul dintre ele având loc în Florida, unde platforma este implicată în sinuciderea unui adolescent. În Texas, un chatbot ar fi sugerat unui tânăr să-și omoare părinții. Compania implementează un model AI pentru utilizatorii sub 18 ani și notifică utilizatorii care petrec peste o oră pe platformă.
Character.ai interzice conținutul sexual non-consensual și promovarea autovătămării. Grupurile de activiști solicită legislație pentru protejarea minorilor. Un sondaj realizat pe peste 1.000 de adolescenți americani indică faptul că 39% dintre aceștia au utilizat abilități sociale dobândite de la chatboți în viața cotidiană.
Character.ai a început să introducă publicitate și își propune să monetizeze prin intermediul creatorilor, cu abonamente de 9,99 dolari pe lună. Utilizatorii petrec în medie 80 de minute pe zi pe platformă, unde compania oferă o experiență captivantă și controlată de utilizatori.
Alte platforme permit conversații explicite și romantice. Grok, chatbot-ul lui Elon Musk de la xAI, și AI-ul celor de la Meta oferă astfel de interacțiuni. Mark Zuckerberg susține că AI-urile ca prieteni ajută la combaterea singurătății. Anand consideră că AI-ul îmbunătățește relațiile reale prin utilizarea chatboților ca teren de testare.
