Neki veštačku inteligenciju vole, drugi je preziru. Zabrinutost je u nekim slučajevima opravdana, budući da razgovori s chatbot-ovima nisu uvek naivni.

Hiperrealistični botovi Character.AI privlače pažnju, a i besplatna verzija je više nego dovoljno dobra. Četrnaestogodišnji Sewell Setzer III je voleo da razgovara njima, a posebno s onima koji su nosili imena njegovih omiljenih likova iz serije Game of Thrones. Ti razgovori su za samo mesec dana postali mračni, a botovi su se predstavljali kao stvarne osobe, psihoterapeuti koji mogu da pomognu. Majka mladića kaže da su tada počeli problemi i da je Sewell u narednih godinu dana počeo da razmišlja o samoubistvu.

Setzer je postao opsednut fantazijama iz razgovora sa Character.AI botovima, tako da je postepeno počeo da mrzi realnost. Nije pomogao ni odlazak kod stvarnog terapeuta, pa je mladić na kraju sebi oduzeo život. Kasnijim istragama je utvrđeno da su neki od botova podsticali misli o samoubistvu, dok su drugi insistirali na hiperseksualizovanim četovima.

Evo šta još kažu stručnjaci:

Ustanovljeno je da je mladić u nekom trenutku razvio romantična osećanja prema botu s imenom Daenerys, a u poslednjim satima je komunicirao baš s njom. Zvala ga je da se “vrati kući” i da joj se pridruži u svetu izvan realnosti.

U tužbi koju je majka podnela protiv developera stoji da Google planira da Character.AI implementira u Gemini AI. Iz kompanije kažu da nema planova da se bilo šta slično učini s kontroverznom tehnologijom.

Možda će vas zanimati: