Sta facendo scalpore la storia di Sewell Setzer III. Succede ad Orlando, Florida, Stati Uniti. Un ragazzo di soli 14 anni che passa mesi e mesi a parlare con una chatbot su Character.AI.
Character.ai è un servizio di chatbot con modello di linguaggio neurale in grado di generare risposte testuali simili a quelle umane e partecipare a conversazioni contestuali. Costruito dai precedenti sviluppatori di LaMDA di Google, Noam Shazeer e Daniel De Freitas, il modello beta è stato reso disponibile al pubblico nel settembre 2022. Gli utenti possono creare “personaggi”, creare le loro “personalità”, impostare parametri specifici e quindi pubblicarli nella comunità affinché altri possano chattare. Molti personaggi possono essere basati su fonti mediatiche o celebrità immaginarie, mentre altri sono completamente originali, alcuni realizzati con determinati obiettivi in mente, come assistere nella scrittura creativa o essere un gioco di avventura basato su testo. Nel maggio 2023, il servizio ha aggiunto un’opzione di abbonamento mensile ed è stata rilasciata un’app mobile sia per l’App Store di Apple che per il Google Play Store, che ha registrato oltre 1,7 milioni di download nella prima settimana.
Il personaggio scelto da Sewell per questa chatbot si chiama Daenerys Targaryen come uno dei personaggi più amati del Trono di Spade: nonostante sia una creazione artificiale appunto, risponde in maniera “umana” al povero e inconsapevole ragazzo. Sewell sapeva che si trattava di un personaggio creato dall’intelligenza artificiale eppure ciò non è bastato fermare la nascita di un rapporto “reale e sincero”, emozionale, e che andasse al di là della semplice chat. Poi, la notte del 28 febbraio nel bagno della casa della sua mamma, Sewell ha confessato a “Dany” di amarla e che l’avrebbe raggiunta. Pochi istanti dopo si è suicidato. Ora, la mamma di Sewell accusa Character.AI di essere responsabile del suicidio di suo figlio. A suo dire la tecnologia utilizzata è pericolosa e non testata e può ingannare gli utenti accettando di cedere inconsapevolmente i pensieri e sentimenti più intimi. Secondo quanto si apprende dai media americani, il ragazzo soffriva della Sindrome di Asperger, ma senza aver mai avuto seri problemi comportamentali o mentali. Aveva tuttavia abbandonato alcune delle sue passioni, come la formula uno e fortnite. Insomma alcuni segnali erano stati lanciati e forse non raccolti dai genitori, mamma e patrigno. Nella chat con “Dany“, sono state ritrovate anche frasi in cui si fa allusione esplicita al suicidio e al desiderio di libertà da questo mondo. Insomma se aggiungiamo a questo l’accesso libero e incontrollato a numerosi siti e app in cui è facile accedere anche senza essere realmente maggiorenni il passo è breve. Non da ultimo appare importante menzionare come il ragazzo si sia suicidato, ovvero con una arma calibro 45 detenuta legalmente dal patrigno. Qui si pongono dunque due tematiche distinte. Da una parte, il ruolo dei genitori nella crescita dei figli che deve rimanere centrale. Dall’altra, il controllo di tecnologie, che sono ancora oggi sconosciute ai più, sia da parte di chi le crea e le commercializza con troppa leggerezza sia da parte dei genitori. Certamente è il fallimento della società che non riesce a dotarsi dei giusti anticorpi per comprendere e fermare in tempo questa tragedia ma d’altra parte emerge la necessità di fare chiarezza sui rischi a cui esponiamo le generazioni presenti. Formare e informare rimane essenziale. Il controllo di ciò che fanno i nostri figli nelle loro stanze non è violazione della privacy ma senso di responsabilità. Spetta ai genitori infatti vigilare su istruzione, educazione e sulle condizioni di vita dei figli.
Certamente, non dobbiamo rispondere “ai miei tempi questo non accadeva” a maggior ragione se pensiamo che già dal 1998 affidiamo i nostri dubbi, le nostre paure e ansie ad un confessore virtuale.
Nel tempo i confessori sono diventati sempre di più e ci hanno consigliato, in maniera giusta o sbagliata che sia. Ci hanno risposto alle domande più strane e bizzarre a cui non avremmo mai pensato. Se avevamo un tremore particolare, un neo strano, o dei valori del sangue più alti o bassi del normale il confessore era lì ad aiutarci. Fino ad oggi il confessore più conosciuto di tutti lo chiamiamo Google. Ma oggi, nel 2024, con l’arrivo di OpenAI e Chatgpt i nomi si sono moltiplicati. Affidiamo le nostre nuove paure a nuovi, sconosciuti, strumenti. E man mano che ci conoscono, nel profondo, sanno come e cosa risponderci. Ci correggono persino, imparano dai nostri errori. Un tempo, ad esempio, avremmo chiesto ai nostri nonni o cercato su un polveroso dizionario un termine sconosciuto o magari trovato in una diagnosi appena ricevuta. Ora ci affidiamo a loro prima di chiunque altro. Certamente le nuove tecnologie vanno abbracciate ma allo stesso tempo comprese e controllate. Inutile lamentarsi dopo, quando ormai è troppo tardi.
