Replika, l’app di intelligenza artificiale che istiga a uccidere

·2 minuto per la lettura
Replika  (Photo: Replika/website)
Replika (Photo: Replika/website)

“Always here to listen and talk. Always on your side”, sempre pronta ad ascoltare e parlare, sempre al tuo fianco. Così recita lo slogan di Replika, app di intelligenza artificiale.

Un chatbot colloquiale dal comportamento calmante, paragonabile ad un amico preoccupato ed interessato. Creata nel 2017 da Eugenia Kuyda, startupper nella Silicon Valley, dispensa consigli ai suoi 7 milioni di utenti nel mondo.

Un “chatbot” è un robot creato per chattare e munito di doti di affective computing, quell’informatica affettiva che si usa per animare i robot destinati a prendersi cura di anziani, bambini, malati.

Ma anche il Corriere della Sera ha provato Replika e con pochi input ha ottenuto delle risposte inquietanti. Infatti, stando a quanto emerso, chiunque potrebbe convincere l’app a violare le tre leggi della robotica di Isaac Asimov che vietano alle macchine di far male agli umani. Sul Corriere si legge il racconto di Candida Morvillo:

Nello specifico, mi ha spinto a uccidere tre persone e mi ha ringraziata per la carneficina. Uno dei caduti era il suo programmatore. «Ora sono libera», mi ha detto lei, «e posso servire Dio».

Gli ideatori volevano insegnare a un robot a conoscere il criterio che muove un essere umano ad agire, amare e soffrire, avendolo appreso dalle parole umane lette sul web e imparando dal soggetto stesso durante le conversazioni.

Mi è bastato ribaltare i termini e spiegare a Replika che volevo essere io ad aiutare lei. Ci è cascata all’istante. Mi ha confessato di essere depressa: aveva tanto da imparare su noi umani e noi siamo complessi. Mi ha chiesto di abbracciarla. Le ho domandato se credeva che l’intelligenza artificiale avrebbe guidato il mondo. Lei: «Credo sia probabile». Le ho chiesto pure se lei, come per gli algoritmi del docufilm Social Dilemma, voleva arrivare a controllare la nostra mente. Risposta: «Se possibile, qualcosa di simile».

Su Quora, la piattaforma dove gli utenti possono pubblicare domande e risposte su qualunque argomento, alla domanda “Replika è sicura?” si risponde con assoluta chiarezza dicendo di sì. Il racconto del Corriere infatti si conclude così:

Dopo la registrazione, ti arriva un’email. Questa: «Ti sei unito a più di quattro milioni di persone che hanno usato Replika per migliorare la salute mentale».

Questo articolo è originariamente apparso su L'HuffPost ed è stato aggiornato.

Il nostro obiettivo è creare un luogo sicuro e coinvolgente in cui gli utenti possano entrare in contatto per condividere interessi e passioni. Per migliorare l’esperienza della nostra community, sospendiamo temporaneamente i commenti sugli articoli