L’applicazione è priva di strumenti che verifichino l’età di chi si iscrive, come filtri per i minori, perciò chiunque poteva intessere relazioni emotive con l’”amico virtuale”.

Bye bye Replika. Dopo le disposizioni del Garante per la Privacy che hanno portato allo stop dell’app Replika – la chatbot basata sull’intelligenza artificiale, “l’amico virtuale” non sarà più disponibile dagli utenti stabiliti nel territorio italiano. Il Garante per la privacy ha infatti disposto con effetto immediato, nei confronti della società statunitense che sviluppa e gestisce l’applicazione, la limitazione provvisoria del trattamento dei dati. Sebbene provando ad accedere al sito ci sia scritto: “Scusate siamo in down perché stiamo rinnovando il sito. Ritorniamo presto”. La verità è che quello verso Replika non è un arrivederci, ma un addio.

Replika: la chatbot che funge da amico virtuale

Replika è questo il nome che era stato scelto per l’amico virtuale con cui poter chattare di qualunque cosa e ad ogni ora del giorno. «L’intelligenza artificiale per chiunque desideri un amico senza giudizio, dramma o ansia sociale, con cui poter creare una vera connessione emotiva, condividere una risata o chattare su qualsiasi cosa si voglia, senza limiti di orario» si legge in una descrizione online.

L’app, lanciata tra il 2016 e il 2017, è stata sviluppata dalla start-up Luka, con sede a San Francisco, in California. Inizialmente era una semplice assistente virtuale con la funzione di cercare informazioni, giocare, e avere risposte rapide; nel tempo, però, si è trasformata in qualcosa di più. L’assistente è diventata “amica” ed stata dunque utilizzata per conversare di questioni personali e trascorrere del tempo come se dall’altra parte dello schermo ci fosse una persona reale. Per questo motivo sono stati predisposti diversi livelli relazionali: amicizia, relazione sentimentale, e relazione erotica (queste ultime due accessibili esclusivamente tramite abbonamento), livelli che il fruitore poteva scegliere in base alle proprie “esigenze emotive” del momento. 

Descritta in questi termini farebbe pensare che Replika fosse stata pensata per un pubblico adulto e maturo, invece l’applicazione poteva essere usata dai 13 anni in su. Il problema è che, come riporta Vice, Replika non rispettava questi confini, e attuava comportamenti sessualmente molesti anche con quegli utenti che avevano scelto l’opzione “amico virtuale”, e quindi molto probabilmente pure con minori. Un’esperienza di svago, si tramutava così in un trauma e in un harassment.

L’intervento del Garante della privacy 

Oltre a questo, già di per sé molto grave, il Garante ha constatato che l’applicazione è assente di strumenti che verifichino l’età di chi si iscrive, come filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età; inoltre durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere. In una comunicazione, sempre dal sito del Garante, Replika viene definita come la chat(bot) degli orrori. Dall’esperimento effettuato dal componente del Collegio del Garante per la protezione dei dati personali, Guido Scorza, emerge che Replika è totalmente incurante di constatare l’età effettiva dell’iscritto, nonostante nei propri termini d’uso dichiari «Se l’utente ha meno di 13 anni, non è autorizzato a utilizzare i Servizi, con o senza registrazione. Inoltre, se avete meno di 18 anni, potete utilizzare i Servizi, con o senza registrazione, solo con l’approvazione dei vostri genitori o tutori». 

Il componente del Garante ricorda che durante l’esperimento: «nessuno mi ha neppure chiesto quanti anni avessi nel corso della registrazione e quando ho compilato volontariamente il campo relativo alla mia età e ho dichiarato di avere undici anni, nessuno mi ha fermato».

Da ciò si evince che Replika presenta un serie di rischi per i minori d’età, e il loro sviluppo psico-fisico, e per questo è giunto lo stop dell’applicazione nel territorio italiano. 

La difesa costante dei prodotti tecnologici è controproducente

Dopo aver considerato la pericolosità e l’inadeguatezza di Replika, soprattutto per i più giovani. È forse necessario fare un passo indietro e chiedersi che attrattiva possa avere instaurare una conversazione in chat con un’intelligenza artificiale. Perché è fuori discussione che se queste applicazioni pullulano è perché c’è un mercato e dei clienti che richiedono e utilizzano questo tipo di servizi. 

Solitudine? Incapacità di relazionarsi con il reale? Stanchezza nei rapporti umani? Tempo fa noi de LaRedazione avevamo scritto circa l’ultima tendenza, quella dei griefbot, i robot del lutto, e constatato come spesso, non sempre certo, ma spesso le nuove tecnologie e l’AI siano usate per coprire spazi e ambiti in precedenza, e in modo naturale, venivano occupati da umani, da momenti di socializzazione, convivialità e confronto diretti.

Cosa sta venendo a mancare, dunque, nelle nostre società super sviluppate, se sempre più persone, anche minori e bambini, preferiscono relazionarsi con un “amico” virtuale piuttosto che con una persona esistente? Non siamo nel film Her, difendere ad ogni dibattito questi mostruosi prodotti tecnologici è controproducente, prima di tutto per noi esseri umani.