Una nuova bizzarra app chiamata "Vera AI" afferma di consentire ai suoi utenti di creare copie dei "tuoi amici o familiari", un uso sorprendentemente sfacciato della tecnologia AI che non tenta nemmeno di nascondere il fatto che sta cercando di sostituire la connessione umana.
I materiali di marketing dell'app suggeriscono addirittura che può essere utilizzata anche per "ricreare qualcuno che ti manca... e continuare a parlare senza limiti" - suggerendo fortemente che è progettata per permetterti di riconnetterti con parenti morti.
Tuttavia, l'Internet non è rimasto particolarmente colpito dalla proposta.
La descrizione dell'app sul Google Play Store è un miscuglio sospetto di affermazioni ridondanti, in cui si vanta di essere il "primo amico AI dotato di intelligenza emotiva" e il "primo prodotto chatbot che si comporta effettivamente come una persona reale" - affermazioni facilmente smentite data la ricchezza di altre app simili.
Misteriosamente, la copia dell'azienda sembra essere stata modificata dopo che il Futurismo ha chiesto un commento.
"Che tu abbia perso una persona cara o semplicemente desideri avvicinarti a qualcuno che non vedi abbastanza spesso, Vera AI è l'app giusta per te", si legge in una versione precedente della descrizione dell'app. "Ricrea chiunque ti venga in mente e intrattieni conversazioni reali e intime con loro."
Il cambiamento è stato un tentativo intenzionale di offuscare l'intenzione dell'app di ricreare i propri cari, compresi i defunti? Inoltre, perché preoccuparsi di parlare con una copia AI di un parente vivente se puoi comunque inviargli un messaggio?
L’idea di utilizzare l’intelligenza artificiale come ponte verso l’aldilà esiste ormai da parecchio tempo. Nel 2022, ci siamo imbattuti in una donna morta di recente che ha fatto un'apparizione a sorpresa al suo stesso funerale sotto forma di "esperienza video conversazionale olografica" abilitata dall'intelligenza artificiale.
L'anno scorso ci siamo imbattuti anche in un servizio chiamato Seance AI, che, come suggerisce il nome, promette di resuscitare i morti con l'aiuto dell'intelligenza artificiale.
Oltre a comunicare con i parenti defunti, i chatbot AI hanno anche consentito a innumerevoli utenti di avviare relazioni con " fidanzate AI " o "fidanzati", che vanno dalle amicizie casuali alle storie d'amore intime sull'app Replika.
Vera AI, tuttavia, sembra essere un tentativo molto meno raffinato e insolitamente sfacciato di trarre profitto da questa tendenza.
Nella sua descrizione rivista, l'app è sospettosamente vaga su come sia in grado di ricreare i tuoi cari. Nella sezione "Passaggio 2: crea il tuo amico AI", l'app pone alcune domande sconcertanti - "Quali sono le sue passioni? E le sue paure? Qual è la sua personalità?" si legge nella descrizione. "Condividere i dettagli del tuo amico AI renderà le tue conversazioni più significative."
Considerati gli evidenti problemi di copia e la caratteristica mancanza di qualsiasi tipo di originalità, è del tutto possibile che anche la descrizione sia stata generata da un'intelligenza artificiale. "Dalle conversazioni profonde alle semplici chiacchiere, intrattieni conversazioni reali con il tuo amico AI", promette l'app. "Che tu stia cercando un consiglio o semplicemente desideri che qualcuno ti ascolti, Vera AI è il prodotto che fa per te."
Un'e-mail di supporto sulla pagina dello store Google Play dell'app appartiene a una società di software chiamata Bending Spoons, con sede a Milano, Italia. L'outfit, che ha recentemente sfoggiato il suo nuovo quartier generale, è specializzato in app di fotoritocco facilitate dall'intelligenza artificiale e altri strumenti di intelligenza artificiale.
È interessante notare che l'Autorità italiana per la protezione dei dati, il principale regolatore della privacy del Paese, ha stabilito l'anno scorso che Replika deve interrompere immediatamente il trattamento dei dati degli italiani, citando "troppi rischi per i bambini e le persone emotivamente vulnerabili".
Non è chiaro che tipo di dati Vera AI utilizzi per insegnare ai suoi chatbot. Una versione precedente della pagina Google Play dell'app rilevava che l'app ha accesso ai "contenuti della memoria USB" inclusi "foto, contenuti multimediali e file".
Una sezione "sicurezza dei dati" apparentemente rivista e molto più vaga ora afferma che l'app può condividere "informazioni personali" e "informazioni sull'app". Anche se l'azienda deve ancora rispondere alle richieste di commento di Futurism, aggiorneremo questo spazio se riceveremo risposta.
