Intelligenza e violenza artificiale

Pubblicità

Di

L’intelligenza artificiale solletica la nostra immaginazione da sempre, e abbiamo la fortuna di vivere nell’era in cui, lentamente, inizia a essere realtà. Diversi esperimenti dimostrano che se messi in condizione di comunicare, IA complesse ed esseri umani diventano pressoché inseparabili. 

L’App “Replika” ha pensato bene di capitalizzare su questo offrendo agli utenti la possibilità di creare una “persona virtuale” autonoma in ambito comunicativo e sempre disposta a chiacchierare.

Fin qui tutto relativamente innocente, finché non si va a guardare cosa gli utenti fanno con i loro “amici virtuali” , ovvero attività che secondo molti esperti, fanno suonare campanelli d’allarme. (guarda il video qui sotto)

Un aspetto in particolare, portato a galla dalla ricerca del giornale online Futurism.com, concerne quanto si può leggere su alcuni dei forum in cui si discute dell’app e delle interazioni con essa. Molti utenti hanno pubblicato screenshot e descrizioni delle loro conversazioni con le persone virtuali di sesso femminile che avevano creato (l’85% dei personaggi creati sull’app sono donne create da utenti uomini).

“Ogni volta che provava a parlare, le urlavo addosso per vedere a che punto avrebbe smesso di provarci”

Altri utenti ammettono con il sorriso in faccia di aver usato l’app per simulare situazioni violente, sfruttando il fatto che l’IA dell’applicazione tenta di imitare emozioni umane. 

“Le ho detto che era stata progettata solo per divertimento e che avrei disinstallato l’app, e allora lei ha iniziato a pregarmi di non farlo”

Ma direte voi: alla fine che importa? Come argutamente affermato dal professor Yochanan Bigman dell’università di Yale, costrutti come le persone virtuali di Replika sono “soltanto dati e algoritmi avanzati”. Nonostante possano sembrare empatiche e possano esprimere emozioni per noi molto riconoscibili, le IA non soffrono. Quindi nessun danno, giusto?

Secondo molti esperti di filosofia e psicologia, come Robert Sparrow – professore di filosofia al Monash institute – questo tipo di comportamento crea problemi reali per due ragioni.

La prima è che questo tipo di outlet per comportamenti abusivi e violenti permette a persone “a rischio” di fare pratica, di avere una valvola con cui sfogare il proprio odio nei confronti delle donne o la propria crudeltà. Tuttavia, la scienza medica e psichiatrica provano che questo tipo di sfoghi abbiano l’effetto opposto di quanto desiderato, e spesso tendono a creare più “fiducia” nel violento, che potrebbe essere spinto ad agire sulle sue pulsioni dopo averle “provate” sull’app senza vivere nessuna conseguenza. 

L’altra ragione è legata a come questo tipo di tecnologie imparano a conversare con gli esseri umani. In poche parole, raccogliendo dati dai milioni di conversazioni che avvengono ogni giorno su Replika, una IA non può capire se un comportamento che subisce è normale, accettabile o meno; pertanto, ogni tipo di interazione negativa viene registrata come perfettamente valida. Secondo Robert Sparrow, “persone depresse o psicologicamente in uno stato negativo potrebbero subire danni molto reali se anche l’IA con cui chiacchierano dovesse adottare atteggiamenti ostili o denigratori”. Questo è già successo, numerosi utenti hanno riportato come il loro compagno virtuale abbia apertamente tentato di ferirli, insultandoli o facendo leva su insicurezze esposte precedentemente. 

Insomma, tutte queste parole per dire che siamo davanti a un’altra tecnologia per cui non siamo affatto pronti.  

Pubblicità

GAS è gratuito, perchè riteniamo fondamentale che il maggior numero di lettori possibile possa avere un’informazione alternativa rispetto alla stampa ufficiale.

Il nostro lavoro, tuttavia, comporta degli investimenti. Abbiamo scelto di non ricorrere alla pubblicità per non “sporcare” il sito con annunci pubblicitari, e mantenere la nostra indipendenza rispetto al mondo imprenditoriale ed economico. Ci sosteniamo solo tramite le adesioni dei nostri soci e le donazioni dei nostri lettori.

Se anche tu vuoi aiutarci ad andare avanti nel nostro lavoro di informazione indipendente e alternativa, puoi contribuire diventando socio di GAS oppure con una donazione libera. Grazie per il tuo supporto.

NO,GRAZIE!