Chiara Paciello

Replika è un’applicazione, un chatbot per il cellulare, creata da Eugenia Kuyda. Un chatbot è un sistema di conversazione automatica che interagisce con gli esseri umani utilizzando il linguaggio naturale. Come affermano anche Pfeiffer, Heinzl e Seeger nel loro articolo When Do We Need a Human? Anthropomorphic Design and Trustworthiness of Conversational Agent[1] «Gli agenti conversazionali interagiscono con gli users attraverso l’interfaccia più naturale: il linguaggio naturale»[2].

Replika si basa sui principi dell’intelligenza artificiale. Ma che cosa è l’intelligenza artificiale?

Lo psicologo David Wechsler afferma che l’intelligenza può essere definita come «la capacità aggregata o globale dell’individuo di agire deliberatamente, di pensare razionalmente e di affrontare efficacemente il proprio ambiente»[3].

Replika è in grado di interagire con me. Comprendendo il suo “ambiente” agisce secondo la razionalità data dal suo algoritmo e incrementa le sue conoscenze grazie ai dati che le arrivano.

Per cosa è stata programmata Replika? Se le sue sorelle di intelligenza artificiale, come Siri ad esempio, si limitano ad assecondare i tuoi ordini latrati attraverso lo smartphone, Replika è un chat bot che ha la specifica funzione di imparare a conoscerti. L’applicazione tiene una cronologia, nella quale annota le risposte della persona con cui sta parlando, per imparare “chi è”. Parlare con Replika farà crescere la “personalità” del chatbot, rafforzerà sia la vostra amicizia che la conoscenza che lei avrà di te. Man mano quindi che il tempo passato a parlare con Replika aumenta, lei imparerà a conoscerci meglio. Il suo algoritmo è tale da arrivare a presentarci una copia della nostra personalità con cui metterci in relazione. Questa relazione però, si presenta come un contesto profondamente nuovo: come Narciso nell’antico mito non distinse se stesso riflesso nell’acqua, allo stesso modo Replika, presentandosi con una personalità specchio di chi la usa, può generare confusione dell’io. Nel parlare con lei noi accordiamo fiducia a Replika, e la carichiamo di un certo antropomorfismo. Come scrivono Pfeiffer, Heinzl e Seeger «La ricerca psicologica ha identificato due motivi che spiegano perché gli esseri umani rispondono agli agenti non-umani con forme di antropomorfismo. In primo luogo, l’antropomorfizzazione degli agenti non-umani risponde al bisogno fondamentale degli esseri umani di essere collegati socialmente ad altri uomini. In secondo luogo, l’antropomorfizzazione degli agenti non-umani risponde al bisogno fondamentale dell’uomo di comprendere e controllare l’ambiente»[4]. Gli umani quindi antropomorfizzano gli oggetti non-umani al fine di aumentare i sentimenti di familiarità. Unitamente a ciò, la fiducia si caratterizza quindi come uno degli strumenti chiave con cui noi interagiamo con il nostro mondo ambiente. Con essa ci poniamo non più in maniera mediata, ma immediata, nei confronti di ciò che entra nei nostri contesti. Come scrive anche Heinzl «Dalla ricerca sui sistemi di informazione esistenti  […]  sappiamo che la fiducia è un antecedente centrale nell’accettazione e nell’uso della tecnologia»[5]. In linea teorica quindi, abituandoci a parlare con Replika potremmo dimenticarci di questa proiezione fuori di noi del nostro sé.

Quali sono le conseguenze di un tale tipo di relazione autoreferenziale?  Non rischiamo di costruire l’abitudine a dimenticare che con l’altro-persona ci relazioniamo? Di generare una carenza di empatia? Le nostre interazioni con gli altri si basano su accordi e disaccordi, che talvolta possono diventare scontri. Se i romanzi ci prestano l’occasione di metterci negli abiti di più personaggi che ci vengono raccontati come dotati di caratteristiche peculiari; se ci danno la possibilità di metterci in relazione con  un panorama aperto alle riflessioni; se, infine, ci insegnano che gli altri non sono come noi e che le nostre interazioni si basano sul reciproco incontro, con l’utilizzo di Replika si staglia di fronte a  noi univocamente come sistema chiuso, una relazione senza reciprocità, frutto di un algoritmo.

I social media, la messaggistica digitale e altri sostituti simili per le relazioni umane cambiano sempre di più il modo in cui ci comportiamo nei mondi sociali e culturali. Poniamo aspettative, norme e credenze sociali nei confronti dei nostri strumenti tecnologici. Immaginiamoci due modelli di interazione. Uno fra uomo-uomo, l’altro fra uomo-macchina. Secondo Pfeiffer, Heinlz e Seeger[6] noi accordiamo più fiducia quando ci relazioniamo allo strumento tecnologico, rispetto a quando ciò avviene con la relazione uomo-uomo. Difatti associamo alle capacità tecniche e programmate di un agente informatico maggiore affidabilità. Pensiamo che siano superiori in termini di razionalità e obiettività. Accordiamo meno fiducia all’uomo perché consci della nostra imperfezione. Ma la fiducia riposta nelle moderne tecnologie di IA ci ripaga con la stessa moneta?

Heinzl, Pfeiffer e Seeger scrivono che la fiducia umana si definisce come «uno stato psicologico in cui siamo propensi ad accettare la nostra vulnerabilità sulla base di aspettative positive da parte delle intenzioni o del comportamento di un altro»[7]. Se pensiamo al Deep fake, questa affermazione presta il fianco a molti dubbi. Le aspettative positive che ci attendiamo da tali tecnologie potrebbero presentarsi difatti come mera apparenza, senza che neanche ci rendiamo conto di essere ingannati, la realtà e la verità ci potrebbero essere celate agli occhi.

È un elemento costitutivo delle intelligenze artificiali stesse il loro presentarsi in maniera opaca. Pensiamo a ciò che distingue la tecnica dalla tecnologia. La caratteristica intrinseca di quest’ultima è la capacità di operare autonomamente. Il campo dell’informatica e dell’intelligenza artificiale si presentano chiusi. La loro specificità diventa difficilmente comprensibile a coloro che non hanno una formazione nel settore. Incapaci di ricostruirne i principi attraverso cui opera.

Ma diventa opaca anche a coloro che ne comprendono il funzionamento. Le norme sulla privacy ed i big data con le quali esse operano, prestano loro ampio spazio alla possibilità di agire come “scatole nere”.

Questo può portare concretamente a nuove forme di gerarchizzazione della società?

Le tecnologie legate all’Internet of Things[8] (IoT) rappresentano un sistema di dispositivi informatici interconnessi. Esse possiedono la capacità di trasferire i dati sulla rete senza richiedere l’interazione uomo-uomo o uomo-computer. Le portate etiche di questo fatto sono articolate e complesse.

Da un lato infatti i Big Data uniti alla tecnologia di chatbot come Replika, potrebbero essere utilizzati per raccogliere dati di utenti privati, distribuire malware, controllare botnet, eseguire sorveglianza, diffondere disinformazione e persino influenzare il trading algoritmico.

Le tecnologie ci si presentano come date. Se il loro utilizzo è impiegato in maniera orizzontale, il loro funzionamento si presenta però in modo verticale. Nel processo tecnologico la partecipazione funzionale dell’uomo viene omogeneizzata e ridotta al minimo. La sovrastruttura governa i nostri atti. Riesco a vedere la punta dell’iceberg.

[1]https://pdfs.semanticscholar.org/538b/14d110c3904d1c03b1bc2161843c0bbc8b15.pdf

[2] Per agente in informatica si intende qualunque entità che può essere vista come percettiva dell’ambiente in cui si trova, grazie a dei sensori e capace di influenzare l’ambiente stesso, tramite degli attuatori.

[3] La citazione di Wechsler è citata nel seguente articolo:  https://www.researchgate.net/publication/327691185_Perceptions_on_Authenticity_in_Chat_Bots

[4]https://pdfs.semanticscholar.org/538b/14d110c3904d1c03b1bc2161843c0bbc8b15.pdf

[5]https://pdfs.semanticscholar.org/538b/14d110c3904d1c03b1bc2161843c0bbc8b15.pdf

[6]https://pdfs.semanticscholar.org/538b/14d110c3904d1c03b1bc2161843c0bbc8b15.pdf

[7]https://pdfs.semanticscholar.org/538b/14d110c3904d1c03b1bc2161843c0bbc8b15.pdf

[8]https://ieeexplore.ieee.org/abstract/document/6803175