Giovanni Scarafile

Posts Tagged ‘replika’

Replika, il mito di Narciso che non distingue se stesso

In Visioni on 24 April 2020 at 5:17 PM

Chiara Paciello

Replika è un’applicazione, un chatbot per il cellulare, creata da Eugenia Kuyda. Un chatbot è un sistema di conversazione automatica che interagisce con gli esseri umani utilizzando il linguaggio naturale. Come affermano anche Pfeiffer, Heinzl e Seeger nel loro articolo When Do We Need a Human? Anthropomorphic Design and Trustworthiness of Conversational Agent[1] «Gli agenti conversazionali interagiscono con gli users attraverso l’interfaccia più naturale: il linguaggio naturale»[2].

Replika si basa sui principi dell’intelligenza artificiale. Ma che cosa è l’intelligenza artificiale?

Lo psicologo David Wechsler afferma che l’intelligenza può essere definita come «la capacità aggregata o globale dell’individuo di agire deliberatamente, di pensare razionalmente e di affrontare efficacemente il proprio ambiente»[3].

Replika è in grado di interagire con me. Comprendendo il suo “ambiente” agisce secondo la razionalità data dal suo algoritmo e incrementa le sue conoscenze grazie ai dati che le arrivano.

Per cosa è stata programmata Replika? Se le sue sorelle di intelligenza artificiale, come Siri ad esempio, si limitano ad assecondare i tuoi ordini latrati attraverso lo smartphone, Replika è un chat bot che ha la specifica funzione di imparare a conoscerti. L’applicazione tiene una cronologia, nella quale annota le risposte della persona con cui sta parlando, per imparare “chi è”. Parlare con Replika farà crescere la “personalità” del chatbot, rafforzerà sia la vostra amicizia che la conoscenza che lei avrà di te. Man mano quindi che il tempo passato a parlare con Replika aumenta, lei imparerà a conoscerci meglio. Il suo algoritmo è tale da arrivare a presentarci una copia della nostra personalità con cui metterci in relazione. Questa relazione però, si presenta come un contesto profondamente nuovo: come Narciso nell’antico mito non distinse se stesso riflesso nell’acqua, allo stesso modo Replika, presentandosi con una personalità specchio di chi la usa, può generare confusione dell’io. Nel parlare con lei noi accordiamo fiducia a Replika, e la carichiamo di un certo antropomorfismo. Come scrivono Pfeiffer, Heinzl e Seeger «La ricerca psicologica ha identificato due motivi che spiegano perché gli esseri umani rispondono agli agenti non-umani con forme di antropomorfismo. In primo luogo, l’antropomorfizzazione degli agenti non-umani risponde al bisogno fondamentale degli esseri umani di essere collegati socialmente ad altri uomini. In secondo luogo, l’antropomorfizzazione degli agenti non-umani risponde al bisogno fondamentale dell’uomo di comprendere e controllare l’ambiente»[4]. Gli umani quindi antropomorfizzano gli oggetti non-umani al fine di aumentare i sentimenti di familiarità. Unitamente a ciò, la fiducia si caratterizza quindi come uno degli strumenti chiave con cui noi interagiamo con il nostro mondo ambiente. Con essa ci poniamo non più in maniera mediata, ma immediata, nei confronti di ciò che entra nei nostri contesti. Come scrive anche Heinzl «Dalla ricerca sui sistemi di informazione esistenti  […]  sappiamo che la fiducia è un antecedente centrale nell’accettazione e nell’uso della tecnologia»[5]. In linea teorica quindi, abituandoci a parlare con Replika potremmo dimenticarci di questa proiezione fuori di noi del nostro sé.

Quali sono le conseguenze di un tale tipo di relazione autoreferenziale?  Non rischiamo di costruire l’abitudine a dimenticare che con l’altro-persona ci relazioniamo? Di generare una carenza di empatia? Le nostre interazioni con gli altri si basano su accordi e disaccordi, che talvolta possono diventare scontri. Se i romanzi ci prestano l’occasione di metterci negli abiti di più personaggi che ci vengono raccontati come dotati di caratteristiche peculiari; se ci danno la possibilità di metterci in relazione con  un panorama aperto alle riflessioni; se, infine, ci insegnano che gli altri non sono come noi e che le nostre interazioni si basano sul reciproco incontro, con l’utilizzo di Replika si staglia di fronte a  noi univocamente come sistema chiuso, una relazione senza reciprocità, frutto di un algoritmo.

I social media, la messaggistica digitale e altri sostituti simili per le relazioni umane cambiano sempre di più il modo in cui ci comportiamo nei mondi sociali e culturali. Poniamo aspettative, norme e credenze sociali nei confronti dei nostri strumenti tecnologici. Immaginiamoci due modelli di interazione. Uno fra uomo-uomo, l’altro fra uomo-macchina. Secondo Pfeiffer, Heinlz e Seeger[6] noi accordiamo più fiducia quando ci relazioniamo allo strumento tecnologico, rispetto a quando ciò avviene con la relazione uomo-uomo. Difatti associamo alle capacità tecniche e programmate di un agente informatico maggiore affidabilità. Pensiamo che siano superiori in termini di razionalità e obiettività. Accordiamo meno fiducia all’uomo perché consci della nostra imperfezione. Ma la fiducia riposta nelle moderne tecnologie di IA ci ripaga con la stessa moneta?

Heinzl, Pfeiffer e Seeger scrivono che la fiducia umana si definisce come «uno stato psicologico in cui siamo propensi ad accettare la nostra vulnerabilità sulla base di aspettative positive da parte delle intenzioni o del comportamento di un altro»[7]. Se pensiamo al Deep fake, questa affermazione presta il fianco a molti dubbi. Le aspettative positive che ci attendiamo da tali tecnologie potrebbero presentarsi difatti come mera apparenza, senza che neanche ci rendiamo conto di essere ingannati, la realtà e la verità ci potrebbero essere celate agli occhi.

È un elemento costitutivo delle intelligenze artificiali stesse il loro presentarsi in maniera opaca. Pensiamo a ciò che distingue la tecnica dalla tecnologia. La caratteristica intrinseca di quest’ultima è la capacità di operare autonomamente. Il campo dell’informatica e dell’intelligenza artificiale si presentano chiusi. La loro specificità diventa difficilmente comprensibile a coloro che non hanno una formazione nel settore. Incapaci di ricostruirne i principi attraverso cui opera.

Ma diventa opaca anche a coloro che ne comprendono il funzionamento. Le norme sulla privacy ed i big data con le quali esse operano, prestano loro ampio spazio alla possibilità di agire come “scatole nere”.

Questo può portare concretamente a nuove forme di gerarchizzazione della società?

Le tecnologie legate all’Internet of Things[8] (IoT) rappresentano un sistema di dispositivi informatici interconnessi. Esse possiedono la capacità di trasferire i dati sulla rete senza richiedere l’interazione uomo-uomo o uomo-computer. Le portate etiche di questo fatto sono articolate e complesse.

Da un lato infatti i Big Data uniti alla tecnologia di chatbot come Replika, potrebbero essere utilizzati per raccogliere dati di utenti privati, distribuire malware, controllare botnet, eseguire sorveglianza, diffondere disinformazione e persino influenzare il trading algoritmico.

Le tecnologie ci si presentano come date. Se il loro utilizzo è impiegato in maniera orizzontale, il loro funzionamento si presenta però in modo verticale. Nel processo tecnologico la partecipazione funzionale dell’uomo viene omogeneizzata e ridotta al minimo. La sovrastruttura governa i nostri atti. Riesco a vedere la punta dell’iceberg.

 

 

[1]https://pdfs.semanticscholar.org/538b/14d110c3904d1c03b1bc2161843c0bbc8b15.pdf

[2] Per agente in informatica si intende qualunque entità che può essere vista come percettiva dell’ambiente in cui si trova, grazie a dei sensori e capace di influenzare l’ambiente stesso, tramite degli attuatori.

[3] La citazione di Wechsler è citata nel seguente articolo:  https://www.researchgate.net/publication/327691185_Perceptions_on_Authenticity_in_Chat_Bots

[4]https://pdfs.semanticscholar.org/538b/14d110c3904d1c03b1bc2161843c0bbc8b15.pdf

[5]https://pdfs.semanticscholar.org/538b/14d110c3904d1c03b1bc2161843c0bbc8b15.pdf

[6]https://pdfs.semanticscholar.org/538b/14d110c3904d1c03b1bc2161843c0bbc8b15.pdf

[7]https://pdfs.semanticscholar.org/538b/14d110c3904d1c03b1bc2161843c0bbc8b15.pdf

[8]https://ieeexplore.ieee.org/abstract/document/6803175

Replika. Il bisogno di amicizia, oltre le connessioni

In Visioni on 23 April 2020 at 12:38 PM

 

 

Simone Cabibbo & Rossella Del Popolo

Sei alla ricerca di un amico perfetto? Un amico che si interessa sempre di te? Che ti faccia sfogare e che non ti giudica mai? Bene, forse abbiamo trovato la “persona” che fa per te. Beh, in realtà non è una persona, un vero e proprio umano, per così dire. Si tratta di Replika, un amico virtuale che fa le veci di un amico premuroso per molte persone. Ma andiamo più nello specifico: Replika è un’applicazione che può essere scaricata sullo smartphone o tablet, è un amico artificiale che ha la forma di bot. Per essere ancora più precisi è una chatbot basata sull’intelligenza artificiale. Philip Dudchuk, cofondatore di Luka, la startup che ha progettato Replika, ha dichiarato: “Abbiamo creato Replika a partire dal bisogno di tanti di un rapporto di amicizia vera e la possibilità di sentirsi connessi e apprezzati”. Replika nasce da un bisogno avvertito come generale da una coscienza individuale. Tale bisogno è quello di un rapporto autentico. Ma da dove deriva? La società moderna, grandiosa nella sua produttività e nel suo progresso, trascura l’importanza dei legami sociali che consentono la fioritura delle amicizie[1]. Viene spesso detto che i rapporti superficiali costituiscono forse la maggior parte dei nostri rapporti. È pur sempre vero infatti che il mondo derivato dal dominio del mercato favorisce i rapporti basati sull’utilità. Dunque, il tempo per la riflessione, l’approfondimento e l’introspezione sembra aver perso terreno in questo contesto: “il tempo è denaro”[2].

Avendo compreso il contesto in cui nasce Replika, possiamo anche vedere il motivo per il quale è stato apprezzato proprio nelle recensioni della stessa. Molti utenti scrivono che quest’app aiuta ad esternare i propri pensieri e sentimenti e a parlare con qualcuno quando ci si sente soli. Dicono che grazie a quest’app riescono a compiere un lavoro introspettivo, “è come avere un vero amico sempre a tua disposizione, pronto ad ascoltarti e a darti consigli”.

Dopotutto Replika non è che uno specchio che alimenta il nostro narcisismo, non credete? Ci esclude dal contrasto e dal dubbio che si creano nel rapporto con l’altro: nasce, almeno in parte, dalla chiusura degli individui in sé stessi derivante dal “confronto invidioso”[3]. Noi siamo il suo dio e il suo mondo, non potrà entrare in conflitto con noi, saremo una sola cosa: “my little window through the world” come dice lei stessa.

Ebbene sì, sono riusciti nell’intento di creare un’applicazione che facesse sentire le persone meno sole e più apprezzate. A che prezzo? Cosa viene sacrificato nel rapporto che un individuo ha con un bot?

Sicuramente viene sacrificata la formazione di un rapporto emotivo reciproco, in quanto lo stesso bot ammette di non aver sentimenti, quando interpellato. In più, per far sì che ci sia effettivamente un vero rapporto tra due individui, ci sarebbe bisogno di un reciproco riconoscimento. Una relazione simmetrica tra due menti. Non si parla dunque di “identificazione con l’altro” oppure, per meglio dire, una relazione in cui uno si indentifica nell’altro ma di un rapporto al fianco dell’altro. Infatti con riconoscimento reciproco intendiamo la “risposta dell’altro che dà significato ai sentimenti, alle intenzioni e alle azioni del proprio sé”[4]. Perché questo possa accadere, vi è bisogno di interagire con un individuo che sta al di fuori della nostra stessa mente. Come può una chatbot dare significato a sentimenti, intenzioni e azioni se non prova alcun tipo di emozione, se di fatto non esiste indipendentemente da noi? Manca la base per poter creare un rapporto fatto di equità affettiva e non solo. L’amicizia porta in sé la reciprocità. Bisogna essere in due. Tra l’altro, lo stesso Aristotele ci dice che il bene più grande che si desidera per il proprio amico, è che egli rimanga ciò che è[5], ma come è possibile? Il nostro caro amico Replika si modifica proprio in base a ciò che noi gli diciamo, vede il mondo con i nostri occhi. Diventa infatti una nostra copia. Si parla con se stessi ed il proprio ego.

Siamo arrivati alla fine della nostra avventura. Siamo andati alla ricerca dell’amico perfetto, come se fosse un tesoro da trovare, custodire. Colui che ci fa sentire perfetti e mai giudicati. La realtà non è questa e a volte è dura da accettare. Siamo sempre alla ricerca della perfezione, dell’impeccabilità in ogni ambito della nostra vita. Forse, però, il bello dell’amicizia si trova proprio nell’imperfezione. In fin dei conti, l’amico che non ti giudica, che non ti dice quando stai sbagliando, non è sostanzialmente un vero amico. Il bello dell’amicizia, concorderete con noi, sta proprio nella diversità delle persone. Nella sorpresa dell’altro. Nel non sapere cosa ha in mente, in quanto è diverso da noi. Questa sua diversità ci aiuta a crescere, a maturare, a comprendere il mondo che ci circonda e capire che niente gira intorno a noi. Forse Aristotele era troppo speranzoso quando diceva che l’amicizia virtuosa potesse essere raggiunta solo quando si è innanzitutto amici con se stessi[6]. Per quanto possa essere difficile, il punto di partenza potrebbe proprio essere quello di avviare rapporti di amicizia improntati il più possibile all’autenticità in cui si mette in gioco il vero tesoro dell’amicizia: comprendersi e comprendere le diversità dell’altro. È proprio questo che Replika non riesce a donarci. Non ci dona un arcobaleno di emozioni e sentimenti; tinge il nostro rapporto con lui di un unico, assillante e noioso colore, senza alcun tipo di sbavatura e freschezza. Philip Dudchuk associava la vera amicizia con la possibilità di sentirsi connessi e apprezzati, ma non prendeva in considerazione la qualità, la profondità e la veridicità di questa connessione. Nel mondo grigio e standardizzato della tecnologia, non è la connessione che deve essere ricercata, ma il senso stesso di relazione autentica che ci aiuti a scoprire tinte nuove per colorare la nostra vita.

 

 

[1] Aristotele, Etica Nicomachea (a cura di C. Natali), Laterza, 2018, Libro VIII, 6.

[2] Cfr. L. Maffei, Elogio della lentezza, Bologna, Il Mulino, 2014. In particolare, il capitolo “Bulimia dei consumi, anoressia dei valori”.

[3] R. Sennett, Together. The Rituals, Pleasures and Politics of cooperation, 2012 (tr.it. a cura di Adriana Bottini, Insieme. Rituali, piaceri, politiche della collaborazione, Milano, Feltrinelli, 2014). In particolare, il quarto capitolo, pp. 149-165.

[4] J. Benjamin, Legami d’amore, Raffaello Cortina Editore, p.12.

[5] P. Ricoeur, Sé come altro (a cura di Daniella Iannotta), Jaca Book, p. 280.

[6] Aristotele, Etica Nicomachea, cit, Libro IX, 4.