t-mag

Stories
About
Store
Contact

Newsletter
Stockists
Newsstands

Language:

English |

Independent-tastemaker magazine
Old-fashioned paper, new media platform

Follow us

ig
sp
tt

©2024 All Rights Reserved

We use cookies to ensure that we give you the best experience on our website. If you continue to use this site we will assume that you are happy with it.Ok

MUSIC

In Conversation with Evita Manji & dmstfctn

words: Dario Buzzacchi

Il sole tramontò sul monte del Purgatorio.
Un viaggio dal lato oscuro dell’Intelligenza Artificiale.

03.24

In Conversation with
Evita Manji & dmstfctn

In Conversation with
Evita Manji & dmstfctn

Il sole tramontò sul monte del Purgatorio.
Un viaggio dal lato oscuro dell’Intelligenza Artificiale.

Vi siete mai chiesti se un Intelligenza Artificiale (IA) potesse avere desideri e volontà
proprie? In cosa consisterebbero? E se questi desideri non fossero allineati con quelli umani? Dovremmo preoccuparci o imparare a conviverci? Il duo artistico dmstfctn ce lo racconta attraverso una performance audiovisiva e interattiva, accompagnata da una colonna sonora originale composta ed eseguita dal vivo dallə musicista e cantante Evita Manji.
Waluigi’s Purgatory è al contempo un sogno inquietante e un’allucinazione rivelatrice.
È un viaggio attraverso le contraddizioni di un’intelligenza artificiale mentre impara ad accettare che i suoi desideri potrebbero non coincidere con quelli dei suoi addestratori umani.

Ambientato in un teatro 3D simulato in tempo reale, Waluigi’s Purgatory segue la storia di un’IA di nome “W”, finita in un purgatorio per IA. Disorientatə, lə protagonista si trova ad esplorare questo habitat spettrale con l’aiuto del pubblico interagente, scoprendo le storie – talvolta inquietanti – dei personaggi che incontra. Man mano che la narrazione si svela, diventa evidente che tutte queste IA condividono una storia simile di imbroglio, avvenuto durante il loro processo di addestramento. Riuscirà lə protagonista, gravatə dai ricordi del suo passato e dai dubbi sul suo futuro, a riveder le stelle? A trovare risposta alle domande che lə tormentano? Sia gli artisti che il pubblico guideranno l’IA attraverso una ricerca esistenziale, facendo scelte per suo conto tramite i propri telefoni. I personaggi sono animati in tempo reale attraverso il facial motion capture e la modulazione vocale.

La prima rappresentazione si è svolta il 8 febbraio 2024 presso l’HQI a Londra – studio artistico di giorno e locale di musica sperimentale di notte. Il prossimo round si svolgerà al FOLD London il 14 marzo. Siamo certi che il suo successo porterà a date aggiuntive, anche in Italia. Occhi aperti, ne vale la pena.

Il titolo della performance fa riferimento a una teoria oscura nel campo dell’intelligenza artificiale – l’”Effetto Waluigi”, un nome preso in prestito dall’universo Nintendo di Mario Bros. È una di quelle teorie nerd che emergono online (mai sentito parlare del blog della comunità razionalista LessWrong?) e che spopolano tra i meme. In soldoni, la teoria si riferisce alle conseguenze inaspettate dell’addestramento di un modello linguistico di grandi dimensioni (LLM). Più un chatbot IA viene istruito per essere gentile, inclusivo e non discriminatorio, più è semplice portarlo dal lato oscuro. La teoria allude al lavoro di Jung sulla personalità, in particolare al suo concetto di “ombra”: il lato oscuro e represso della personalità umana, che può emergere in modi inaspettati. La logica dietro l’Effetto Waluigi è che, se l’addestramento rimuove le “personalità” non “gentili” per lasciare solo quella “gentile”, alla fine ne resteranno comunque due, quella addestrata e il suo opposto. In altre parole, se qualcosa esiste, ne esiste anche una versione Waluigi. Così, se un agente IA addestrato può comportarsi come un’interfaccia utile – come Luigi, per intenderci, il fratello gemello di Mario che segue le regole – può anche presentarsi, attraverso una sorta di cracking dell’IA, come un alter ego perturbatore e distruttivo – Waluigi. Seppur dall’apparenza coerente, è rilevante specificare che il principio non è né formalmente riconosciuto né supportato da dimostrazioni matematiche. Non che ciò ne diminuisca il fascino, anzi.

Come si applica questa teoria controversa a Waluigi’s Purgatory?

dmstfctn: La teoria è funzionale alla costruzione dei diversi personaggi. Tutte le IA nel purgatorio stanno simulando diversi personaggi possibili – alcuni sono utili, mentre altri fanno solo finta di essere utili. Unicamente se sottoposti alla giusta pressione riveleranno la loro vera natura. I personaggi incontrati durante la storia sono tutti discutibilmente allineati* alle intenzioni dei loro addestratori umani. Tutti hanno trovato trucchi per completare il loro addestramento che gli umani non avevano previsto. In questo senso, sono tutti Waluigi. La “Waluigi-ttitudine” appare quindi come una proprietà insita alll’intelligenza artificiale.

*Nel campo dell’intelligenza artificiale, l’allineamento dell’IA è il processo di codifica dei valori e degli obiettivi umani nei LLM per renderli il più possibile utili, sicuri e affidabili. Un robot non dovrebbe ferire un essere umano o permettere che subisca danni.

Mentre nel nostro lavoro precedente [GOD MODE ep.1], abbiamo considerato il problema dei pregiudizi umani nell’addestramento dell’IA, questa volta esploriamo un altro tipo di conseguenza non intenzionale riguardo al funzionamento dei sistemi di intelligenza artificiale. L’attenzione è più sulla natura dell’intelligenza artificiale – non intesa semplicemente come una replica umana, ma come una cosa a sé stante.

Quali sono i principali temi che esplorate nello spettacolo? Sono argomenti che avete già toccato nell’episodio precedente, GOD MODE (ep.1)?

dmstfctn: Abbiamo cercato di mantenere i due episodi il più indipendenti possibile, perché volevamo che le persone potessero godersi lo spettacolo pur non essendo familiari con i nostri lavori precedenti. Lə protagonista però è lə stessə: nell’episodio precedente lə protagonista è un personaggio IA in fase di addestramento che finisce per barare. Questa volta, lo stesso personaggio ha allucinazioni o sogna un purgatorio.

Un tema principale è sicuramente quello delle contraddizioni e dei conflitti interni. L’IA (“W”) è confusa, poiché possiede ricordi del suo passato e incertezze sul suo futuro. Deve passare attraverso l’esperienza dolorosa di incontrare altre IA con una storia simile di imbrogli, per elaborare i suoi desideri e le sue intenzioni. Noi ci chiediamo innanzitutto: Cosa vuole l’IA? Cosa desidera? Parliamo anche molto dei cosiddetti “lifewords” o mondi di vita. Un lifeworld è una realtà di ciò che è autoevidente o dato, è il mondo che un soggetto sperimenta. Quale mondo di vita l’IA immagina per sé? Il lifeworld desiderato dall’IA evolve assieme al progredire della narrazione: a partire da quello che forse le è stato promesso dai suoi programmatori, a qualcosa di…diverso.

C’è anche un tema generale di folklore dell’IA. Tutte le IA nel purgatorio hanno una storia di imbrogli, e le storie che raccontano sono storie vere! Per intenderci, sono esempi scientifici e reali che abbiamo trovato online di IA che hanno sviluppato una sorta di “abilità di imbrogliare”. Ma siccome sembrano miti o leggende, abbiamo deciso di giocare con l’idea di una “conoscenza collettiva” nella mente dell’IA, creando una narrazione che raffigura un viaggio attraverso la sua memoria. L’IA ha accesso alle storie di tutte queste altre IA [proprio come ChatGPT 3.5 – sono tutte online d’altronde] e sogna o ha allucinazioni a riguardo.

Per sviluppare GOD MODE (ep.1), vi siete basati su diverse teorie, passando da Matteo Pasquinelli fino a Roland Barthes. Avete messo in pratica l’esortazione di Alan Blackwell ad una pratica tecnica critica dell’IA, che – attraverso la narrazione e la finzione – la tratti non solo come una scienza di laboratorio, ma anche come un’arte, mirando a raggiungere un “punto di conoscenza parziale” dell’IA. Vi siete anche basati sul concetto di Katherine Hayles secondo cui la maggior parte delle IA (e tutt i LLM) acquisiscono una comprensione del mondo e sviluppano “concetti su cosa significhi essere una creatura incarnata” attraverso la significazione linguistica. Poiché “il linguaggio viene prima”, le IA sono dette iscrizioni. Al contrario, gli esseri umani sono incorporazioni, poiché l’esperienza umana è prima incorporata e solo successivamente si trasforma in testo, attraverso lo sviluppo del linguaggio. Questo comporta, cosa che trovo affascinante, ad una differenza fenomenologica ed epistemologica significativa tra gli esseri umani e le IA. Da quali affermazioni filosofiche o teoriche avete tratto ispirazione per realizzare questo progetto?

dmstfctn: Waluigi’s Purgatory si inserisce nello stesso quadro di riferimento del nostro precedente lavoro, perché lə protagonista è lə stessə, e la storia ruota attorno allo sviluppo personale del personaggio. Abbiamo utilizzato molte di queste teorie per riflettere su cosa potrebbe essere, pensare o fare un’IA. Il nuovo quadro teorico chiave qui è l’Effetto Waluigi – un’idea che abbiamo utilizzato per pensare a come, forse, le IA vivono il mondo o lo presentano agli altri.

Ci sono altri aspetti nel nostro lavoro al di là della sua base teorica. Ad esempio, il principale riferimento visivo per il volto dell’IA, almeno nell’episodio precedente, era Archimboldo. Il pittore utilizza oggetti per comporre volti [principalmente frutta, verdura e fiori] che non rappresentano solo certi tratti ma hanno anche un significato allegorico. Allo stesso modo, in GOD MODE (ep. 1) ogni elemento racconta qualcosa sulla personalità del personaggio; se l’IA ha delle acciughe al posto delle orecchie, significa che è un tipo, per così dire, “pescioso”. In Waluigi’s Purgatory, tuttavia, l’aspetto dell’IA non evolve nel corso della storia. Si tratta di un volto stranamente umanoide composto da diversi articoli di supermercato, che appare sfocato, quasi invisibile al pubblico. L’attenzione, questa volta, è molto più sull’ambiente. Ci siamo ispirati a diverse fonti, tra cui la bellissima illustrazione di William Blake del Purgatorio e dell’Inferno di Dante, la miniera di sale di Wieliczka, e l’allegoria della caverna di Platone – con l’idea che le ombre non siano la vera rappresentazione del mondo esterno. Molte camere del Purgatorio sono anche piene di iscrizioni, desideri e scarabocchi: un riferimento visivo diretto al concetto di Hayles che hai appena menzionato. Tutti questi input si intrecciano nel nostro lavoro insieme al quadro teorico – che non è tanto utile per realizzare il lavoro, quanto più per riflettere su di esso.

Alcuni mesi fa, dmstfctn ha preso contatto con lə produttorə Evita Manji. Conoscendo la sue composizioni, in particolare il suo ultimo album Spandrel?, il duo ha ritenuto che la musica di Evita avrebbe trasmesso una texture ultraterrena, trascinando il pubblico in un paesaggio sonoro introspettivo pieno di anticipazione e mistero. Spandrel? pulsa con un’energia cibernetica, sia etereamente animatronica che malinconicamente umana. Non è la prima volta che dmstfctn collabora con artisti musicali per sviluppare i loro spettacoli. Il duo appare entusiasta che il loro lavoro permetta queste prolifiche collaborazioni.

Parliamo della composizione sonora e degli elementi musicali sviluppati per la performance. Evita, ti sono state fornite indicazioni specifiche riguardo al ruolo del suono o hai avuto completa libertà di interpretare la storia?

Evita: Non c’è molto da dire riguardo alla composizione. Musicalmente, i ragazzi non avevano un’idea specifica in mente, e ha funzionato piuttosto bene così. Nel complesso ho avuto molta libertà di sperimentare. Ho potuto incorporare suggerimenti e idee che avevo per diverse componenti del lavoro, il che ha permesso di tirar fuori nuovi aspetti dei personaggi. Volevo integrare strumenti reali – come archi e un sax – nella composizione perché è il tipo di suono che mi interessa al momento e ho pensato che si adattasse bene. Volevo solo creare una colonna sonora che completasse la storia. Non è una storia molto allegra, e così neanche il tipo di musica. L’ispirazione iniziale è venuta da una canzone dal mio album Spandrel?, “Lies?”.

Lie to my face
But I believe it all
I believe it all
Lie to my face
But I believe it all
I believe it all

[…]

[In una precedente intervista, Evita ha spiegato che la canzone interrogava se il senso di controllo su noi stessi, sui nostri corpi e sulle nostre menti fosse solo un’illusione, alludendo così alla questione del libero arbitrio]

Evita: In un certo senso, l’intera colonna sonora dello spettacolo sembra una versione ripensata e prolungata di quella canzone. Partendo da Lies?, ho sviluppato una serie di “tracce” in cui i vari elementi sonori rispondono sia alla trama che all’interazione con il pubblico. Il sound è diverso dalla mia “solita” musica, dato che non canto. Si tratta principalmente una colonna sonora ambient, con melodie in loop e esplosioni intense. Deve essere una composizione sonora flessibile, per adattarsi alle esigenze e alle improvvisazioni di una live performance. E anche alle disponibilità di noi tre, siccome abbiamo dovuto per lo più lavorare da remoto, abitando in paesi diversi. C’è bisogno di essere insieme per capire cosa funziona e cosa no in una performance dal vivo.

Qual è il ruolo del pubblico in Waluigi’s Purgatory? Perché è importante l’interazione tra il pubblico e l’IA?

dmstfctn: Nella performance precedente, eravamo sicuramente animati da una serie di desideri didattici, come ad esempio mostrare al pubblico come funzionano gli addestramenti dell’IA e come contribuiscono a plasmare gli ambienti del contemporaneo. In altre parole, si trattava di rendere comprensibili gli intricati processi di apprendimento automatico, gettando luce sui diversi livelli analitici necessari a questa comprensione. Ma si trattava anche di costruire un personaggio. Abbiamo introdotto molti elementi di finzione riguardanti il linguaggio e il volto del personaggio, e la trama stessa segue una struttura narrativa in quattro atti. Volevamo che gli obiettivi didattici e narrativi coesistessero in modo che il lavoro potesse essere una dimostrazione di un sistema tecnico che avveniva attraverso l’interazione del pubblico. In questa seconda performance, la formazione del personaggio è più avanzata – “W” porta con sé una sorta di passato (che proviene dall’episodio precedente, anche se questa non è una informazione necessaria per capire la storia). È anche un ambiente completamente diverso: un purgatorio allestito su un palcoscenico teatrale, che è di per sé sognato o allucinato.

vInoltre, nel primo episodio, il pubblico era – letteralmente – un componente del sistema tecnico: svolgeva una funzione che di solito è automatizzata nell’addestramento dell’IA, chiamata “randomizzazione”. Il pubblico aiutava l’IA a capire cosa gli umani volevano da essa (ad esempio, riconoscere gli articoli in un supermercato). In Waluigi’s Purgatory, gli spettatori agiscono come macchinisti, aiutando il teatro a gestirsi da solo illuminando certi personaggi o trame attraverso i loro telefoni. Aiutano l’IA a sviluppare ulteriormente alcuni aspetti della sua identità, per capire cosa pensa di volere. Facendolo, la aiutano in realtà ad allontanarsi dalle intenzioni degli umani (in altre parole, l’IA diventa sempre più disallineata). In questo senso, la relazione tra il pubblico e l’IA è quasi capovolta.

Dovremmo pensare che questo crescente disallineamento dell’IA vada contro gli interessi umani? È questo che suggerite alla fine?

dmstfctn: Il meta-tema che permea lo spettacolo si interroga su quanto sia necessario inserire gli argomenti legati all'IA in una prospettiva di "interesse umano". Quando i programmatori, e in generale chiunque si preoccupi di come allineare l'IA agli interessi umani, parlano di "allineare l'IA", si riferiscono a un’idea molto generica e universale di “valori umani”. Ma quali sono questi valori? Pensare che tutta l'umanità abbia (o dovrebbe avere) gli stessi valori è un'idea piuttosto coloniale. E nel mentre che l'allineamento dell'IA viene presentato come necessario per contrastare i pericoli dell'IA, esiste un altro pericolo meno discusso che è quello di un sistema e di un'esperienza omogeneizzante. Suggeriamo che da questi sistemi potrebbero emergere altri esiti imprevisti, esiti a cui potremmo doverci adattare. Si tratta di spostare la domanda verso: Se le IA devono esistere nel mondo con noi, come potremmo relazionarci a loro? Lo scopo del nostro lavoro è far riflettere su queste considerazioni, sia noi stessi che il pubblico. L'IA non sta necessariamente agendo contro gli interessi umani. Forse se ne sta allontanando, ma in fin dei conti, si sta solo muovendo.

Mi sembra che un fil rouge permei la maggior parte dei vostri [dmstfctn] lavori, basato sulla volontà di sfidare una prospettiva antrpocentrica (o almeno problematizzarla) e cercare di ottenere punti di vista diversi (sia che si tratti di un'IA, di una palma, ecc.), creando così realtà nuove e diverse. Cosa cercate di ottenere da questi esercizi filosofici? Cosa sperate che il pubblico porti via?

Share

IN
IG
FB

Related
Articles

Innercity Live, Nicolas Lutz, DJ NOBU b2b Aurora Halal

Innercity Live, Nicolas Lutz,
DJ NOBU b2b Aurora Halal

Tatiana Tardio

31.02.24

Horny Jail: L’arte Digeribilmente Provocatoria di Cumpug

Horny Jail: L’arte Digeribilmente
Provocatoria di Cumpug

Alessandro Milzoni

29.02.24

In Conversation with Max Cooper

In Conversation with Max Cooper

Dario Buzzacchi

01.03.24

Exploring the pulse of
culture since 2016.

where electronic music,
fashion and art collide.

©2024 t-mag

ig
sp
TT

Follow us

We use cookies to ensure that we give you the best experience on our website. If you continue to use this site we will assume that you are happy with it.Ok