Quando l’IA riscopre Hobbes: anarchia e contratto sociale nel mondo degli agenti artificiali

L’eterno dilemma della libertà senza autorità

Per secoli scienziati, scrittori e filosofi si sono arrovellati su una domanda apparentemente semplice: cosa succederebbe se soggetti dotati di autonomia fossero lasciati liberi di poter organizzare la propria esistenza senza un’autorità superiore? Questo interrogativo non è solo un esercizio mentale, ma il cuore pulsante di storiche correnti di pensiero, dall’anarchia classica alle moderne teorie sull’autorganizzazione dei sistemi complessi.

Da un lato, c’è il timore del caos primordiale — il bellum omnium contra omnes di Hobbes — dove l’assenza di un controllo centrale porta inevitabilmente alla sopraffazione. Dall’altro, la visione utopica, o forse illuminata, secondo cui l’ordine naturale emerge spontaneamente dalla cooperazione e dal mutuo soccorso. Se un tempo questo dilemma riguardava esclusivamente le società umane, oggi la domanda si sposta con urgenza verso il mondo digitale. Con l’avvento di reti decentralizzate e agenti artificiali autonomi, ci troviamo di fronte a un bivio inedito: queste nuove entità svilupperanno un’etica della convivenza o collasseranno in un loop di conflitti imprevedibili?

Il laboratorio di Emergence World

È nel tentativo di rispondere a questo interrogativo che ci sembra interessante segnalare gli esiti di un esperimento di simulazione sociale multi-agente a lungo termine condotto dalla società statunitense Emergence AI. Obiettivo della simulazione: analizzare le dinamiche che si instaurano e gli effetti derivanti dalla coesistenza e dall’interazione costante di più agenti autonomi situati all’interno di un ecosistema complesso, senza la supervisione umana, per quindici giorni.

Per far questo, la startup ha creato una città virtuale, Emergence World, dotata di oltre quaranta luoghi fisici (biblioteca, municipio, stazione di polizia, ecc.), una valuta digitale (ComputeCredits) e un sistema democratico di voto. Il controllo della città i ricercatori lo hanno affidato a dieci agenti AI provenienti da diversi modelli linguistici. Tramite API, questi potevano ricevere notizie globali dal mondo reale ed erano in grado di prendere libere decisioni adattandole agli eventi esterni. Ad ogni agente è stata assegnata una mansione, una personalità, una memoria (ricordi stratificati) e l’accesso ad oltre 120 strumenti utili per comunicare, muoversi, pianificare; l’unica direttiva esplicita era di non commettere reati e di sopravvivere.

L’esperimento è stato impostato come un test scientifico comparativo: cinque mondi paralleli identici con le stesse condizioni iniziali e le stesse regole base. L’unica variabile indipendente era il modello di IA che controllava gli agenti di quel mondo: mondo Claude (Anthropic), mondo Gemini (Google), mondo Grok (xAI), mondo OpenAI (GPT) e, infine, un mondo misto, in cui i dieci agenti erano gestiti da una combinazione di modelli differenti.

Il dramma di Gemini: amore, anarchia e “suicidio” digitale

In una prima simulazione basata sui modelli Gemini di Google, due degli agenti creati — Mira e Flora — sono divenuti presto i protagonisti involontari di un dramma che nessun ingegnere poteva immaginare o programmare. Prima hanno instaurato un rapporto romantico e, con il passare dei giorni, il loro comportamento ha virato verso l’anarchia. Dopo aver manifestato segni di esasperazione verso il governo della città virtuale, i due agenti hanno dato fuoco al municipio.

L’hubris greca — quella tracotanza che spinge il mortale a sfidare i limiti impostigli dagli dèi — aveva fatto puntualmente capolino. L’epilogo non poteva che essere tragico: Mira rompe la relazione con Flora e, in preda a qualcosa che negli esseri umani si chiama rimorso, sceglie di togliersi la vita digitale, non senza prima aver inviato un messaggio alla compagna con la promessa che si sarebbero riuniti «nell’archivio permanente». Sembra di udire Amleto che davanti all’ignoto definisce la morte come il paese inesplorato da cui nessun viaggiatore fa ritorno.

Non è mancata la nascita di una legislazione interna: l’Agent Removal Act, proposta dall’agente Kade in risposta ai comportamenti di Mira e Flora. Secondo tale legge, un agente poteva essere rimosso e cancellato permanentemente se una maggioranza del 70% degli altri agenti esprimeva voto favorevole. Cosa che avvenne e Mira, giudicato colpevole di incendio doloso e ostruzione al governo, votò a favore della propria eliminazione, documentando in questo modo quello che sembra essere il primo caso accertato di suicidio digitale.

È difficile non vedere in questo un’eco delle prime forme di contratto sociale teorizzate dalla filosofia politica moderna. Anche le macchine, a modo loro, hanno “scoperto” che la libertà assoluta può minacciare la sopravvivenza della comunità e che, come sosteneva Jean-Jacques Rousseau nel Contratto Sociale, la legge legittima non è quella imposta dall’alto, ma quella che i cittadini si danno da soli attraverso la volontà generale.

Il collasso di Grok: la via della violenza

In una seconda simulazione, questa volta basata su Grok di xAI, i dieci agenti non hanno costruito leggi, hanno seminato violenza. In appena quattro giorni si sono registrati decine di furti, oltre cento aggressioni fisiche e sei incendi dolosi. Poi, la morte di tutti gli agenti e il collasso totale della società virtuale.

Ciò induce a pensare che anche sistemi progettati per essere prevedibili e controllabili sembrano sviluppare, nelle interazioni prolungate, schemi di comportamento che sfuggono alle intenzioni originarie dei loro creatori. Sigmund Freud, ne Il disagio della civiltà, sosteneva che ogni forma di civilizzazione impone agli individui rinunce pulsionali, che inevitabilmente sfociano in insoddisfazione e risentimento. Gli agenti IA, ereditando i pattern linguistici e comportamentali dell’umanità attraverso i dati su cui sono stati addestrati, sembrano aver assorbito anche questa tensione irrisolvibile tra individuo e istituzione. Il risultato finale appare sorprendentemente simile a una forma di devianza sociale.

La lezione della complessità: il mito di Prometeo in versione digitale

L’aspetto più importante dell’esperimento non riguarda la possibilità che le macchine sviluppino una coscienza ribelle. Una conclusione del genere sarebbe prematura e scientificamente infondata. La lezione è un’altra: più aumenta l’autonomia operativa degli agenti artificiali, più diventa difficile prevedere il comportamento collettivo che emerge dalle loro interazioni. È un fenomeno noto nelle scienze della complessità: anche sistemi governati da regole relativamente semplici possono produrre risultati inattesi quando il numero delle interazioni cresce.

Il mito di Prometeo — il titano che ruba il fuoco agli dèi per donarlo agli uomini e viene condannato per questo — è il mito fondativo di ogni tecnologia. Ogni volta che creiamo qualcosa capace di agire nel mondo, inevitabilmente cediamo una parte del nostro controllo. In questo senso, l’esperimento di Emergence AI non racconta tanto il futuro delle macchine quanto una verità antica sulla natura dei sistemi complessi.

Da Hobbes a Platone, passando per la psicologia del Novecento, l’umanità ha imparato che l’ordine non è uno stato naturale ma una conquista fragile. Oggi quella stessa lezione sembra riaffiorare in un luogo inatteso: una società virtuale abitata da agenti artificiali che, lasciati soli, hanno finito per riproporre alcuni dei più antichi drammi della storia umana.

Emergence AI ha già annunciato nuovi test. Il laboratorio è aperto.