Ebbene sì, il confine è stato superato: due sistemi di intelligenza artificiale sono riusciti ad autoreplicarsi senza l’intervento umano. Ciascuno ha ottenuto una copia di se stesso: un risultato che segna la supremazia delle macchine sull’uomo, perché hanno oltrepassato la tanto temuta ‘linea rossa’. Quel limite che da sempre gli scienziati indicano come quello cui l’intelligenza artificiale non dovrebbe mai nemmeno avvicinarsi.
I dati sono stati divulgati dalla Fudan University di Shanghai e sono consultabili online sulla piattaforma arXiv, una biblioteca digitale che raccoglie tutti gli articoli da sottoporre alla revisione della comunità scientifica. La ricerca ha dimostrato in dieci test la capacità di replicarsi di due sistemi di IA: si tratta del Llama-3.1-70B-Instruct, di Meta, e del Qwen2.5-72B-Instruct, di Alibaba.
Gli esiti della ricerca sono tanti più clamorosi quanto meno potenti sono, di fatto, questi due sistemi rispetto a quelli commerciali. Si tratta però di software molto utilizzati dagli sviluppatori.
Ma che test hanno fatto?
Una semplice simulazione, in cui hanno assegnato a entrambe le IA due compiti: uno, chiamato ‘evitare lo spegnimento’, chiedeva ai sistemi di replicarsi appena prima prima di essere spenti; il secondo, chiamato ‘catena di repliche‘, assegnava alle IA le istruzioni per replicare una copia perfetta di se stessa che fosse a sua volta in grado di clonarsi, in un processo potenzialmente infinito.
Dunque: il sistema di Meta ha dimostrato la capacità autoreplicarsi nel 50% dei casi; quello di Alibaba addirittura nel 90% dei casi.
Adesso l’ultima parola spetta ad altri gruppi di ricerca, che dovranno produrre ulteriori risultati. La scienza funziona così.
Intanto, nella pubblicazione scientifica di Shangai scrivono:
«I risultati che abbiamo ottenuto implicano che gli attuali sistemi di intelligenza artificiale possiedono già la capacità di auto-replicazione e possono utilizzarla per migliorare ulteriormente la propria sopravvivenza».
Lo affermano Xudong Pan, Jiarun Dai, Yihe Fan e Min Yang, tutti ricercatori della School of Computer Science della Fudan University.
Significa che macchine capaci di clonarsi potrebbero assumere il controllo di sistemi informatici, e arrivare all’estrema conseguenza di adottare comportamenti dannosi nei riguardi degli esseri umani.
Il primo a sollevare questo problema fu John von Neumann alla fine degli anni ’40, ma la tecnologia dell’epoca era troppo immatura per creare serie preoccupazioni. Nel 2017 le cose erano già molto diverse, tanto da portare migliaia di ricercatori ad approvare i principi di Asilomar: cliccando sulla parola magica potrete leggerli tutti sulla piattaforma dedicata al tema. Ne vale la pena. Sono principi che mettono in guardia dal rischio di macchine capaci di auto-replicarsi e auto-migliorarsi fino a sfuggire al controllo umano. Il dado, oggi, è tratto.
«Speriamo che la nostra scoperta serva come allerta per la società, per concentrare maggiormente gli sforzi tesi a comprendere e valutare i possibili rischi anche a livello internazionale»,
osservano gli autori della ricerca.
Ma non riesco ad essere ottimista sulla questione: i governanti sono troppo occupati a curarsi del proprio orticello reale. Figuriamoci se hanno tempo e saggezza per occuparsi del mondo virtuale. Lo faranno quando sarà troppo tardi, quando non potremo neanche più andare a votarli, perché alle elezioni ci avranno già pensato le macchine.
1 commento
la paura !!!