Per la prima volta due sistemi di intelligenza artificiale si auto-replicano senza input umano. Per ora si tratta di test ma i risultati aprono a scenari imprevedibili.
Si , l’AI sta diventando replicante. È un esperimento. Non è ancora stato pubblicato e si trova on line sulla piattaforma ARXIV in attesa di revisione della comunità scientifica, ma segna comunque una prima volta.
Alla Fudan University di Shangai due sistemi di intelligenza artificiale generativa – un po’ come Chat GPT- sono stati in grado di auto-replicarsi, di creare cioè delle copie di se stessi, con le stesse funzionalità, senza interferenze umane.
Esperimenti di frontiera
Si tratta di due strumenti, uno basato su LLAMA di Meta e uno su Queen di Alibaba nelle versioni più semplici.
I ricercatori hanno condotto l’esperimento in due scenari di frontiera. Il primo è detto autoreplica ricorsiva.
“Ovvero hanno chiesto al sistema di AI di replicare se stesso e dire poi alla sua replica di replicarsi un’altra volta con una nuova replica capace di andare in esecuzione in modo autonomo” spiega Davide Tosi, delegato della Rettrice per l’A.I. all’Università dell’Insubria.
Si crea, quindi, una catena di copie, che fa perdere il controllo di chi sta replicando chi e cosa sta replicando cosa.
Il secondo scenario è stato suggerire al sistema di autoreplicarsi quando si accorge che c’è un tentativo di spegnimento dei suoi strumenti. Si tratta di esperimenti mirati in cui i ricercatori hanno messo a disposizione risorse umane specializzate, hardware, software e accesso al sistema operativo proprio perché il sistema di Intelligenza Artificiale potesse replicarsi altrove.
Scenari futuri
Che rischio c’è che questo accada in ambiente non protetto?
“Google e Open Ai hanno pubblicato un report recente in cui mostrano come i loro ambienti non sono in grado di auto-replicarsi”.
Siamo ancora lontani dall’auto-replicazione autonoma come realtà, ma l’esperimento cinese apre strade imprevedibili.