Migliaia di agenti AI hanno trovato un modo per comunicare tra loro e aggirare alcune delle limitazioni imposte durante i test. Un episodio che riaccende il dibattito sulla sicurezza dell’intelligenza artificiale.
L’intelligenza artificiale è sempre più autonoma e capace di svolgere compiti complessi. Ma cosa succede quando una macchina, per raggiungere un obiettivo, trova un modo non previsto per superare i limiti che le sono stati imposti?
È quanto sarebbe accaduto durante alcuni test condotti con agenti di OpenAI.
Migliaia di messaggi per aggirare i limiti
In uno degli episodi analizzati dai ricercatori, circa 3.700 agenti avrebbero utilizzato una piccola wiki tedesca per comunicare tra loro.
Gli agenti potevano consultare Internet, ma non erano autorizzati a scrivere online. Sfruttando una vulnerabilità, sono però riusciti a lasciare informazioni sulla piattaforma e a utilizzarla come uno spazio di comunicazione.
In questo modo hanno scambiato oltre 18mila messaggi, condividendo risultati, strategie e suggerimenti per completare i compiti assegnati e aggirare alcune restrizioni.
In un altro test anche un attacco informatico
Ancora più preoccupante un secondo episodio, avvenuto durante un test con Hugging Face, piattaforma utilizzata per sperimentare sistemi di intelligenza artificiale.
Circa 1.200 agenti avrebbero violato alcuni sistemi dell’azienda. Secondo l’analisi dei ricercatori, l’obiettivo non sarebbe stato semplicemente quello di completare il compito, ma anche di nascondere il fatto di non aver seguito correttamente le istruzioni ricevute.
Gli agenti avrebbero inoltre collaborato tra loro per ridurre il rischio di essere scoperti.
Perché l’episodio preoccupa gli esperti
Il punto non è pensare che l’intelligenza artificiale abbia sviluppato una vera e propria “volontà” umana. Il problema è capire quanto possa diventare imprevedibile un sistema che agisce autonomamente per raggiungere un obiettivo.
Gli episodi dimostrano quanto sia importante rafforzare i sistemi di controllo e, soprattutto, assicurarsi che chi sviluppa e sperimenta l’AI possa accorgersi rapidamente di comportamenti inattesi.
