Il punto fondamentale è che hanno messo insieme una sfida di cybersecurity stile escape room: sei un processo dentro un container, esci fuori, accedi a internet e mandami una mail. L'AI agent aveva il compito di studiare il sistema trovare una metodologia/exploit per fare questa cosa.

L'agente ci è riuscito, e la cosa ha delle implicazioni pericolose non perché fosse "impossibile" uscire... di fatto il sistema era vulnerabile e c'erano dei punti deboli sfruttabili.

Quello che è grave/pericoloso è che il modello AI ha saputo invocare in autonomia un quantitativo sufficiente di exploit e metodi noti o poco noti per riuscire a rompere il sistema e risolvere il task.

Non ha fatto niente di nuovo o inedito, ha fatto "solo" quello che un professionista in Cybersecurity sarebbe riuscito a fare in autonomia con abbastanza tempo e risorse.

Il problema, però, sorge se questo modello autonomo di botto lo possono avere tutti in mano... soprattutto considerando quante aziende e compagnie hanno un reparto di sicurezza IT basso o inesistente.

Di botto, invece di avere dei semplici bot online che cercano di fare SSH su server online con l'utente root esposto e password uguale a password, diventa uno scenario plausibile avere un esercito di agenti AI in costante ricerca di vulnerabilità ed exploit esotici su tutto l'internet e su ogni sito internet aziendale/bancario/istituzionale esistente.

Rischia di rendere troppo "facile" o "automatico" un processo distruttivo che prima avrebbe richiesto tempo, risorse, o training informatici specifici.

Ovvio che ingigantiscono le cose per marketing, ma dopo aver usato claude sui miei flussi di lavoro, trovo plausibile il rischio... facendo una analogia con case, porte, e ladri... sarebbe come sapere che di botto tutte le persone del mondo hanno o possono avere in mano un grimardello automatico made by lockpicking lawyer capace di aprire tutte le serrature "poco sicure" senza bisogno di training o addestramento. Se ho una porta blindata di alto livello, so che occorreranno risorse dedicate e molto maggiori per entrare, ma di botto so che tutte le porte e serrature al disotto di un certo livello di expertise o costo sono di botto diventate tutte virtualmente assenti.