Agenti AI / Sicurezza
AI Guardian Lab
Un middleware Python che controlla i comandi shell proposti dagli agenti, con una dashboard per seguire le decisioni. Le regole deterministiche arrivano prima di qualunque LLM.
Il problema
Un agente che può usare la shell non diventa sicuro soltanto perché gli è stato chiesto di comportarsi bene. Voglio controllare le azioni prima che arrivino all’esecuzione.
Il mio contributo
Ho sviluppato i controlli tra l’agente e la shell: allowlist dei binari, regex e regole deterministiche sull’intento del comando, poi la revisione semantica di L4 per i casi ambigui. Intorno ho costruito una dashboard con ricerca e filtri, una demo con cinque casi fissi e una CLI per il primo avvio: setup, doctor, demo.
Prove disponibili
La demo verifica cinque casi, scrive cinque record firmati e non esegue mai un comando. Nel repository trovi i test, la CI e la pagina di stato in sola lettura.
Uso e limiti
Demo e ricerca, non una protezione pronta per la produzione. Docker non costituisce qui una sandbox forte e chiedere all’agente di chiamare Guardian non è un controllo: serve un hook nell’esecutore. Il modello locale che osserva i comandi non ha superato la qualifica ed è in quarantena. I comandi fuori dalla pipeline non sono coperti; la sola stringa shell non permette di capire le azioni contenute in uno script esterno.