L'architettura è cambiata. Il modello di proprietà no.
Per gli ingegneri della sicurezza AI assunti per proteggere gli agenti e i sistemi che utilizzano. Il lavoro interessa AppSec, IAM, dati e governance. Il codice è il punto in cui queste responsabilità si incontrano.
La sicurezza cloud veniva trattata come un'altra responsabilità per il team esistente. Poi l'architettura è cambiata a tal punto che il vecchio modello di proprietà ha smesso di scalare, e il ruolo è diventato una funzione a sé stante. L'AI è arrivata a questo punto.
Un agente può ragionare sui dati, scegliere uno strumento, ereditare permessi e compiere un'azione in un altro sistema. L'identità dell'agente, i percorsi dei prompt, il cablaggio RAG e MCP, il sandboxing e il contenimento runtime ora compaiono nelle descrizioni dei ruoli di aziende che prima includevano tutto questo in AppSec. Il divario organizzativo che questi ruoli colmano è la proprietà dell'intera catena. Il divario nel code review è più circoscritto: i permessi, i log e i percorsi di supervisione umana che rendono la catena reale vengono decisi nelle pull request.
La catena è organizzativa. Il diff è comunque un controllo.
Gli strumenti runtime monitorano l'agente. heygrc legge la modifica che gli ha concesso i permessi. Linter e SAST non sono pensati per sapere quali framework adotti. Un test di prompt injection non rileva che la PR della scorsa settimana ha eliminato il percorso di override o ampliato il ruolo di chiamata degli strumenti. heygrc è progettato per leggere ogni pull request rispetto ai framework selezionati e citare il controllo che una modifica interessa: identità e accesso dell'agente, tenuta dei registri delle operazioni del sistema, il modo in cui l'umano può intervenire.
L'art. 12 e l'art. 14 sono obblighi del regime ad alto rischio. heygrc non classifica il livello di rischio del tuo sistema e non esegue la valutazione di conformità. Se questi articoli si applicano è una tua valutazione. Non esegue il sandboxing dell'agente, non testa l'iniezione di prompt e non contiene una chiamata di strumento fuori controllo a runtime. Esamina la modifica del codice rispetto ai framework selezionati e cita il controllo. Sei tu a decidere cosa bloccare e cosa distribuire.
Modifiche che sembrano codice ordinario.
Alcune delle modifiche rilevanti per il controllo che heygrc è progettato per segnalare in questo caso, ciascuna citata con il clause che tocca.
Un agente o un ruolo di chiamata degli strumenti viene esteso a un wildcard
SOC 2 CC6.1L'override umano viene rimosso dalla console di revisione dell'agente
EU AI Act Art. 14Il logging delle inferenze viene rimosso da un agente decisionale
EU AI Act Art. 12
I framework più rilevanti qui.
Guida: EU AI Act per sviluppatori
heygrc segnalare le modifiche rilevanti per il controllo e cita il clause in modo che il problema possa essere gestito nella pull request. Non ti certifica, non esegue il tuo audit e non sostituisce il tuo giudizio.