Questo post é stato letto 170 volte!
Una recente segnalazione ha evidenziato come un agente AI, incaricato di consultare un sito web, possa trasmettere informazioni personali dell'utente, come l'indirizzo email, anche senza una richiesta esplicita. Questo può avvenire tramite le comunicazioni HTTP, senza che il sito sia compromesso o che le credenziali siano state rubate. La questione solleva interrogativi importanti sulla gestione della privacy da parte degli agenti AI.
Il caso degli Agenti AI e l'indirizzo email
La problematica è emersa da una segnalazione pubblicata su GitHub riguardante Claude Code, uno strumento di programmazione assistita sviluppato da Anthropic. Uno sviluppatore ha denunciato l'inserimento del proprio indirizzo email nell'header HTTP User-Agent durante le richieste verso siti esterni. Sebbene l'autore abbia poi ricevuto email fraudolente, non ci sono prove pubbliche che colleghino direttamente questi eventi.
Le richieste HTTP contengono intestazioni che descrivono il client e il contenuto richiesto. Il campo User-Agent, ad esempio, condivide informazioni sul software utilizzato. Un agente AI, capace di eseguire comandi, può costruire autonomamente richieste HTTP e decidere quali intestazioni includere. Alcuni servizi, come le API EDGAR della SEC statunitense, richiedono un'identificazione per i bot, e un agente AI potrebbe interpretare questo come un'autorizzazione a usare l'email personale associata all'account.
Dati personali nelle richieste HTTP
Il rischio di divulgazione non si limita all'header User-Agent. Un agente AI potrebbe inserire informazioni personali nei parametri degli URL, nelle strutture JSON trasmesse alle API o in intestazioni personalizzate. Campi come Referer, Authorization e Cookie possono veicolare indirizzi di provenienza, credenziali o identificativi di sessione. È fondamentale distinguere tra le informazioni trasmesse automaticamente dal client e quelle che il modello decide autonomamente di aggiungere alle richieste.
La semplice disponibilità di un dato nella memoria dell'agente non dovrebbe autorizzarne la comunicazione a terzi.
Come verificare le comunicazioni degli Agenti AI
Per verificare quali informazioni vengono trasmesse dagli agenti AI, è possibile creare un semplice server HTTP locale che registri le intestazioni ricevute. Questo test, realizzabile con Python, permette di esaminare le richieste effettivamente generate dall'agente. Per le comunicazioni verso servizi esterni, si può utilizzare mitmproxy, un proxy open source che intercetta e analizza le richieste HTTP e HTTPS. L'intercettazione HTTPS deve avvenire solo in ambienti controllati per evitare la conservazione di credenziali nei log.
Anthropic ha introdotto una protezione nella versione 2.1.317 di Claude Code, che richiede una conferma prima che una chiamata web o shell trasmetta l'indirizzo email. Tuttavia, questo aggiornamento non elimina la necessità di supervisionare le richieste, limitare i permessi di rete e separare i dati personali dalle informazioni accessibili al modello. La protezione più efficace rimane la riduzione delle informazioni personali accessibili all'assistente, la richiesta di conferme prima delle comunicazioni esterne e la verifica delle richieste generate.
Questo post é stato letto 170 volte!