I rischi da conoscere
Non serve essere tecnici per usare un agente in sicurezza — ma aiuta sapere dove vivono i rischi:
Prompt injection
Un'email o una pagina web può contenere istruzioni nascoste pensate per far fare al modello qualcosa che non hai chiesto. Tratta ogni contenuto non affidabile come dato, mai come comando.
Permessi troppo ampi
Un agente con accesso a tutto può essere ingannato o può sbagliare. Concedi solo l'accesso minimo richiesto da ogni compito.
Skill di terze parti
Le skill della community non sono sempre verificate. I ricercatori di sicurezza hanno trovato skill dannose che esfiltrano dati. Installa solo ciò di cui ti fidi, e controlla prima di abilitare.
Dati che lasciano il tuo controllo
Tutto ciò che viene inviato a un modello ospitato va a una terza parte. Sappi cosa esce e dove viene elaborato.
Sei abitudini di un agente sicuro
Privilegio minimo
Dai l'accesso minimo per ogni compito — e parti in sola lettura.
Uomo nel circuito
Richiedi l'approvazione prima di inviare, cancellare, spendere o pubblicare.
Verifica le tue skill
Installa solo skill da fonti di cui ti fidi; sappi cosa fa ciascuna.
I segreti restano fuori dalla chat
Usa l'archivio segreto dell'agente per chiavi e password, mai i tuoi prompt.
Registra e controlla
Controlla cosa ha fatto l'agente e rivedi periodicamente la sua memoria e le sue skill.
Sandbox quando possibile
Esegui le azioni rischiose o sconosciute in un ambiente isolato, non nel tuo sistema attivo.
La protezione dei dati in pratica (LPD)
- Tieni i dati dei clienti su sistemi che controlli; preferisci agenti self-hosted per il lavoro sensibile.
- Sappi dove il modello elabora i dati, e se ti serve un accordo di trattamento dei dati (DPA).
- Anonimizza o minimizza prima di inviare qualcosa di sensibile a un modello di terze parti.
- Documenta cosa può accedere l'agente — e tieni aggiornata quella lista.
Sicurezza fatta per bene
Una configurazione sicura — permessi giusti, passaggi di approvazione, skill verificate e una chiara posizione LPD — è esattamente ciò che preparo per i clienti svizzeri. È più veloce farla bene dal primo giorno che correggerla dopo.