Se seguite un po’ il mondo della tecnologia, avrete notato che l’intelligenza artificiale non fa più solo notizia per quello che riesce a creare, ma anche per i rischi che porta con sé. Più i modelli diventano potenti e diffusi, più diventano un bersaglio interessante — e più diventano anche uno strumento pericoloso nelle mani sbagliate. Oggi voglio parlarvi di tre fenomeni che, secondo me, meritano attenzione: la sicurezza dei modelli AI, i deepfake sempre più realistici e gli agenti AI che iniziano a comportarsi come veri cyber-attaccanti.
I modelli AI sono più potenti, ma anche più esposti
Man mano che i sistemi di intelligenza artificiale crescono in complessità e vengono integrati in sempre più applicazioni -dai chatbot aziendali agli assistenti che gestiscono dati sensibili- aumenta anche la superficie di attacco. Non parliamo solo di bug software nel senso classico: i modelli AI possono essere manipolati attraverso tecniche come il prompt injection, l’avvelenamento dei dati di addestramento o l’estrazione di informazioni riservate contenute nei dataset usati per l’allenamento. Il problema è che molte aziende adottano l’AI più velocemente di quanto riescano a metterla in sicurezza, e questo crea un divario pericoloso tra innovazione e protezione. Non è un caso che sempre più esperti di cybersecurity stiano spostando l’attenzione proprio sulla sicurezza dei modelli, un campo che fino a pochi anni fa era considerato quasi di nicchia.
Deepfake: quando non ci si può più fidare di ciò che si vede
Se un tempo riconoscere un video falso richiedeva solo un po’ di attenzione — sguardi innaturali, movimenti a scatti, voci robotiche — oggi la situazione è molto diversa. Gli strumenti di generazione di immagini, video e audio basati su AI sono diventati talmente sofisticati che distinguere un contenuto reale da uno sintetico è sempre più difficile, anche per occhi esperti. Questo apre scenari preoccupanti non solo per la disinformazione, ma soprattutto per l’identità digitale: pensate a truffe basate su false videochiamate, finti messaggi vocali di persone che conosciamo, o documenti d’identità generati artificialmente. La vera sfida per il 2026 non sarà solo creare tecnologie di rilevamento più efficaci, ma anche educare le persone a mettere in discussione ciò che vedono e sentono online, un’abitudine che fino a poco tempo fa non era necessaria.
Quando l’AI smette di essere solo uno strumento e diventa un attaccante
Forse l’aspetto più inquietante di questa evoluzione riguarda il ruolo che l’intelligenza artificiale sta iniziando ad assumere nel campo degli attacchi informatici. Non parliamo più solo di AI usata per scrivere email di phishing più convincenti: stiamo assistendo alla nascita di agenti AI capaci di analizzare autonomamente sistemi vulnerabili, pianificare strategie di attacco e persino eseguirle senza un controllo umano costante. Questo cambia radicalmente le regole del gioco, perché un attacco automatizzato può agire più velocemente, adattarsi in tempo reale e colpire su larga scala con un costo molto più basso rispetto a un attacco condotto da un team umano. Non stupisce che molti esperti di sicurezza guardino a questo scenario con preoccupazione crescente: la difesa dovrà necessariamente basarsi a sua volta su sistemi AI capaci di rilevare comportamenti anomali in tempo reale.
Personalmente trovo questo momento storico affascinante e un po’ inquietante allo stesso tempo: stiamo costruendo strumenti straordinariamente potenti, ma la nostra capacità di metterli in sicurezza fatica a starci dietro.
