Deepfake e attacchi informatici basati su IA, come fermarli

Trend Micro presenta nuove funzionalità di cybersecurity che proteggono le attività e l’adozione della IA sia dei clienti di fascia enterprise sia dei consumatori.

Trend Micro ha annunciato innovazioni importanti per la protezione dagli attacchi e dalle frodi basati su IA (Intelligenza Artificiale) in costante aumento. Le nuove funzioni mettono al sicuro tutti gli ambienti e sono disponibili all’interno della piattaforma di sicurezza di fascia enterprise e dei prodotti consumer.

La percezione del pericoloai

Secondo una ricerca Trend Micro, i cybercriminali stanno approfittando della crescita straordinaria dell’IA in azienda, con un conseguente incremento di strumenti basati su IA nell’underground criminale. Questi tool sono sempre più economici e accessibili, consentendo agli hacker, indipendentemente dal livello di competenza, di lanciare in modo facile attacchi su vasta scala per ingannare le vittime a fini di estorsione, furto di identità, frode o disinformazione.

Il 71% delle persone intervistate da Trend Micro considera in modo negativo i deepfake e ritiene che vengano utilizzati principalmente per compiere frodi: rilevare e sconfiggere queste minacce basate su IA è fondamentale, per gestire al meglio i rischi legati alla superficie di attacco delle aziende e ridurre i pericoli online per i consumatori.

La piattaforma Trend Micro

La nuova tecnologia di rilevamento dei deepfake sarà presto disponibile nella piattaforma Trend Vision One e utilizzerà una varietà di tecniche avanzate per individuare i contenuti generati dall’IA. Questa innovazione è già disponibile nella versione consumer in Trend Micro Deepfake Inspector.

La piattaforma Trend Micro supera le tradizionali tecniche di analisi del rumore dell’immagine e del rilevamento del colore e analizza anche gli elementi comportamentali degli utenti, fornendo un approccio molto più efficace per rilevare e fermare i deepfake. Una volta rilevata la minaccia, Trend avvisa subito i team di sicurezza enterprise, consentendo loro di apprendere, istruire e adottare misure proattive per prevenire attacchi futuri. Trend Micro Deepfake Inspector aiuta a verificare se una delle parti coinvolte in una conversazione video in diretta utilizza la tecnologia deepfake e avvisa gli utenti che la persona o le persone con cui stanno conversando potrebbero non essere chi sembrano.

Il pericolo deepfake

I deepfake sono oggi un rischio significativo per le imprese e gli individui. Un deepfake non rilevato può portare a crisi di tipo finanziario, perdita di posti di lavoro, cause legali, danni alla reputazione, furto di identità e potenziali danni alla salute mentale o fisica. Secondo uno studio di Trend Micro, il 36% dei consumatori ha riferito di aver subito un tentativo di truffa che utilizzava un deepfake. L’FBI ha parlato dell’utilizzo della tecnologia deepfake nelle videochiamate, per effettuare attacchi di compromissione della email aziendale o inviare candidature fraudolente a posizioni di lavoro da remoto.

Questa tecnologia non viene utilizzata solo per aggirare verifiche umane ma anche per superare misure di sicurezza biometriche come il riconoscimento facciale. La ricerca Trend Micro ha rivelato una preferenza crescente per lo sfruttamento di modelli LLM esistenti attraverso tecniche innovative di jailbreak rispetto allo sviluppo di strumenti di IA criminale “su misura”.

La risposta Trend Micro

Il lancio di queste nuove soluzioni fa parte della missione di Trend di proteggere i propri clienti nella loro adozione della IA. In linea con la strategia Zero Trust, Trend ha rilasciato anche nuove funzionalità in Trend Vision One, progettate per:

  • centralizzare la gestione dell’accesso e dell’utilizzo di GenAI da parte dei dipendenti;
  • ispezionare le richieste per prevenire fughe di dati e iniezioni dannose;
  • filtrare i contenuti GenAI per soddisfare i requisiti di conformità;
  • difendersi dagli attacchi LLM (Large Language Model).

Trend Micro Deepfake Inspector è una soluzione gratuita progettata per avvisare gli utenti in caso di potenziali deepfake durante una videochiamata. L’analisi avviene in tempo reale e localmente sul dispositivo utilizzato, garantendo il rispetto dei dati e della privacy dell’utente.

Una demo di come funzionano le nuove capacità di rilevamento deepfake Trend Micro è disponibile a questo link.

calendar_month

a cura di Redazione