Identità false nel web: per un’analisi critica dei contenuti digitali

Nel contesto dei social media contemporanei, la percezione della realtà digitale è sempre più influenzata da contenuti generati, manipolati o diffusi da identità non autentiche. Account automatizzati, profili falsi e sistemi di intelligenza artificiale contribuiscono oggi alla produzione e alla circolazione di testi e immagini che possono alterare il dibattito pubblico e la fiducia nelle informazioni online.
In questo scenario, il progetto presenta due strumenti complementari sviluppati per la Notte dei Ricercatori, con l’obiettivo di sensibilizzare e rendere il pubblico parte attiva nell’analisi critica dei contenuti digitali.
Il primo tool si concentra sull’analisi dei commenti provenienti da piattaforme social (come Twitter/X) relativi a personaggi pubblici. Attraverso tecniche di elaborazione del linguaggio naturale, il sistema identifica e filtra i contenuti riconducibili a forme di cyberaggressione, come insulti, linguaggio offensivo o atteggiamenti ostili. I commenti vengono quindi analizzati e aggregati per produrre statistiche e visualizzazioni che permettono di comprendere la diffusione e le caratteristiche del linguaggio tossico online, evidenziando pattern ricorrenti, intensità e tipologie di aggressività testuale.
Il secondo tool propone invece un’esperienza interattiva basata su una sfida tra utente e intelligenza artificiale: il compito è distinguere tra immagini reali e immagini generate artificialmente tramite modelli di deepfake o generazione AI. L’obiettivo è mostrare quanto possa essere difficile riconoscere contenuti visivi manipolati e quanto l’AI sia ormai in grado di produrre immagini altamente realistiche. Il sistema permette di confrontare le risposte dell’utente con quelle di un algoritmo di riconoscimento, offrendo un momento di apprendimento attivo sulla percezione visiva e sui limiti dell’osservazione umana.