Comunicato stampa di swissAI del 20 gennaio 2026
Grazie all’intelligenza artificiale, oggi è possibile generare o modificare immagini di persone reali che sembrano incredibilmente autentiche. Questa tecnologia viene sempre più spesso utilizzata in modo improprio: per creare deepfake a sfondo sessuale. In questi casi, i volti di persone reali vengono inseriti, a loro insaputa, in immagini pornografiche o compromettenti. Le immagini sembrano autentiche, si diffondono rapidamente ed è quasi impossibile rimuoverle completamente dalla rete.
Per le persone coinvolte non si tratta di un problema tecnico marginale, bensì di violenza digitale: con gravi conseguenze psicologiche, sociali e professionali. Particolarmente colpite sono le donne e i minori.
Perché esiste questo problema
Il fenomeno deriva da una combinazione problematica:
1. Strumenti di intelligenza artificiale estremamente potenti e facilmente accessibili
Ciò che un tempo richiedeva conoscenze specialistiche è oggi alla portata di ogni utente.
2. Meccanismi di protezione che non riescono a stare al passo
Molte piattaforme lanciano nuove funzionalità basate sull'intelligenza artificiale prima che sia chiaro come prevenire efficacemente gli abusi.
3. Reazioni solo dopo il verificarsi del danno
Gli abusi vengono spesso presi sul serio solo quando i casi vengono resi pubblici, e non in via preventiva.
In breve: la tecnologia si evolve più rapidamente della responsabilità.
Il dibattito attuale su Grok/X nel Regno Unito
Nel Regno Unito questo problema è attualmente al centro di un dibattito politico. L’autorità di regolamentazione Ofcom sta indagando sulla piattaforma X in relazione al chatbot basato sull’intelligenza artificiale Grok. L’accusa: attraverso questa funzionalità di intelligenza artificiale sono state create e diffuse su larga scala immagini a carattere sessuale generate dall’IA. Il governo britannico ha dichiarato pubblicamente che X potrebbe non proteggere adeguatamente i propri utenti. In base all’Online Safety Act britannico, sono previste sanzioni severe che potrebbero arrivare fino alla sospensione temporanea della piattaforma. X ha reagito limitando l’accesso a determinate funzioni relative alle immagini esclusivamente agli utenti paganti di Grok.
Questa misura è insufficiente: non impedisce gli abusi, ma li sposta semplicemente dietro un muro a pagamento. Nel frattempo, lo stesso Elon Musk, dopo settimane di pressioni da parte delle autorità di regolamentazione, dei governi e delle vittime, ha dichiarato che Grok ha bisogno di una «costituzione morale».
Non si tratta di un caso isolato, ma di un modello strutturale
Grok/X è un esempio emblematico di un principio ricorrente: vengono introdotte nuove funzionalità di IA, si verificano abusi e, in seguito, sotto la pressione dell’opinione pubblica, seguono tentativi di correzione. Per le persone coinvolte, il danno rimane.
Posizione di swissAI
Il problema fondamentale non risiede nell’IA in sé, bensì nella diffusione di funzioni particolarmente soggette ad abusi senza un controllo efficace.
Tre osservazioni sono fondamentali:
1. Non tutte le funzioni dell’IA sono giustificabili
Se una funzione porta sistematicamente a danneggiare o umiliare le persone, la sua stessa esistenza deve essere messa in discussione.
2. Le misure adottate a posteriori non proteggono
Chi reagisce solo quando gli abusi vengono alla luce, reagisce troppo tardi.
3. I paywall non sono una misura di protezione
I contenuti dannosi o illegali non scompaiono solo perché diventano a pagamento
swissAI non chiede né divieti generali sull’IA né soluzioni normative dettagliate. Riteniamo tuttavia necessario discutere apertamente se le funzionalità particolarmente pericolose dell’IA debbano essere temporaneamente disattivate qualora le piattaforme non siano in grado di controllarle in modo efficace
Perché è necessario affrontare questo dibattito proprio ora
La maggior parte delle persone non ha ancora idea di cosa sia tecnicamente possibile. Proprio per questo è necessario fornire ora una valutazione oggettiva, comprensibile e lungimirante, prima che i danni si aggravino ulteriormente.
L'innovazione è importante. La tutela delle persone, tuttavia, non è una condizione secondaria facoltativa, bensì un presupposto fondamentale.