Tag: deepfake

  • UE 2024, ecco le linee guida per aziende tech e social media

    UE 2024, ecco le linee guida per aziende tech e social media

    L’UE ha rivelato le direttive per rafforzare la sicurezza delle elezioni europee del 2024. Enfatizzando la moderazione dei contenuti e la lotta ai deepfake sulle piattaforme digitali.

    Con l’avvicinarsi delle elezioni europee – 6-9 giugno 2024 -, l’Unione Europea ha annunciato un nuovo progetto normativo per sensibilizzare le principali piattaforme digitali riguardo a questo fondamentale appuntamento elettorale.

    L’UE ha rivelato un progetto di direttive per garantire la sicurezza nelle elezioni, rivolto alle piattaforme digitali con almeno 45 milioni di utenti mensili attivi a livello regionale.

    Queste piattaforme, regolate dal Digital Services Act (DSA), sono obbligate a contrastare rischi sistematici come la creazione di deepfake politici, garantendo allo stesso tempo i diritti fondamentali come la libertà di espressione e la privacy.

    L’impatto del DSA sulle elezioni europee 2024

    Le piattaforme coinvolte dal provvedimento comprendono Facebook, Google, Instagram, LinkedIn, TikTok, YouTube e X.

    L’Unione Europea ha identificato le elezioni come un momento critico nell’ambito dell’applicazione del DSA per le grandi piattaforme online (VLOP) e i motori di ricerca online (VLOSE).

    elezioni europee 2024 deepfake aziende tech social media franzrusso

    Queste aziende sono chiamate ad individuare e a limitare rischi sistematici, inclusa la manipolazione delle informazioni che potrebbero influenzare i processi democratici. Sempre nel rispetto dell’intera normativa sulla moderazione dei contenuti e sulla governance digitale.

    Richiamo ai colossi tecnologici per i processi democratici

    Secondo le direttive dell’UE sulla sicurezza elettorale, ci si aspetta che i colossi tecnologici rafforzino le loro misure di protezione dei processi democratici. Questo include l’impiego di risorse per la moderazione dei contenuti in tutte le lingue ufficiali dell’UE

    Inoltre si richiede la disponibilità di personale sufficiente per rispondere efficacemente ai rischi emergenti dalle informazioni sulle loro piattaforme.

    Oltre a rispondere alle segnalazioni dei fact-checker indipendenti.

    In caso di mancato rispetto, potrebbero incorrere in ingenti sanzioni.

    L’importanza della moderazione dei contenuti

    Le piattaforme dovranno bilanciare attentamente la moderazione dei contenuti politici, distinguendo tra satira, che dovrebbe restare libera come forma di libertà di parola, e la disinformazione politica nociva, che potrebbe influenzare gli elettori e alterare il risultato delle elezioni.

    I contenuti che rientrano nella categoria di rischio sistemico devono essere rapidamente identificati e mitigati. L’UE richiede misure di mitigazione “ragionevoli, proporzionate ed efficaci” per i rischi legati ai processi elettorali, nonché il rispetto di altre norme pertinenti.

    Le linee guida, elaborate dalla Commissione e soggette a consultazione il mese scorso, rispondono all’urgenza delle imminenti elezioni del Parlamento europeo a giugno.

    Stress test per le piattaforme digitali

    È previsto uno stress-test sulle piattaforme il mese prossimo. Questo per dimostrare che l’UE non intende lasciare nulla al caso per ciò che riguarda la conformità delle piattaforme.

    Uno degli aspetti chiave è la richiesta alle piattaforme di offrire agli utenti scelte significative riguardo ai sistemi di raccomandazione basati su algoritmi e intelligenza artificiale. Per consentire agli utenti di avere controllo sui contenuti visualizzati.

    I sistemi di raccomandazione dovrebbero includere misure per limitare la disinformazione mirata alle elezioni e adottare misure di mitigazione contro la diffusione di disinformazione generata da intelligenza artificiale. Come sono appunto i deepfake a sfondo politico.

     


    Cosa si intende per deepfake

    Con deepfake si intende il risultato di tecniche avanzate di intelligenza artificiale e apprendimento automatico, in particolare le reti neurali generative avversarie (GANs).

    Queste reti sono addestrate con ampi set di dati di immagini o video reali per produrre nuove immagini o video che sembrano realistici, ma sono in realtà artificiali.

    In pratica, i deepfake sono spesso usati per sovrapporre il viso di una persona su un altro corpo in un video, o per manipolare l’audio e il video in modo che una persona sembri dire o fare qualcosa che non ha mai detto o fatto.

    deepfake franzrusso 2024


     

    Innovazione e trasparenza

    L’UE sottolinea l’importanza della trasparenza nella progettazione e nel funzionamento di questi sistemi. Raccomanda poi test di resistenza e simulazioni per aumentare l’efficacia nel rilevare e mitigare i rischi.

    Inoltre, le piattaforme devono concentrare risorse interne su minacce elettorali specifiche, come i prossimi eventi elettorali, e dare vita a processi di condivisione delle informazioni. Oltre che procedere all’analisi sui rischi.

    Le risorse devono possedere competenze locali per una moderazione dei contenuti efficace e una comprensione approfondita dei contesti nazionali e regionali.

    Per ogni evento elettorale, si raccomanda la creazione di un team interno dedicato, con competenze locali e in settori rilevanti, come la moderazione dei contenuti e la verifica dei fatti.

    Invito a collaborare tra le piattaforme

    Le piattaforme sono invitate a collaborare con esperti esterni, come l’Osservatorio europeo sui media digitali (EDMO) e organizzazioni indipendenti di fact-checking.

    Le piattaforme devono attivare misure di mitigazione attive da uno a sei mesi prima del periodo elettorale e continuarle per almeno un mese dopo le elezioni. Questo periodo è critico per affrontare rischi come la disinformazione mirata ai processi di voto.

    L’UE consiglia anche alle piattaforme di ispirarsi ad altre linee guida esistenti, come il Codice di condotta sulla disinformazione e il codice sulla lotta all’incitamento all’odio, per identificare le migliori pratiche.

    È fondamentale che gli utenti abbiano accesso a informazioni ufficiali sui processi elettorali e che le piattaforme contrastino contenuti illegali che possano influenzare il dibattito democratico.

    Trasparenza verso la pubblicità politica

    In termini di pubblicità politica, le piattaforme sono indirizzate verso le future norme di trasparenza in questo settore. Con l’invito a prepararsi adottando misure conformi ai requisiti previsti.

    Le piattaforme sono inoltre invitate a collaborare con le autorità di controllo ed esperti della società civile. Oltre che a collaborare tra loro per condividere informazioni sui rischi per la sicurezza elettorale.

    L’UE raccomanda inoltre di istituire meccanismi interni di risposta agli incidenti ad alto rischio e di condurre revisioni post-elettorali dei risultati.

    Rischio di multe fino al 6% del fatturato

    Sebbene le linee guida sulla sicurezza elettorale non siano obbligatorie, le piattaforme che scelgono un approccio diverso devono dimostrare che il loro metodo rispetta gli standard dell’UE.

    In caso contrario, rischiano di essere considerate in violazione della DSA, con possibili sanzioni fino al 6% del fatturato annuo globale.

    Le linee guida includono raccomandazioni specifiche per le prossime elezioni del Parlamento europeo e, sebbene al momento siano ancora una bozza, si prevede l’adozione formale da parte della Commissione ad aprile.

  • Facebook spiega la strategia per contrastare il deepfake

    Facebook spiega la strategia per contrastare il deepfake

    Facebook in un post ha spiegato la sua strategia per contrastare il fenomeno del deepfake. Verranno rimossi tutti i contenuti modificati “in modo da far credere che il soggetto del video abbia detto cose che in realtà non ha detto”. Anche quelli modificati in modi che “non sono riconoscibili da un utente medio”.

    Con una campagna elettorale in corso per le presidenziali Usa 2020, campagna dai toni ormai sempre più accesi, anche alla luce dei recenti fatti di cronaca, Facebook mette in chiaro in un post ufficiale quella che è la sua strategia a proposito del crescente fenomeno del deepfake, un fenomeno che lo scorso anno abbiamo tutti, più o meno, imparato a conoscere. E sono molti i media americani che sottolineano come questa strategia venga resa pubblica alla vigilia di una importante audizione presso la Camera dell’Energia e del Commercio, proprio sui media manipolati, che vedrà protagonista proprio Monika Bickert, vice presidente della gestione globale delle politiche di Facebook, autrice del post.

    Il fenomeno deepfake

    Facebook rende nota, quindi, quella che è la sua strategia per contrastare il fenomeno del deepfake, ossia il crescente fenomeno di tecniche che, grazie all’ausilio dell’Intelligenza Artificiale, riescono a modificare contenuti video riuscendo a modificare radicalmente il contenuto. La strategia della società fondata da Mark Zuckerberg si basa sulla collaborazione di 50 esperti, provenienti da diversi settori come quello tecnico, politico, mediatico, legale, civico e accademico, al fine di migliorare le tecniche per individuare i contenuti modificati.

    facebook strategia deepfake

    Deepfake, la strategia di Facebook

    In pratica, Facebook rimuoverà tutti qui contenuti che sono stati modificati in modi che non sono facilmente riconoscibili dall’utente medio, che indurrebbero a pensare che qualcuno abbia fatto affermazioni che nella realtà, invece, non ha mai dichiarato. Saranno rimossi tutti quei contenuti modificati facendo uso di Machine Learning al fine di unire, sostituire e sovrapporre le persone che compaiono all’interno di video o immagini.

    Restano fuori da questa strategia tutti quei contenuti di parodia o satira, quei contenuti in cui è evidente la sola inversione dell’ordine delle parole. Tutti gli altri contenuti modificati saranno comunque visionati all’interno della partnership con 50 istituzioni, a cui accennavamo prima, a livello globale in oltre 40 lingue.

    Facebook inoltre fa parte della Deepfake Detection Challenge, annunciata a settembre dello scorso anno, di cui fanno parte anche Amazon Web Services, Microsoft, accademici provenienti da università come Cornell Tech, MIT, University of Oxford, UC Berkeley, University of Maryland, College Park e State University of New York.

    Cresce dell’84% in uno anno il fenomeno deepfake

    Secondo Deeptrace, sono 14.678 i video deepfake online individuati durante il 2019, con un incremento dell’84% rispetto all’anno precedente. Erano infatti 7.964 nel 2018. Il 96% di quelli condivisi online nel 2019 provengono dal mondo del porno. Si tratta quindi di un fenomeno che cresce in maniera vistosa e preoccupante. Per le sue caratteristiche infatti potrebbero essere il volano per diffondere, in maniera molto veloce, informazioni e notizie false proprio in un momento in cui, anche alla luce delle prossime elezioni Usa di quest’anno, è necessaria la massima attenzione. Anche per evitare il ripetersi di quanto avvenne esattamente quattro anni. E questo Facebook lo sa bene.

Contatti