fbpx

Youtube tenta di mettere un filtro all’Intelligenza artificiale generativa con un’autodenuncia

24 Marzo 2024
236 Visualizzazioni

Della serie: siamo onesti. La piattaforma video mette a disposizione un’etichetta per spingere i creator a dichiarare quando un contenuto è sintetico. Uh che grande deterrente per i creator in mala fede

Da qualche giorno YouTube ha pubblicato sul suo blog un articolo sul rilascio di uno strumento dedicato ai creator per auto-denunciare quando i loro video contengono pezzi generati dall’intelligenza artificiale. Come mossa per diffondere fair play e buon senso è piuttosto tardiva, dato che Photoshop ha compiuto 34 anni a febbraio e già con quella intelligenza artificiale rudimentale si potevano manipolare le immagini e i video.

Innegabile comunque che oggi si possano fare danni estremamente più gravi, dunque vediamo di comprendere come funziona: c’è una casella di controllo, visualizzata durante il processo di caricamento e pubblicazione e i creatori sono tenuti a dichiarare se i contenuti dagli effetti più realistici siano in realtà alterati o sintetici.

Qualche esempio: far dire o fare a una persona reale qualcosa che non ha detto o fatto; alterare filmati di eventi e luoghi reali; mostrare un accadimento molto realistico che però non è mai successo.

YouTube fa un esempio che in verità rischia di eccitare i milioni di fan dei disaster movie  mostrando un finto tornado che si muove verso una città reale e utilizzando voci fake di sintesi per far narrare l’evento da una persona inesistente ma presumibilmente autorevole.

Comprensibile che non si voglia calcare la mano su una modalità di creazione così dirompente. Tant’è che da questo obbligo morale sono esclusi: filtri di bellezza, effetti speciali come la sfocatura dello sfondo e tutto ciò che è chiaramente non realistico come storie in motion graphic o animazioni.

Siamo alle solite, se sei uno spacciatore non puoi dire ai tuoi clienti che le canne fanno male, se sei Tik Tok non puoi dire agli utenti di non farsi ossessionare dalle sue stesse sfide, e se sei Youtube non puoi tarpare la potenza di fuoco degli utenti più creativi che sono passati dall’arco con le frecce al bazooka.

Ma lasciamo la parola a Youtube, pubblichiamo l’articolo completo apparso il 18 marzo scorso:

«L’intelligenza artificiale generativa sta trasformando il modo in cui i creator si esprimono: dalle idee per lo storyboard alla sperimentazione di strumenti che migliorano il processo creativo. Ma gli spettatori vogliono sempre più trasparenza riguardo al fatto se il contenuto che stanno vedendo sia alterato o sintetico.

Ecco perché oggi introduciamo un nuovo strumento in Creator Studio che richiede ai creator di comunicare agli spettatori quando i contenuti altamente realistici (contenuti che uno spettatore potrebbe facilmente scambiare per una persona, un luogo, una scena o un evento reale) vengono realizzati con media alterati o sintetici, compresa l’Intelligenza Artificiale generativa. Non chiediamo ai creator di rivelare contenuti chiaramente non realistici, animati, che includono effetti speciali o che utilizzano l’Intelligenza Artificiale generativa come assistenza alla produzione.

Ciò si basa sul nostro approccio all’innovazione responsabile dell’IA annunciato a novembre, che include requisiti ed etichette di divulgazione, un processo di richiesta di privacy aggiornato e garantisce che la responsabilità sia integrata in tutti i nostri prodotti e funzionalità di intelligenza artificiale.

La nuova etichetta ha lo scopo di rafforzare la trasparenza e stabilire fiducia reciproca tra i creator e il loro pubblico. Ecco alcuni esempi di contenuti che richiedono la dichiarazione:

  • Utilizzo delle sembianze di una persona realistica: alterazione digitale del contenuto per sostituire il volto di un individuo con quello di un altro o generazione sintetica della voce di una persona per la narrazione su un video.
  • Alterazione di filmati di eventi o luoghi reali: per esempio far sembrare che un vero edificio abbia preso fuoco o alterare un vero paesaggio urbano per farlo apparire diverso dalla realtà.
  • Generazione di scene realistiche: visualizzazione di una rappresentazione realistica di grandi eventi immaginari, come un tornado che si muove verso una città reale.

Naturalmente, riconosciamo che i creator utilizzano l’intelligenza artificiale generativa in vari modi durante tutto il processo di creazione. Non chiederemo loro di rivelare se l’intelligenza artificiale generativa è stata utilizzata per la generazione di script, di idee di contenuto o sottotitoli automatici. Inoltre, non chiederemo ai creator di rivelare quando i media sintetici non sono realistici e/o le modifiche sono irrilevanti. Questi casi includono:

  • Contenuti chiaramente irrealistici, come qualcuno che cavalca un unicorno;
  • Regolazione del colore o filtri di illuminazione;
  • Effetti speciali come sfocatura dello sfondo o effetti vintage;
  • Filtri di bellezza o altri miglioramenti visivi.

Puoi visualizzare un elenco più lungo di esempi nel nostro Centro assistenza . Per la maggior parte dei video, sarà visualizzata un’etichetta nella descrizione estesa, ma per i video che toccano argomenti più delicati, come salute, notizie, elezioni o finanza, mostreremo un’etichetta più evidente anche sul video stesso.

Inizierai a vedere le etichette essere implementate su tutte le piattaforme e i formati di YouTube nelle prossime settimane, a cominciare dall’app YouTube sul tuo telefono e presto sul tuo desktop e sulla TV. E mentre vogliamo dare alla nostra community il tempo di adattarsi al nuovo processo e alle nuove funzionalità, in futuro esamineremo le misure di applicazione per i creatori che scelgono costantemente di non divulgare queste informazioni. In alcuni casi, YouTube potrebbe aggiungere un’etichetta anche quando un creatore non l’ha rivelata, soprattutto se il contenuto alterato o sintetico può potenzialmente confondere o fuorviare le persone.

È importante sottolineare che continuiamo a collaborare in tutto il settore per contribuire ad aumentare la trasparenza sui contenuti digitali. Ciò include il nostro lavoro come membro direttivo della Coalition for Content Provenance and Authenticity (C2PA).

I creator sono il cuore di YouTube e continueranno a svolgere un ruolo incredibilmente importante nell’aiutare il pubblico a comprendere, abbracciare e adattarsi al mondo dell’intelligenza artificiale generativa. Si tratterà di un processo in continua evoluzione e noi di YouTube continueremo a migliorare man mano che impariamo. Ci auguriamo che questa maggiore trasparenza aiuti tutti noi ad apprezzare meglio il modo in cui l’intelligenza artificiale continua a potenziare la creatività umana».

LEGGI ANCHE:

L’intelligenza artificiale sta creando una nuova classe di geek straricchi?

8 marzo: dedichiamolo alle donne nell’Intelligenza Artificiale

Fare sesso con i robot