YouTube sta introducendo nuove regole per i contenuti basati sull'intelligenza artificiale, incluso l'obbligo per i creatori di rivelare se hanno utilizzato l'intelligenza artificiale generativa per realizzare video dall'aspetto realistico.

"L'intelligenza artificiale generativa ha il potenziale per sbloccare la creatività su YouTube e trasformare l'esperienza per spettatori e creatori sulla nostra piattaforma", hanno scritto nel post sul blog Jennifer Flannery O'Connor ed Emily Moxley, vicepresidenti per la gestione del prodotto. "Ma, cosa altrettanto importante, queste opportunità devono essere bilanciate con la nostra responsabilità di proteggere la community di YouTube."

Poiché le nuove potenti forme di narrazione dell'intelligenza artificiale possono essere utilizzate anche per generare contenuti che hanno il potenziale di fuorviare gli spettatori, in particolare se non sono consapevoli che il video è stato alterato o è stato creato sinteticamente.

Per risolvere questo problema, nei prossimi mesi YouTube introdurrá aggiornamenti che informeranno gli spettatori quando il contenuto che stanno vedendo è sintetico. Nello specifico, richiederanno ai creatori di rivelare quando hanno creato contenuti alterati o sintetici realistici, incluso l'utilizzo di strumenti di intelligenza artificiale. Quando i creatori caricano contenuti, avrano le nuove opzioni da selezionare per indicare che contengono materiale realistico, alterato o sintetico.

Ad esempio, potrebbe trattarsi di un video generato dall'intelligenza artificiale che raffigura realisticamente un evento mai accaduto o di contenuti che mostrano qualcuno che dice o fa qualcosa che non ha effettivamente fatto. Ciò è particolarmente importante nei casi in cui i contenuti trattano argomenti delicati, come elezioni, conflitti in corso e crisi sanitarie pubbliche, o funzionari pubblici.

YouTube ha anche affermato che i creatori che non rivelano se hanno utilizzato strumenti di intelligenza artificiale per realizzare video alterati o sintetici rischiano sanzioni tra cui la rimozione dei loro contenuti, alla sospensione dal Programma partner di YouTube o ad altre sanzioni.