Perché la natura non consentirà l’uso dell’intelligenza artificiale generativa in immagini e video

Sep 05, 2023

Hai pieno accesso a questo articolo tramite il tuo istituto.

La natura non pubblicherà immagini create interamente o parzialmente utilizzando l'intelligenza artificiale generativa.Credit: Artem Medvediev/Alamy

La Natura dovrebbe consentire l’utilizzo dell’intelligenza artificiale generativa (AI) nella creazione di immagini e video? Questa rivista discute, dibatte e fornisce consulenza su questa questione da diversi mesi in seguito all'esplosione di contenuti creati utilizzando strumenti di intelligenza artificiale generativa come ChatGPT e Midjourney e al rapido aumento delle capacità di queste piattaforme.

A parte gli articoli specifici sull'intelligenza artificiale, Nature non pubblicherà alcun contenuto in cui fotografie, video o illustrazioni siano stati creati in tutto o in parte utilizzando l'intelligenza artificiale generativa, almeno per il prossimo futuro.

Agli artisti, registi, illustratori e fotografi che commissioniamo e con cui lavoriamo verrà chiesto di confermare che nessuno dei lavori inviati è stato generato o aumentato utilizzando l'intelligenza artificiale generativa (vedi go.nature.com/3c5vrtm).

Strumenti come ChatGPT minacciano la scienza trasparente; ecco le nostre regole di base per il loro utilizzo

Perché non consentiamo l’uso dell’intelligenza artificiale generativa nei contenuti visivi? In definitiva, è una questione di integrità. Il processo di pubblicazione – per quanto riguarda sia la scienza che l’arte – è sostenuto da un impegno condiviso verso l’integrità. Ciò include la trasparenza. Come ricercatori, redattori ed editori, abbiamo tutti bisogno di conoscere le fonti dei dati e delle immagini, in modo che questi possano essere verificati come accurati e veritieri. Gli strumenti di intelligenza artificiale generativa esistenti non forniscono l’accesso alle loro fonti in modo che tale verifica possa avvenire.

Poi c'è l'attribuzione: quando viene utilizzata o citata un'opera esistente, deve essere attribuita. Questo è un principio fondamentale della scienza e dell’arte e gli strumenti di intelligenza artificiale generativa non sono conformi a questa aspettativa.

Anche il consenso e l'autorizzazione sono fattori. Questi devono essere ottenuti se, ad esempio, vengono identificate persone o è coinvolta la proprietà intellettuale di artisti e illustratori. Ancora una volta, le applicazioni comuni dell’intelligenza artificiale generativa non superano questi test.

I sistemi di intelligenza artificiale generativa vengono addestrati su immagini per le quali non è stato fatto alcuno sforzo per identificare la fonte. Le opere protette da copyright vengono regolarmente utilizzate per addestrare l’intelligenza artificiale generativa senza le autorizzazioni appropriate. In alcuni casi, viene violata anche la privacy, ad esempio quando i sistemi di intelligenza artificiale generativa creano quelle che sembrano fotografie o video di persone senza il loro consenso. Oltre alle preoccupazioni sulla privacy, la facilità con cui possono essere creati questi “deepfake” sta accelerando la diffusione di informazioni false.

Per ora, Nature consente l'inclusione di testo che è stato prodotto con l'assistenza dell'intelligenza artificiale generativa, a condizione che ciò avvenga con le opportune avvertenze (vedi go.nature.com/3cbrjbb). L'uso di strumenti di modello linguistico così ampio (LLM) deve essere documentato nella sezione dei metodi o dei riconoscimenti di un articolo e ci aspettiamo che gli autori forniscano le fonti per tutti i dati, compresi quelli generati con l'assistenza dell'intelligenza artificiale. Inoltre, nessuno strumento LLM sarà accettato come autore di un documento di ricerca.

Il mondo è sull’orlo di una rivoluzione dell’intelligenza artificiale. Questa rivoluzione è molto promettente, ma l’intelligenza artificiale, e in particolare l’intelligenza artificiale generativa, sta anche rapidamente sovvertendo convenzioni consolidate nel campo della scienza, dell’arte, dell’editoria e altro ancora. In alcuni casi, queste convenzioni hanno impiegato secoli per svilupparsi, ma il risultato è un sistema che protegge l’integrità nella scienza e protegge i creatori di contenuti dallo sfruttamento. Se non stiamo attenti nella gestione dell’intelligenza artificiale, tutti questi vantaggi rischiano di svanire.

Molti sistemi normativi e giuridici nazionali stanno ancora formulando le loro risposte all’ascesa dell’intelligenza artificiale generativa. Fino a quando non riusciranno a recuperare il ritardo, come editore di lavori di ricerca e creativi, la posizione di Nature rimarrà un semplice “no” all’inclusione di contenuti visivi creati utilizzando l’intelligenza artificiale generativa.

Natura618, 214 (2023)

doi: https://doi.org/10.1038/d41586-023-01546-4

Strumenti come ChatGPT minacciano la scienza trasparente; ecco le nostre regole di base per il loro utilizzo