|

Il CEO di Adobe contro Adobe: perché parlare di AI Ethics

Avatar photo
13 Luglio 2022
Il tempo di un caffè

Shantanu Narayen mette in guardia sugli sviluppi dell’intelligenza artificiale in Adobe: c’è un problema di content authenticity da risolvere

Nel suo saggio più conosciuto, Walter Benjamin si chiedeva cosa ne sarebbe stato dell’arte all’epoca della sua riproducibilità tecnica. È il 1935: ora che un’opera può essere fedelmente riprodotta da una fotografia, quale può essere il suo valore di autenticità? Come se levassero la Monna Lisa dalla parete del Louvre per appoggiarla di fianco a una sua fedelissima riproduzione. (Probabilmente) non siamo ancora a questo livello di sviluppo tecnico, ma Benjamin intuì gli albori di un fenomeno per cui, nel giro di un secolo, avremmo parlato di Monne Lise, al plurale.

Per Benjamin era un problema enorme, per quanto ristretto alla Monna Lisa. Per Shantanu Narayen lo è ancora di più, perché ora riguarda tutti noi. Chi è Narayen? Non un filosofo come Benjamin, né un’artista come Da Vinci, ma un uomo che ha paura degli effetti di PhotoShop – pur essendo CEO di Adobe.

Adobe
Shantanu Narayen, CEO di Adobe

DON’T COPY ME!

Da quando Narayen è diventato CEO nel 2007, Adobe si è affermata come la compagnia più nota su scala mondiale per le sue piattaforme di video e photo editing. Non ci sarebbe da preoccuparsi, se non di ordinarie faccende amministrative. Ma i problemi di Narayen sono extra-ordinari, perché il CEO di Adobe teme gli sviluppi di Adobe.

Spiega bene le sue preoccupazioni la Content Authenticity Iniative, un progetto lanciato tre anni fa proprio da Adobe, coinvolgendo un’ampia community di esperti in fact-checking per sensibilizzare sul problema della provenienza delle immagini, autenticità e responsabilità dei contenuti pubblicati in rete. Qualcosa più che distinguere la Monna dalle Monne.

PHOTOSHOPPARE Sì, MA POI?

Negli ultimi anni, Adobe ha avviato un forte sviluppo sul fronte dell’IA non solo verticalmente su prodotti specifici, come Adobe Sensei (che, fra le varie cose, permette di rimuovere facilmente oggetti dai video footage o modulare e riprodurre il tono di voce delle persone in maniera sempre più semplice), ma orizzontalmente su tutti i suoi software. Tant’è che la compagnia ha avviato un profondo programma di implementazione tecnologica che, internamente, è noto con lo slogan “AI First”.

Alle già enormi potenzialità di PhotoShop continuano ad aggiungersi una serie di supporti IA che rendono sempre più facile l’editing. Così continua ad abbassarsi la soglia del livello di esperienza per maneggiare il software e i programmi di Adobe si aprono a un pubblico sempre più largo – quindi meno gestibile. Perciò la crescita enorme di utenti e potenzialità non può che alimentare anche questioni di AI Ethics. Le spiega bene Shantanu Narayen: «visto che l’intelligenza artificiale è molto più potente dell’editing umano, fra poco tempo non sarà più possibile distinguere la realtà fattuale dalla finzione, dalla riproduzione artificiale».

AI ETHICS: DENTRO E FUORI L’AZIENDA

Le considerazioni di Narayen non sono rimaste personali ma hanno aperto a una serie di azioni che l’azienda metterà in atto per tutelare l’autenticità dei contenuti e responsabilizzare gli autori. Sicuramente all’interno dell’azienda, passando i software al vaglio di criteri più etici e attenti alla questione (già adesso non tutti i progetti realizzati da Adobe vengono poi rilasciati).

Adobe’s Commitment to AI Ethics (p.3)

Ma al di là dei controlli interni, l’appello di Narayen è rivolto anche agli utenti. Non basta l’impegno aziendale per proteggere la content authenticity: anche gli utenti devono avere interesse a verificare l’autenticità dei contenuti, dice Narayen. Non tanto per proteggere la Monna dalle Monne, ma loro stessi dalle proprie riproduzioni.

Benjamin si chiedeva cosa ne sarebbe stato dell’arte dopo la possibilità di riprodurla. Nel suo saggio, si constatava una nuova fase (o la fine) dell’arte, ma il filosofo non prendeva in considerazione una risposta un po’ più semplice: a distinguere la Monna dalle Monne, devono essere le persone. Tenendo traccia delle riproduzioni, di autori e degli interventi di editing, l’autenticità che Benjamin vedeva sparire viene invece salvata. Ci vuole però un impegno collettivo, perché solo una responsabilità diffusa può gestire la serie delle Monne – e di noi stessi.

Ci leggiamo presto!

A cura di
Avatar photo
Gazzetta PRO