OpenAI, una società di ricerca senza scopo di lucro co-finanziata da Elon Musk, ha

realizzato un’Intelligenza Artificiale chiamata GPT2 e che tecnicamente è un

generatore di testi. Produce testi talmente credibili a livello di contenuti e di
forma che potrebbe essere oggetto di un uso improprio, come per esempio la
creazione delle cosiddette fake news.
Il funzionamento di GPT2 è stato descritto dal quotidiano The Guardian come un
algoritmo che, partendo da poche parole o da un breve testo, è in grado di scrivere
abilmente il prosieguo di una notizia o di un racconto. Sarebbe inoltre capace di
produrre passaggi credibili e associabili alla persona al quale vengono accostati.
Ad esempio, facendo leggere a GPT2 l’inizio del testo “1984” di George Orwell, “Era
una luminosa e fredda giornata d’aprile, e gli orologi battevano tredici colpi
[…]”, l’algoritmo riconosce il tono futuristico e lo stile romanzesco, inventandosi
il prosieguo: “Nel 2045 ero un insegnante in una scuola della Cina rurale. Ho
iniziato con la storia cinese e la storia della scienza”.
Un altro sorprendente esempio è quando, facendo scorrere a GPT2 i primi paragrafi
di un articolo del Guardian sulla Brexit, l’algoritmo è stato in grado di scrivere
un articolo di giornale plausibile, pieno di citazioni di Jeremy Corbyn, e di
risposte del portavoce dell’ex Primo Ministro britannico Teresa May. Uno di questi
totalmente inventato.
Secondo il direttore della ricerca di OpenAI, Dario Amodei, sono due i motivi
principali per i quali GPT2 sarebbe “rivoluzionario” nel settore. Il primo riguarda
la sua dimensione: si basa infatti su un set di dati 15 volte più grande rispetto
al precedente modello di IA all’avanguardia. La sua formazione si è basata su 40 GB
di testi presi da Internet e ciò ha permesso a GPT2 di allenarsi di più e
assimilare più nozioni sulla comprensione del testo scritto. Il secondo elemento
rivoluzionario dipende dal fatto che ha competenze più generiche rispetto ai suoi
predecessori, quindi partendo dal testo che viene immesso riesce a fare traduzioni
e a riassumere molto meglio di altre Intelligenze Artificiali progettate per avere
competenze verticali.
Questi fattori, tuttavia, potrebbero portare a possibili problemi. Non a caso, il
responsabile dell’azienda Jack Clark, ha spiegato che GPT2 verrà tenuto segreto
fino a quando non si saranno fatti tutti gli esperimenti utili per capire cosa si
può e cosa non si può fare con questo strumento. Il fatto è che si potrebbe essere
tentati di fare un uso improprio delle sue capacità, come ad esempio generare
giudizi positivi o negativi sui prodotti, creare spam e notizie false, o
addirittura produrre teorie complottistiche o simili. Tutti problemi che
un’intelligenza Artificiale dovrebbe semmai aiutare a debellare, non incrementare.