Abbiamo avuto tutti una sorta di interazione con un chatbot. Di solito è un piccolo pop-up nell’angolo di un sito Web, che offre assistenza ai clienti, spesso goffo da navigare, e quasi sempre frustrantemente non specifico.
Ma immagina un chatbot, potenziato dall’intelligenza artificiale (AI), in grado non solo di rispondere in modo esperto alle tue domande, ma anche di scrivere storie, dare consigli sulla vita, persino comporre poesie e codificare programmi per computer.
Sembra che ChatGPT, un chatbot rilasciato la scorsa settimana da OpenAI, stia fornendo questi risultati. Ha generato molto entusiasmo e alcuni sono arrivati al punto di suggerire che potrebbe segnalare un futuro in cui l’AI ha il dominio sui produttori di contenuti umani.
Cosa ha fatto ChatGPT per annunciare tali affermazioni? E come potrebbe diventare indispensabile nella nostra vita quotidiana?
Cosa può fare ChatGPT?
ChatGPT si basa sul precedente generatore di testo di OpenAI, GPT-3. OpenAI costruisce i suoi modelli di generazione di testo utilizzando algoritmi di apprendimento automatico per elaborare grandi quantità di dati di testo, inclusi libri, articoli di notizie, pagine di Wikipedia e milioni di siti web.
Ingerendo volumi così grandi di dati, i modelli apprendono i modelli complessi e la struttura del linguaggio e acquisiscono la capacità di interpretare il risultato desiderato della richiesta di un utente.
ChatGPT può costruire una rappresentazione sofisticata e astratta della conoscenza nei dati di addestramento, a cui attinge per produrre risultati. Questo è il motivo per cui scrive contenuti pertinenti e non si limita a pronunciare sciocchezze grammaticalmente corrette.
Mentre GPT-3 è stato progettato per continuare un messaggio di testo, ChatGPT è ottimizzato per interagire conversazionalmente, rispondere a domande ed essere utile.
In generale, può fornire spiegazioni realmente informative e utili su una vasta gamma di argomenti.
ChatGPT è anche potenzialmente utile come assistente alla scrittura. Fa un lavoro decente nella redazione di testi e propone idee apparentemente “originali”.
Il potere del feedback
Perché ChatGPT sembra molto più capace di alcune delle sue controparti passate? Molto di questo probabilmente dipende da come è stato addestrato.
Durante il suo sviluppo, a ChatGPT sono state mostrate conversazioni tra istruttori di AI umani per dimostrare il comportamento desiderato. Sebbene esista un modello simile addestrato in questo modo, chiamato InstructGPT, ChatGPT è il primo modello popolare a utilizzare questo metodo.
E sembra che gli abbia dato un enorme vantaggio. Incorporare il feedback umano ha aiutato a guidare ChatGPT nella direzione di produrre risposte più utili e rifiutare richieste inappropriate.
Rifiutare di accettare input inappropriati è un passo particolarmente importante verso il miglioramento della sicurezza dei generatori di testo AI, che altrimenti potrebbero produrre contenuti dannosi, inclusi pregiudizi e stereotipi, nonché notizie false, spam, propaganda e false recensioni.
I precedenti modelli di generazione di testo sono stati criticati per aver rigurgitato pregiudizi di genere, razziali e culturali contenuti nei dati di formazione. In alcuni casi, ChatGPT evita con successo di rafforzare tali stereotipi.
Tuttavia, gli utenti hanno già trovato il modo di eludere le sue salvaguardie esistenti e produrre risposte distorte.
Il fatto che il sistema accetti spesso richieste di scrittura di contenuti falsi è un’ulteriore prova della necessità di essere perfezionato.
Superare i limiti
ChatGPT è senza dubbio uno dei generatori di testo AI più promettenti, ma non è esente da errori e limitazioni. Ad esempio, la piattaforma di consigli di programmazione Stack Overflow ha temporaneamente vietato le risposte dal chatbot per mancanza di accuratezza.
Un problema pratico è che la conoscenza di ChatGPT è statica; non accede a nuove informazioni in tempo reale.
Tuttavia, la sua interfaccia consente agli utenti di fornire un feedback sulle prestazioni del modello indicando risposte ideali e segnalando risposte dannose, false o inutili.
OpenAI intende affrontare i problemi esistenti incorporando questo feedback nel sistema. Maggiore è il feedback fornito dagli utenti, maggiore è la probabilità che ChatGPT rifiuti le richieste che portano a un output indesiderato.
Un possibile miglioramento potrebbe derivare dall’aggiunta di una funzione di “indicatore di fiducia” basata sul feedback degli utenti. Questo strumento, che potrebbe essere costruito su ChatGPT, indicherebbe la fiducia del modello nelle informazioni che fornisce, lasciando all’utente la decisione se usarlo o meno. Alcuni sistemi di risposta alle domande lo fanno già.
Un nuovo strumento, ma non un sostituto umano
Nonostante i suoi limiti, ChatGPT funziona sorprendentemente bene per un prototipo.
Dal punto di vista della ricerca, segna un progresso nello sviluppo e nell’implementazione di sistemi di intelligenza artificiale allineati all’uomo. Dal punto di vista pratico, è già abbastanza efficace da avere alcune applicazioni quotidiane.
Potrebbe, ad esempio, essere utilizzato come alternativa a Google. Mentre una ricerca su Google richiede di setacciare una serie di siti Web e scavare ancora più a fondo per trovare le informazioni desiderate, ChatGPT risponde direttamente alla tua domanda e spesso lo fa bene.
Inoltre, con il feedback degli utenti e un modello GPT-4 più potente in arrivo, ChatGPT potrebbe migliorare significativamente in futuro. Man mano che ChatGPT e altri chatbot simili diventano più popolari, probabilmente avranno applicazioni in aree come l’istruzione e il servizio clienti.
Tuttavia, mentre ChatGPT potrebbe finire per svolgere alcune attività tradizionalmente svolte dalle persone, non vi è alcun segno che sostituirà presto gli scrittori professionisti.
Sebbene possano impressionarci con le loro capacità e persino con la loro apparente creatività, i sistemi di intelligenza artificiale rimangono un riflesso dei loro dati di addestramento e non hanno la stessa capacità di originalità e pensiero critico degli umani.
Autore
Marcel Scharth, Università di Sydney
