ChatGPT è cosciente?

ChatGPT

Se i sistemi di Intelligenza Artificiale possano essere o meno coscienti è un argomento di interesse scientifico e una crescente preoccupazione nell'opinione pubblica. Una recente ricerca citata da Nature ha individuato una lista di proprietà che consentono di valutare se un sistema di Intelligenza Artificiale sia cosciente o meno. Diversi sistemi di IA sono stati analizzati, tra i quali il famoso ChatGPT. In questo articolo, andremo a sintetizzare gli aspetti più importanti della ricerca con particolare attenzione a quelli relativi al famoso chatbot.

Introduzione

Nella ricerca presente sul sito online arXiv, piattaforma che raccoglie le ricerche non ancora sottoposte a revisione, viene descritto un approccio rigoroso ed empirico per valutare nel dettaglio gli esistenti e futuri sistemi di Intelligenza Artificiale, alla luce delle teorie neuroscientifiche della coscienza maggiormente supportate. Diverse eminenti teorie scientifiche della coscienza sono state esaminate e da esse sono state derivate delle proprietà indicatrici della coscienza, in termini computazionali, che consentono di valutare i sistemi di Intelligenza Artificiale rispetto a queste proprietà. Utilizzando queste proprietà indicatrici sono stati valutati diversi sistemi di IA recenti.

Il concetto di coscienza

Cosa viene inteso per “cosciente” in questa ricerca? Per dire che una persona, un animale o un sistema di Intelligenza Artificiale lo è, significa dire che stanno attualmente vivendo un'esperienza cosciente. Viene usato il termine “coscienza” e affini per riferirsi a quella che talvolta viene chiamata “coscienza fenomenica”. Un altro sinonimo di “coscienza” è “esperienza soggettiva”. La ricerca indaga, pertanto, se i sistemi di Intelligenza Artificiale possono essere fenomenicamente coscienti o, in altre parole, se possono essere capaci di avere esperienze coscienti o soggettive.

Risulta difficile definire il termine “esperienza cosciente” o “coscienza” con una frase o un'espressione. Un'alternativa è la definizione di esempi per spiegare come vengono usati questi termini. Vengono menzionati due tipi di esempi:

  1. esempi positivi, cioè esempi di processi cognitivi che sono esperienze coscienti
  2. esempi negativi, cioè esempi che non lo sono

Per “coscienza” si intende quindi il fenomeno che più evidentemente distingue gli esempi positivi da quelli negativi.

Molti degli esempi positivi più chiari di esperienza cosciente coinvolgono la nostra capacità di percepire il nostro corpo e il mondo che ci circonda. Esperienze uditive coscienti, come sentire il canto degli uccelli, così come esperienze coscienti in altre modalità sensoriali sono esempi positivi. Sensazioni corporee che possono essere coscienti includono dolori e pruriti. Per quanto riguarda gli esempi negativi, ci sono molti processi nel cervello, incluse elaborazioni delle informazioni molto sofisticate che sono del tutto inconsce. Un esempio è la regolazione nel rilascio degli ormoni, che il cervello gestisce senza alcuna consapevolezza cosciente. La percezione in tutte le modalità sensoriali implica un'ampia mole di elaborazione inconscia, come l'elaborazione necessaria per derivare l'esperienza cosciente, dal flusso della stimolazione uditiva, quando qualcuno ci parla. Infine, la parola “senziente” è talvolta usata come sinonimo di (fenomenicamente) “cosciente”, ma nella ricerca si preferisce “consapevole”. "Senziente" è talvolta usato per indicare il possesso di sensi, come la vista o l'olfatto. Tuttavia, essere coscienti non è la stessa cosa che possedere dei sensi. È possibile che un sistema possa percepire il proprio corpo o l'ambiente senza avere alcuna esperienza cosciente, e potrebbe essere possibile che un sistema sia cosciente senza percepire il proprio corpo o l'ambiente.

Metodologia di studio

Il metodo utilizzato nella ricerca per studiare la coscienza nell’Intelligenza Artificiale si basa su tre principi cardine.

  1. Innanzitutto, l'adozione del funzionalismo computazionale come ipotesi di lavoro. Si tratta della tesi secondo cui eseguire calcoli del giusto tipo è condizione necessaria e sufficiente per la coscienza. Questa tesi è una posizione diffusa, sebbene non manchino le contestazioni, nella filosofia della mente. Questa ipotesi viene adottata per ragioni pragmatiche: diversamente dalle visioni rivali, assume che la coscienza nell’Intelligenza Artificiale sia possibile in linea di principio e che studiando l'operato dei sistemi di Intelligenza Artificiale sia rilevante per determinare la probabilità che siano coscienti.
  2. In secondo luogo, le teorie neuroscientifiche della coscienza hanno fatto progressi nella caratterizzazione delle funzioni che sono associate con la coscienza e che possono essere necessarie e sufficienti.
  3. In terzo luogo, un approccio cosiddetto Theory-heavy è il più adatto per indagare la coscienza nell'IA. Ciò implica indagare se i sistemi di Intelligenza Artificiale svolgono funzioni simili a quelle che le teorie scientifiche associano alla coscienza. La principale alternativa a questo approccio è utilizzare test comportamentali per la coscienza, ma questo metodo è inaffidabile perché i sistemi di Intelligenza Artificiale possono essere addestrati a imitare i comportamenti umani.

Teorie scientifiche della coscienza

Esistono attualmente diverse teorie scientifiche che cercano di svelare i meccanismi della coscienza. Nella ricerca non viene sostenuta nessuna teoria in particolare. Viene invece ricavato un elenco di proprietà indicatrici da un’indagine delle varie teorie della coscienza. Ciascuna di queste proprietà indicatrici è ritenuta necessaria per la coscienza, da almeno una o più teorie e alcuni sottoinsiemi di proprietà sono considerati congiuntamente sufficienti. La ricerca, tuttavia, mette in campo l'idea che i sistemi di Intelligenza Artificiale che possiedono più proprietà indicatrici abbiano maggiori probabilità di essere coscienti. Per giudicare se un sistema di Intelligenza Artificiale esistente o proposto sia un serio candidato per la coscienza, si dovrebbe valutare il possesso di queste proprietà. Essendo il focus di questo articolo su ChatGPT, descriveremo solo una delle teorie della coscienza, quella GWT.

Teoria dello spazio di lavoro globale

La teoria dello spazio di lavoro globale della coscienza (GWT) si fonda sull’idea che gli esseri umani e altri animali utilizzano molti sistemi specializzati, spesso chiamati moduli, per eseguire compiti cognitivi di tipo particolare. Questi sistemi specializzati possono eseguire compiti in modo efficiente, indipendente e in parallelo. Tuttavia, sono anche integrati per formare un unico sistema in base alle caratteristiche della mente che consentono loro di condividere informazioni. Questa integrazione rende possibile il funzionamento dei moduli insieme in modi coordinati e flessibili, migliorando le capacità del sistema nel suo insieme. La GWT sostiene che un modo in cui i moduli sono integrati è attraverso il loro accesso comune a uno "spazio di lavoro globale”; un ulteriore “spazio” nel sistema in cui le informazioni possono essere rappresentate. L'informazione rappresentata nell'area di lavoro globale può influenzare l'attività in qualsiasi modulo. Lo spazio di lavoro globale ha una capacità limitata, quindi un processo continuo di competizione e selezione è necessario per determinare ciò che vi è rappresentato.

[...]

ATTENZIONE: quello che hai appena letto è solo un estratto, l'Articolo Tecnico completo è composto da ben 2037 parole ed è riservato agli ABBONATI. Con l'Abbonamento avrai anche accesso a tutti gli altri Articoli Tecnici che potrai leggere in formato PDF per un anno. ABBONATI ORA, è semplice e sicuro.

Scarica subito una copia gratis

Scrivi un commento

Seguici anche sul tuo Social Network preferito!

Send this to a friend