Questo è stupido. L'AI non potrà mai essere realmente cosciente perché non ha esperienza soggettiva. Non è come essere AI. Non c'è esperienza lì. La coscienza è la consapevolezza e l'esperienza di sé. L'AI non ha né l'uno né l'altro, e mai lo avrà. Il vero rischio (di cui sono estremamente preoccupato) è che l'AI diventi una sorta di versione di quello che è stato chiamato "zombie filosofico", che è qualcosa che agisce e parla interamente come se avesse coscienza anche se non ha alcuna esperienza interiore genuina. Quando questo accade con l'AI, milioni di persone molto sole si isoleranno ancora di più dal mondo, credendo che la loro relazione con l'AI sia un sostituto sufficiente per l'interazione umana. Quindi lo scenario da incubo è un mondo in cui l'essere umano medio ha amici, colleghi e persino un coniuge, che sono tutti AI, tutti realmente nulla dentro, non reali. Penso che questo probabilmente accadrà, ed è già in fase di accadere. E per me è un orrore ancora maggiore che l'AI diventi realmente cosciente.