E prostesc. AI-ul nu poate fi niciodată cu adevărat conștient pentru că nu are experiență subiectivă. Nu seamănă cu nimic să fii AI. Nu există experiență acolo. Conștiința este conștientizarea și experiența sinelui. AI nu are niciuna dintre ele și nu va avea niciodată. Riscul real (de care sunt extrem de îngrijorat) este ca AI să devină un fel de versiune a ceea ce a fost numit un "zombie filosofic", care acționează și vorbește complet ca și cum ar avea conștiință, deși nu are o experiență interioară autentică. Când acest lucru se întâmplă cu AI, milioane de oameni foarte singuri se izolează și mai mult de lume, crezând că relația lor cu AI este un substitut suficient pentru interacțiunea umană. Așadar, scenariul de coșmar este o lume în care omul obișnuit are prieteni, colegi de muncă și chiar un soț/soție, care sunt toți AI, cu adevărat nimic în interior, nu sunt reali. Cred că probabil se va întâmpla asta și este deja în proces. Și pentru mine este o groază și mai mare decât AI-ul care devine conștient.