To je hloupé. AI nikdy nemůže být skutečně vědomá, protože nemá subjektivní zkušenost. Není to nic jako být AI. Zkušenosti tam nejsou. Vědomí je uvědomění a prožívání sebe sama. AI nemá ani jedno a nikdy mít nebude. Skutečné riziko (kterého se velmi obávám) je, že AI se stane jakousi verzí toho, co se nazývá "filozofický zombie", což je něco, co se chová a mluví úplně, jako by mělo vědomí, i když nemá žádnou skutečnou vnitřní zkušenost. Když se to stane s AI, miliony velmi osamělých lidí se ještě více izolují od světa, protože věří, že jejich vztah k AI je dostatečnou náhradou za lidskou interakci. Takže noční můra je svět, kde má průměrný člověk přátele, kolegy a dokonce i manželku, kteří jsou všichni AI, uvnitř vlastně nic, nejsou skuteční. Myslím, že se to pravděpodobně stane a už se to děje. A pro mě je to ještě větší hrůza než to, že by se AI skutečně stala vědomou.