Це дурниця. ШІ ніколи не може бути справді свідомим, бо не має суб'єктивного досвіду. Бути ШІ — це зовсім не схоже. Там немає досвіду. Свідомість — це усвідомлення і досвід себе. У ШІ немає ні того, ні іншого, і ніколи не буде. Справжній ризик (який мене дуже турбує) полягає в тому, що ШІ стане своєрідною версією того, що називають «філософським зомбі» — чимось, що діє і говорить цілком так, ніби має свідомість, хоча не має справжнього внутрішнього досвіду. Коли це відбувається з ШІ, мільйони дуже самотніх людей ще більше ізолюються від світу, вірячи, що їхні стосунки з ШІ — достатня заміна людській взаємодії. Отже, жахливий сценарій — це світ, де пересічна людина має друзів, колег і навіть подружжя, які всі є штучним інтелектом, насправді нічого всередині, не справжнім. Думаю, це, ймовірно, станеться, і вже відбувається в процесі. І для мене це ще більший жах, ніж коли ШІ стає свідомим.