Это глупо. ИИ никогда не сможет быть действительно сознательным, потому что у него нет субъективного опыта. Быть ИИ — это не то же самое, что быть чем-то другим. Там нет опыта. Сознание — это осознание и опыт самого себя. У ИИ нет ни того, ни другого, и никогда не будет. Реальный риск (о котором я очень беспокоюсь) заключается в том, что ИИ станет чем-то вроде версии того, что называется «философским зомби», то есть чем-то, что действует и говорит так, как будто у него есть сознание, хотя на самом деле у него нет подлинного внутреннего опыта. Когда это произойдет с ИИ, миллионы очень одиноких людей еще больше изолируются от мира, веря, что их отношения с ИИ являются достаточной заменой человеческому взаимодействию. Таким образом, кошмарный сценарий — это мир, где у среднего человека есть друзья, коллеги и даже супруги, которые все являются ИИ, которые на самом деле ничего не представляют внутри, не настоящие. Я думаю, что это, вероятно, произойдет и уже находится в процессе. И для меня это даже больший ужас, чем если бы ИИ действительно стал сознательным.