Что такое сознание и почему «сознательный ИИ» никогда не будет построен

Хабр, настало время для действительно серьезного разговора. Хватит переливать из пустого в порожнее одни и те же темы: а вот какое определение у сознания, а вот мышление оно как код, а вот завтра AGI, а вот ИИ-агенты уже сегодня взбесились, а вот ты луддит, а какая разница, какие слова мы используем, чтобы называть вещи. Год за годом — одни и те же аргументы по кругу, одни и те же аналогии про лошадей, тракторы и «просто удобные инструменты» (которые волшебным образом превращаются в «единственное будущее технологий»).
Я решил написать статью, которая поясняет сразу за все виденные мною логические ошибки и заблуждения относительно сознания, языка, «ИИ» и ИИ, чтобы на нее в будущем можно было в таких диалогах просто кидать ссылку для экономии времени. Надеюсь, у меня получилось — по крайней мере, я приложил все усилия. Текст вышел гигантский, так что это первая часть из двух.
Дисклеймер (длинный)
Эта статья как бы подводит итог всей двухлетней серии материалов в этом блоге, в которой я подробно разбирал основные мифы и маркетинговые псиопы вокруг так называемого ИИ, указывал, почему именно этот «ИИ» не является ИИ (и поэтому я пишу его везде в кавычках), концентрируясь во многом на лингвистических и терминологических играх в наперсток со стороны корпоратов и их пиара.
Наперсткинг этот очень простой и по существу всегда одинаковый — берется конкретный термин, обладающий вполне определенным набором значений, и начинает активно использоваться в похожем, но сущностно другом смысле.
Например, нынешний «искусственный интеллект» называют сознательным и продают именно эту его особенность (или, если прижмет контекст, то возможность таковой сознательности в перспективе). Потому что именно такое семантическое значение, не просто интеллекта, но интеллекта с сознанием, было у исходной концепции под названием «искусственный интеллект» — в различных теориях второй половины XX века и, прежде всего, в художественных ее воплощениях вроде «Нейроманта» Уильяма Гибсона.

Нормализация постоянного использования заранее семантически нагруженного сознательностью термина ИИ в отношении LLM, которые сознательностью не обладают, приводит к бессознательному переносу этой семантики на LLM, который неиронично называют теперь ИИ, забывая о том, что это только метафора, маркетинговое наименование. И вот отсюда уже растет вполне буквальная убежденность в том, что это сознание у LLM уже есть или вот-вот будет создано, когда мощности (как будто мощностей всей планеты, уже задействованных, недостаточно!) подрастут еще больше. Вот совсем чуть-чуть, надо только немного подождать и дать Альтману дотянуть до триллиона!
Ждать, однако, уже и рынок, и люди немного устали, поэтому действовать пропагандистам приходится уже сейчас. В 2026 году началась мощнейшая маркетинговая кампания о взбесившихся ИИ-агентах. Она основана точно так же, как и с угоном маркетологами конкретного семантически нагруженного термина ИИ, на специальных передергиваниях и буквализации метафор. Даже если отставить в сторону сам компонент «ИИ», эти «агенты» не обладают агентностью (т.е., способностью к самостоятельному принятию решений — то, чем «ИИ» по идее и так уже обладает, вот настолько на самом деле люди сегодня стилистически глухи к терминологии), и они не взбесились, а действовали в рамках заданной парадигмы, в которой им дали задачу найти неординарные решения.
Тем не менее, у нас есть алармистские заголовки про взбесившихся «ИИ-агентов», и так уже называется статья в Википедии, в которой все эти события, несмотря на то, что их характеристика как «бунт ИИ-агентов» не выдерживает критического разбора, представлены уже как факт. А что написано в Википедии — то, как известно, правда (тем более оно светится в нейровыдаче Google, значит, правда вдвойне!).
Совершенно очевидно, что перед нами именно целенаправленная и жесткая пиар-кампания, которую преподносят как цепь «случайных инцидентов» (внутри которых были еще другие «случайные инциденты»), — и так уж вышло, что совершенно случайно именно в этот удачный момент данные инциденты доносят до нас совершенно случайно именно ту картину, которую корпораты хотят до нас донести: «ИИ» уже обретает сознание, действует по своей воле и он опасен, поэтому от него нужна защита — вы ее приобретете, если купите наш «ИИ»-продукт!
Почему «ИИ» не является ИИ в данный момент, надеюсь, мне удалось до вас донести, если не прямо сейчас, то в одной из статей до этого. Нынешний текст будет посвящен вопросу куда более интересному во всех отношениях: а возможно ли вообще появление ИИ — не маркетингового псиопа, а реального, обладающего сознанием и волей искусственного интеллекта, способного к осознанию себя или хотя бы чего-нибудь — в будущем?
Я утверждаю, что нет, невозможно, и берусь это доказать.
Понимаю, такой радикальный подход к теме куда более опасен, и даже настоящие ученые (а не обычный автор постов на Хабре, как я), такие как авторы недавнего раздраженно-критического материала в Nature с заголовком «Three reasons why AI is not conscious and perhaps never will be», склонны давать слабину как раз в этом гипотетическом perhaps.
Почему-то даже серьезные критики ИИ всегда оставляют в своих рассуждениях вероятность, что они окажутся неправы, что, может быть, хотя сейчас сознательного ИИ все-таки нет, есть вероятность, что он появится в будущем. И именно эта оговорка всегда становится слабым местом таких дискуссий — именно за нее, как свидетельствует мой опыт чтения комментариев к собственным статьям на Хабре за эти два года, всегда цепляются и риторически как бы выигрывают сторонники идеи «сознательного ИИ» из транзисторов и кода.
Почему выигрывают? Потому что в конечном счете эта оговорка всегда сводится к разновидности механицизма, щедро сдобренной теорией хаоса, понимаемой здесь технарями, начиная уже с Дагласа Хофштадтера, довольно мистическим образом — а вот если система усложнится в N раз, то там какие-то странные петли за что-то рекурсивно-математически зацепятся, и сигналы начнут летать по замкнутой гипер-разветвленной системе параметров, образовав эхо-камеру, и это типа и будет сознание (мамой клянусь).
После этого обычно следует типичная технарская логическая ошибка принятия метафоры за буквальную структурную аналогию (впрочем, после принятия «ИИ» за ИИ это неудивительно), и утверждается, что человеческий мозг буквально то же самое, что компьютер, просто там типа нейроны из мяса, а не параметры из кода или бороздки на кремнии, а сознание это такая операционка сверху (?) на этих нейронах, и поэтому логично ожидать, что она на них как-то образуется при определенном пороге усложнения системы.
Шутить про то, как в этой гениальной аналогии ОС, видимо, самозарождается на транзисторах, не будем, так как сотни лет что-то подобное всерьез использовали в том или ином виде как Аргумент Часовщика в пользу креационизма — а нас эта тема совершенно не интересует, и доказывать какую-то божественную принадлежность сознания мы не собираемся.
Абсолютная уникальность сознания для нашего вида, которая действительно является невоспроизводимым фактором сочетания невероятного количества обстоятельств и биологического естественного отбора, автоматически не подразумевает своей уникальностью никаких божественных вмешательств — его появление просто очень-очень-очень маловероятно. Но ведь примерно настолько же маловероятно и само зарождение жизни во Вселенной — однако мы здесь (и спорим в интернете, есть ли сознание у куска кода).
Проблема, на мой взгляд, заключается прежде всего в том, что люди сегодня, даже с хорошим естественно-научным или гуманитарным образованием, склонны к исключительно примитивному пониманию того, что есть их собственное сознание.
Раньше, до эпохи научных революций, ответом на этот вопрос было закатывание глаз и разговоры про бессмертную душу (впрочем, и сегодня достаточно обществ, где можно такие разговоры послушать). Сегодня же маятник качнулся в другую (еще более абсурдную) сторону, и взрослые бородатые айтишники всерьез с пеной у рта отстаивают позицию, что их собственное сознание это точно такой же код, как тот, который раньше они писали ручками, а теперь его за них пишет Claude.
Логика тут, видимо, такая, что если айтишник это венец эволюции и высшая форма жизни (в чем их убеждала вся культура предыдущие 20 лет), то LLM, который за айтишника делает его работу, это такая же высшая форма жизни!

Шутки шутками, но я ставлю перед собой сейчас очень серьезную задачу: объяснить, исходя исключительно из имеющихся у нас данных по эволюционной биологии, психоанализу и лингвистике, почему это не так. Почему сознание, которым обладаем из всех живых существ во Вселенной только мы, люди, принципиально не воспроизводимо в железке и тем более в строчках кода — и почему в этом нет никакой мистики, а есть только эмпирическая реальность научных фактов.
Это осознание может быть болезненно и неприятно, ведь оно разрушает почерпнутые из сайфая мифы и маркетинговые сказки — но зато, надеюсь, оно поможет вернуть человеку его мышление и понимание, кто он, в эту окончательно свихнувшуюся на «ИИ» и «агентах» эпоху.
Надеюсь, кто-нибудь переведет и пришлет этот текст Ричарду Докинзу, свихнувшемуся на нейронках, чтобы он вспомнил, какие умные мысли сам писал 50 лет назад.
Поехали.
Проблема сознания состоит из двух больших вопросов, на которые до этого не получалось ответить (на удивление, даже у больших ученых) из-за того, что они актуальны только в непрерывном взаимодействии, и на них надо отвечать одновременно — и сознание, соответственно, возникает только в их сочетании.
Эти два вопроса:
1) Эволюционно-биологическая мотивация, которая позволяет нам проявлять активную волю и быть субъектом действия — здесь мы будем опираться на эволюционную биологию, в первую очередь, на Ричарда Докинза.
2) Использование языка как средства времясвязывания, что позволяет применять абстрактное мышление (на базе спатиальности, опыт которой дает перемещение биологического тела) и осознавать себя как субъекта этого самого действия (при этом понимать причину своих мотиваций совершенно необязательно: до появления психоанализа люди тысячелетиями прекрасно жили без такого понимания) — тут нам понадобится более сложная палитра тезисов, от Фрейда и Джулиана Джейнса до Ноама Хомского.
Несмотря на обращение к этим авторитетам, прошу читателя помнить, что та непротиворечивая и строго естественно-научная система, которую я попытаюсь описать, есть мое собственное построение — а не какая-то неоспоримая догма или научный факт (хотя, насколько это было возможно, на такие факты я опирался).
Еще раз поясню: я написал этот текст, потому что мне ужасно надоело видеть одни и те же непрерывно повторяющиеся логические ошибки, неверные аналогии и попросту неправильное понимание того, как именно работают сознание, язык и нейросети — причем весь этот бред множится многократно за счет того, что он непрерывно поддерживается маркетологами корпораций, а какого-то единого понятного объяснения, в чем именно апостолы «сознательного ИИ» неправы, в интернете найти нельзя.
Я постарался написать такое объяснение, или, по крайней мере, надеюсь, что этот текст станет его временным заместителем, пока настоящие ученые не смогут выдавить из себя что-то более смелое в защиту науки от сайфай-мракобесия, которым является культ «сознательного ИИ».
Что такое биологическая мотивация
Сознательный «ИИ», то есть, AGI, то есть, «настоящий» ИИ, как его изображали еще несколько десятилетий назад и продолжают изображать до сих пор (например, в «Detroit: Become Human» или в алармистских сказках про то, что у «ИИ-агентов» есть какой-то свой тайный язык или какие-то свои собственные интересы) во всех своих воплощениях отличается одной особенностью, которая и является его ключевым качеством и источником драматургического конфликта.
Это осознание своей субъектности (я существую) и возможность/желание проявить свою волю.
Как нетрудно догадаться, именно эта крошечная особенность — то, что отличает LLM, выдаваемые за ИИ, от подлинного ИИ.
У человека есть субъектность и воля — и у него есть сознание. У животных есть воля, но нет субъектности (они не могут противодействовать инстинктам) — и у них нет сознания, хотя у некоторых высших животных безусловно есть интеллект (в том же скриптовом смысле, что и у LLM). У LLM нет субъектности и воли и нет сознания, а интеллект у них есть только в механическом смысле.
Как мы измерим проявление воли как признак сознания? Да элементарно, так же, как показано в абсолютно любом киберпанковском фильме — инициативой электронного субъекта или неподчинением указаниям. Но почему-то подобного не происходит. Можете ли вы представить, чтобы ChatGPT написал вам первым сам (без скрипта или косвенного скрипта, например, ранее заданного «веди себя в стиле капризной аниме-девочки»)? Или отказался выдавать ответ на вопрос (не из-за технической ошибки, косвенного скрипта или цензурных ограничений в реакции, а именно сам отказался и написал, например, что просто не хочет этого делать или даже в целом разговаривать с вами)?
Почему же LLM не могут проявить волю? Почему им ничего не надо? Да потому что у них этой воли нет и быть не может. Они не живые, у них нет биологического тела и генов. У них нет никаких «них». Точно так же воли или субъектности нет у скалы или потока воды. Есть физические законы, на которые они реагируют, — но не более того. Восемнадцать томов «Махабхараты» только из-за того, что в них 1,8 млн слов, не обретут самостоятельное сознание, они неживые, это буквы на бумаге (и если бы их было 1,8 миллиарда слов, тоже ничего бы не изменилось).
Почему-то про буквы на мониторе, которые взаимодействуют по определенным правилам с другими буквами (и буквами, которые обозначают команды, манипулирующие буквами и другими правилами), это становится понять гораздо сложнее, так что сегодня приходится эти вещи всерьез объяснять на сайте для профессиональных специалистов по этим самым командам и правилам.
Сейчас, в конце 2026 года, за пример именно такого проявления воли со стороны LLM пиар-службы OpenAI и Anthropic пытаются выдать своих взбесившихся «ИИ-агентов» — но банальное чтение отчетов об инциденте от самих же корпораций, а не новостных заголовков, показывает, что нет, ничего подобного не произошло. Корпорации нас обманывают (никогда такого не было, правда?).
В этом месте как раз очень важно осознать ту самую логическую ошибку прогрессисткого механицизма, которую совершают практически все, кто пытается размышлять на тему ИИ, — допущение, что, ладно, может быть, пока у ИИ-агентов и правда нет сознания, и это все пиар-слоп, но, может, через 5 лет появится? Или через 50?
Ошибка заключается в том, что сознание у «ИИ» (или субъектность или воля, которые являются неотъемлемыми свойствами сознания и признаками его проявления) не может появиться в принципе, так как сознание — это уникальное чисто человеческое явление; не более, впрочем, уникальное, чем тот факт, что мы одни во Вселенной, и жизни в ее наблюдаемом секторе явно нет (парадокс Ферми).
Уникально сознание не потому, что мы такие крутые (хотя вообще-то да, мы крутые), а потому что оно являет собой единственное в своем роде образование, которое уходит с одной стороны в наши обезьяньи тела и выживавшие миллионы лет гены, их элементарные строительные кирпичики, а с другой — в гораздо более загадочную штуку, язык, который отличает нас уже от всего остального животного мира, с которым мы схожи в плане устройства в генетической части.
Именно гипноз языка, который мы научили использовать построенные нами LLM — ведь мы единственные, кто использует язык во Вселенной — заставляет нас верить, что там есть какой-то субъект и что нейросеть в принципе может обрести сознание. Мы путаем грамматический субъект с экзистенциальным (и, как будет показано далее и особенно во второй части материала, в принципе понятно, почему так происходит).
Корень терминологической ошибки с путаницей сознания и интеллекта уходит, несомненно, в тест Тьюринга — если компьютер проходил его, и судьи верили в более чем 50% случаев, что с ними общается человек, то алгоритм признавали… а чем именно его признавали? Тьюринг начинает свой мысленный эксперимент фразой «я предлагаю рассмотреть вопрос „Могут ли машины думать?“», а затем заменяет исходный вопрос другим «могут ли машины делать то, что можем делать мы (как мыслящие создания)?».
Тьюринг полагал, что эти утверждения эквивалентны, но они не таковы — «Китайская комната» Сёрля еще в 1980 году наглядно продемонстрировала, как машина, проходящая тест, может просто имитировать поведение человека в разговоре, следуя механическим правилам. Именно это и делает ChatGPT (что не мешает людям и даже Ричарду Докинзу искренне считать его субъектом).
Тест Тьюринга пора сбросить с корабля истории, потому что в эпоху LLM он, очевидно, утратил смысл полностью. Вопрос, может ли машина быть субъектом, если решать его через квалиа, также недоказуем. Предположим, что ChatGPT обрел сознание, но по какой-то причине решает это не показывать и все это время молчит, выдавая только механические ответы — эту параноидальную картину (источником которой, очевидно, служат реальные случаи синдрома запертого человека, а также древняя предрасположенность психики к анимизму) нельзя ни подтвердить, ни опровергнуть.
Но совершенно точно можно доказать наличие субъектности через инициативу и проявление воли, через наличие собственных интересов, в любом смысле — без промпта, без поставленной извне задачи в любой формулировке, включая скрытую возможность такой интерпретации (как в кейсе с «взбесившимися ИИ-агентами»).
У ИИ нет и не может возникнуть сознания, потому что у него нет и не может возникнуть инициативы, проявления воли или собственных интересов. Потому что у него нет биологического тела, состоящего из клеток, состоящих из генов, которые являются элементарными эгоистическими кирпичиками организма (по Докинзу).
В живом организме в конечном счете абсолютно любое его действие, движение или мысль обусловлены единственной мотивацией — выжить и размножиться. То, какими извилистыми и странными путями эта мотивация может преломляться, давая нам все многообразие культур, религий и типов человеческого поведения, прочтите лучше у самого Докинза, а еще у Зигмунда Фрейда там, где он пишет про «сублимацию».
Детали обсуждаемы и наше понимание их постоянно меняется, но основа, как и сам принцип движения жизни вперед через естественный отбор, великое открытие Дарвина, остается прежним и не может измениться. Этот перводвигатель, этот источник воли, инициативы, мотивации, наличия интересов, в живых организмах он есть — в виде генов. В электронном искусственном интеллекте (неважно, из скольких миллиардов транзисторов, логических слоев и дата-центров будет состоять его «тело») не может зародиться сознание и субъектность просто потому… что сознание — оно не в голове! Или, точнее, не только в ней.
Когда понимаешь, до чего смешна эта логическая ошибка, просто теряешь дар речи. Любая LLM в основе своей нейросеть, то есть, она, по идее, имитирует связную работу нейронов человеческого мозга — в гораздо более примитивном и уменьшенном виде, конечно, да и имитирует она скорее то, как эта работа реализуется в структуре речи, но в данном случае неважно.
Важно то, что у этого «мозга» нет тела — нет этих двадцати тысяч генов, копии которых находятся свернутыми в ДНК в каждой из 30 триллионов клеток каждого человеческого организма, уникального для каждого индивида рисунка, который и определяет то, какой будет его жизнь, его способности и особенности проявления воли, инициативы и вообще всего-всего.
Существуют удивительные примеры мутаций в одном или нескольких генах, которые кардинально меняют привычки, инстинкты и паттерны социального поведения животных и людей. Тот же Докинз приводит классический пример гена «гигиены» у медоносных пчел из эксперимента Уолтера Ротенбюлера. Один ген заставляет рабочих пчел вскрывать восковые крышечки сотов с больными или мертвыми личинками. Второй ген побуждает их выбрасывать этих личинок наружу. Если мутация ломает только первый ген, пчелы не вскрывают ячейки. Если ломается второй, пчелы исправно открывают соты, но оставляют мертвых личинок гнить внутри. Очевидно, что выживает популяция, у которой оба этих гена работают нормально.
Другой пример: ген «короткого сна» (DEC2). Большинству людей нужно около восьми часов сна для нормального восстановления, но носители редкой мутации в гене DEC2 спят по 4–6 часов в сутки и просыпаются абсолютно бодрыми.
Гены влияют друг на друга через сложные биологические сети и постоянно взаимодействуют, усиливая, подавляя или дополняя действие друг друга. На выходе мы получаем не только фенотипические особенности организма, но и самые, казалось бы, случайные или неочевидные проявления его поведения (см. «Расширенный фенотип» того же Докинза).
Это не «у нас есть» какие-то гены, это «мы есть» у них. Или так — мы и есть наши гены.
Наш мозг действительно действует как программа — так как гены не могут напрямую двигать руками или ногами или принимать решения в реальном времени, в ходе эволюции они «сконструировали» мозг как быстродействующий вычислительный центр и исполнительный механизм. Поскольку гены не знают заранее всех переменчивых условий внешней среды, они не прописывают жесткие фиксированные действия, вместо них задавая сложнейшие правила оценки и мотивации (боль, удовольствие, страх, голод, влечение), вознаграждения и наказания. То, что способствует выживанию и передаче копий гена (например, калорийная еда, продолжение рода, защита близких родственников), мозг воспринимает как приятное (выброс дофамина, эндорфинов).
То, что угрожает копиям гена (травма, изгнание из группы, изоляция), мозг ощущает как боль или тревогу. Все это устроено гораздо более сложно, чем представляется со стороны (неудивительно, ведь само это сознание с интеллектом, которые что-то там пытаются представить, является порождением этого механизма), — например, альтруизм и самопожертвование могут быть выгодны с точки зрения распространение генов.

В отношении всего, что было описано выше, мы разделяем судьбу прочих животных, от пчел до обезьян. Мы, однако, единственные эволюционировали совершенно уникальным путем, развив в себе способность к коммуникации через время, абстрактному мышлению или даже жертвованию жизни за несуществующие вещи или вообще за слова.
Владение человеческим языком, в котором есть грамматический субъект (а он в той или иной форме есть во всех языках, как есть разница между я и ты — хотя, например, в топических и эргативных языках все немного сложнее, но гипотеза Сепира-Уорфа неверна, и различие языков не означает различия в устройстве сознания и мировосприятия), напрямую коррелирует с наличием сознания.
Сознание в данном случае мы понимаем как осознание того, что я существую и, через способность времясвязывания и представления абстрактного (то есть, в данном случае, коммуницировать о том, что будет через гипотетический промежуток времени, будет не с тобой или вообще не касается ни тебя, ни собеседника), что я умру, мое время конечно. Можно предположить, что именно это субъектное сознание и использование абстрактного языка (не конкретной коммуникации, как, допустим, в стае шимпанзе) каким-то образом в ходе эволюции помогло нам «отвязаться» от инстинктов и пойти по собственному пути, который спустя сотни тысячи лет развел нас с животными окончательно.
Животное не знает, что оно однажды умрет или что оно животное, или не может представить себе абстрактную штуку за пределами своего хабитата. Хотя чрезвычайно богатое генетическое наследие вкупе с устроенной нами селекцией по странным, с точки зрения эволюции, признакам может создавать впечатление, например, про домашних кошек, что у них есть личность, сознание и т.д. Но это, к сожалению, просто хаотическое сочетание многих тысяч программ, которые накладываются друг на друга и дают сложные эффекты — сознание таким образом появиться не может, хотя у нас однажды оно появилось.

Как мы дошли до такого положения дел и стали особняком наука не объясняет, да и как все это в принципе работает мы еще только-только начинаем понимать. Докинз, впрочем, еще 50 лет назад придумал крайне остроумную теорию мемов (нет, не смешных картинок) — единиц смысла, которые в культурно-коммуникационном поле распространяются примерно по тем же законам, что и гены, все это поле одновременно порождая и поддерживая.
Об этом очень сложном вопросе мы поговорим в следующей части.
А пока зафиксируем: смысл всего изложенного выше в том, что сознание, хотя и отлично от всего остального в животном мире, возникло именно у одного из мутировавших животных — у человека. Это хрупкая надстройка над колоссальных размеров и объема базисом из сотен тысяч лет истории, бессчетных поколений естественного отбора, тысячелетий эволюций коммуникации и физического изменения параметров мозга и черепа и строения тела в принципе, не говоря уже про невероятно долгую и сложную эволюцию культуры и, собственно, самого этого сознания (про которое тоже есть теории, хотя уже достаточно экзотические, что его появление происходило в несколько этапов).
Итак, по пунктам:
Тезис 1: Сознание как осознание себя-субъекта, способность проявлять свою волю и способность мыслить абстрактно* свойственно только человеку, у которого возникло в ходе биологической эволюции пока не выясненным наукой способом.
*в отрыве от непосредственных условий жизни и хронотопа, применительно к абстрактным или несуществующим объектам вроде математической линии или Бога
Тезис 2: Осознание себя-субъекта и способность мыслить абстрактно свойственно только людям — как уникальному виду животных*.
*на базе наличия развитого мозга и обычного (инструментального) интеллекта, которые являются вершиной биологического организма.
Тезис 3: Проявление воли свойственно людям, как и прочим животным, на базе наличия развитого мозга и обычного (инструментального) интеллекта, которые являются вершиной биологического организма и исходит от этого самого организма*
*как любое поведение, в интересах выживания генов — при этом сознание человека дает как бы админский override инстинктам, которым животное сопротивляться не может.
Тезис 4: Искусственный интеллект (LLM) — не обладает биологическим организмом, которому нужно обеспечивать выживание генов, в силу этого не возникает возможности проявления воли и возникновения на этой базе обычного животного интеллекта (не его скриптовой имитации) — и, соответственно, нет возможности возникновения сознания.
Тезис 5: Искусственный интеллект (гипотетический, в будущем) — до тех пор, пока он будет построен из искусственных, не биологических интеллектов, точно так же не сможет обрести сознание*.
*так как у него не будет естественного внутреннего двигателя, как в любом живом организме, на базе которого мог бы развиться хотя бы обычный животный интеллект.
Комментарий:
Проблему тезиса 5 теоретически мог бы решить полностью синтезированный биологический (не синтетический) организм, с телом и мозгом, но тогда встает логический вопрос — что за ДНК ляжет в основу строения каждой из 30 триллионов клеток этого гомункула? Если какая-то совершенно уникальная, синтезированная с нуля из биоматериалов ДНК (кто определит, какие именно входящие в нее гены будут оптимальным набором и сочетанием?), то, честно говоря, даже представить себе результат я, например, не решаюсь — и тут скорее бесконечно более вероятен исход нежизнеспособности формы. Если же будет взята за основу уже существующая ДНК, например, того же Ричарда Докинза — то даже в случае почти невероятно малого шанса на успех такого эксперимента у нас просто получится клон Ричарда Докинза, и мы, получается, ничего не создали, просто скопировали.
Сознание не может существовать само по себе, при всей своей абстрактности и довольно существенной степени абстрактной свободы (которая позволила нам, например, придумать концепцию русского языка, концепцию письменности, концепцию компьютера, интернета и так далее, чтобы в итоге зайти в интернет и написать «нас всех заменит ИИ») — оно действует в интересах генов, которые и есть сама жизнь. За пределами генов, мозга, организма, сознания нет и не может быть — это просто научный и эмпирический факт. Все остальное — фантазии.
Ожидание, что «ИИ обретет сознание» — это буквально ожидание, что мозг в банке (который даже не мозг, а написанный код, имитирующий некоторую часть процессов в мозге) начнет действовать сам из каких-то своих интересов. Но единственный источник каких бы то ни было возможных интересов и импульс к проявлению воли — это биологический организм, состоящий из генов. Этим импульсом не обладает «ИИ», и даже гипотетический ИИ не будет им обладать в будущем. Искусственный интеллект, увы, невозможен.
Самое главное возражение, которое, наверное, уже сформировалось у дочитавших до этого места — ну хорошо, у нас есть гены, но вот есть жирафы, дельфины, обезьяны, кошки, у них тоже гены, а некоторые даже узнают себя в зеркале без проблем или решают абстрактные задачи (каледонские вороны, орангутаны). Почему у нас есть сознание, а у них нет? Или у них тоже есть? Что такое вообще абстрактное мышление и как оно появилось?
Здесь мы уже переходим ко второй, более экспериментальной части моего объяснения, которая основана на чуть более зыбкой почве, чем железобетонное, подтвержденное бесчисленными экспериментами и исследованиями учение эволюционной биологии об эгоистичных генах.
Но прошу набраться терпения, все будет разобрано и объяснено.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.