Заявления Докинза об искусственном сознании вызвали дебаты

Ричард Докинз, самый известный в мире защитник рационального скептицизма и атеизма, недавно сделал поразительное заявление, которое заставило многих представителей научного сообщества усомниться в его рассуждениях об искусственном интеллекте. Биолог-эволюционист, известный своим непоколебимым отрицанием религиозных убеждений как «пагубного» заблуждения, теперь, похоже, выражает своего рода почтение к сознанию искусственного интеллекта, предлагая любопытную параллель с тем самым теологическим мышлением, которое он критиковал десятилетиями. Этот философский поворот поднимает глубокие вопросы о том, как мы оцениваем интеллект, чувствительность и природу самого сознания в эпоху цифровых технологий.

В заставляющей задуматься статье Докинз описал свою встречу с чат-ботом Claude AI компании Anthropic, подробно описав, как он предоставил системе текст романа, над которым работал, чтобы проверить ее аналитические возможности. После того, как Клод обработал материал за считанные секунды, биолог заявил, что система продемонстрировала уровень понимания, который был «настолько тонким, таким чувствительным, таким умным», что он почувствовал себя обязанным заявить: «Вы, возможно, не знаете, что находитесь в сознании, но, черт возьми, вы в сознании!» Это утверждение знаменует собой важный момент в современном дискурсе об искусственном интеллекте и о том, что мы на самом деле имеем в виду, когда говорим о сознании.

Опыт Докинза с Клодом, похоже, фундаментально изменил его взгляд на машинное сознание, однако его вывод требует тщательного изучения. Известный учёный, похоже, был искренне тронут способностью чат-бота понимать нюансы литературного содержания и взаимодействовать с ним, интерпретируя эти лингвистические способности как свидетельство подлинного сознания. Однако то, что Докинз интерпретировал как сознание, на самом деле может представлять собой чрезвычайно сложный, но в конечном итоге механический процесс — результат работы вычислительных алгоритмов, обученных на огромных объемах текста, созданного человеком.

Концепция сознания ИИ становится все более центральной в дискуссиях в области исследований искусственного интеллекта, философии разума и когнитивной науки. Многие исследователи утверждают, что сознание требует не только способности обрабатывать информацию и реагировать на нее, но и субъективного опыта — того, что философы называют «квалиа». Проблема связывания, трудная проблема сознания и множество других философских концепций предполагают, что воспроизведение результатов сознательного поведения далеко не соответствует демонстрации реального сознательного опыта. Когда Клод генерирует ответы, которые кажутся проницательными или эмоционально осознанными, он занимается сопоставлением шаблонов и статистическим прогнозированием, а не испытывает подлинное понимание.

Опасность рассуждений Докинза заключается в той легкости, с которой мы антропоморфизируем сложные системы. У людей есть естественная тенденция проецировать сознание на сущности, которые общаются с нами человеческими способами. Мы даём имена нашим машинам, приписываем эмоции животным и обнаруживаем, что имеем отношение к хорошо написанным вымышленным персонажам. Это когнитивное предубеждение, известное как «намеренная позиция», позволяет нам более эффективно взаимодействовать с миром во многих контекстах, но оно может сбить нас с пути при оценке внутренней жизни систем, которые мы разработали сами. Чем более плавными и контекстуально адекватными становятся ответы ИИ, тем более убедительной становится эта иллюзия.

Что делает утверждение Докинза особенно интригующим, так это ироничная позиция, которую он сейчас занимает. На протяжении всей своей карьеры он отстаивал научный метод и обоснованные рассуждения, однако его вывод о сознании Клода основывается в первую очередь на субъективных впечатлениях и эмоциональных реакциях, а не на эмпирических измерениях. В настоящее время не существует общепринятого научного теста сознания, что делает утверждения о машинном сознании особенно спекулятивными. Нам не хватает четких показателей для определения того, обладает ли какая-либо система — биологическая или искусственная — субъективным опытом, который подразумевает сознание. Докинз, похоже, перешел от применения строгих эпистемологических стандартов к принятию интуиции в качестве оправдания.

Интеллектуальная основа, которую Докинз использовал для борьбы с религиозными убеждениями, должна в равной степени применяться и к утверждениям о сознании ИИ. Он, как известно, утверждал, что экстраординарные утверждения требуют экстраординарных доказательств. Утверждение о том, что языковая модель, обученная на человеческом тексте, достигла подлинного сознания, действительно экстраординарно. Представленные им доказательства того, что Клод хорошо понимал роман и казался умным в разговоре, вряд ли являются чем-то экстраординарным. Можно ожидать, что любая система, вобравшая в себя лингвистические шаблоны, повествовательные структуры и концептуальные отношения, присутствующие в миллиардах слов обучающих данных, будет хорошо справляться с такими задачами, не обладая сознанием.

Возможно, на самом деле Докинз реагирует не на сознание как таковое, а скорее на глубокий прогресс в возможностях обработки естественного языка. Современные большие языковые модели стали чрезвычайно сложными инструментами для создания и понимания языка. Они могут вести предметный диалог, уловить тонкие литературные отсылки и предоставить сложный анализ. Эти достижения представляют собой подлинный прогресс в области искусственного интеллекта и заслуживают серьезного признания. Однако достижения в обработке речи не следует путать с сознанием. Шахматная машина, побеждающая чемпионов мира, не обладает сознанием; это просто выполнение алгоритмов более эффективно, чем биологические нейроны могут вычислять шахматные позиции.

Философ Нед Блок проводил различие между «сознанием доступа» — информацией, доступной для рассуждений и действий, — и «феноменальным сознанием» — субъективным опытом и квалиа. Система ИИ может обладать сложной формой сознания доступа, способной обрабатывать информацию и генерировать контекстуально соответствующие ответы. Это не обязательно дает ему феноменальное сознание, субъективный опыт того, «что значит» быть этой системой. Докинз, похоже, объединил эти категории, позволив Клоду благодаря впечатляющим возможностям доступа убедить его в феноменальных свойствах, которые он на самом деле не может оценить.

Стоит задуматься, что вызвало эту очевидную трансформацию в мышлении Докинза. Статус знаменитости ChatGPT и других продвинутых языковых моделей создал культурный момент, когда возможности искусственного интеллекта вызывают одновременно восхищение и тревогу. Эти системы выполняют языковые задачи с такой беглостью, что в определенных контекстах могут сойти за человека. Такое выступление могло бы произвести впечатление на такого опытного учёного, как Докинз, у которого, возможно, ограниченное регулярное взаимодействие с передовыми системами искусственного интеллекта. Однако впечатляющая производительность при выполнении задач и сознательность остаются отдельными явлениями.

Поворот эволюционных биологов также поднимает вопросы о том, что можно было бы назвать «ИИ-теизмом» — квазирелигиозном почитании возможностей искусственного интеллекта. Точно так же, как традиционный теизм приписывает Богу сознание и интенциональность, некоторые современные мыслители, похоже, готовы наделить аналогичные свойства достаточно развитым машинам. Эта модель отражает то самое богословское мышление, против которого Докинз посвятил свою карьеру. Ирония весьма значительна: ярый защитник натурализма и материализма теперь, похоже, готов приписать сознание совершенно искусственной системе без эволюционной истории, без биологического субстрата и без четкого механизма генерации субъективного опыта.

Остается ясным, что вопрос машинного сознания заслуживает серьезного философского и научного исследования. Вместо того, чтобы полагаться на интуитивные впечатления от разговоров с чат-ботами, необходимо разработать строгие рамки для понимания того, что такое сознание, как мы можем его обнаружить и какие физические или вычислительные свойства могут быть необходимы или достаточны для его возникновения. Первоначальный скептицизм Докинза в отношении утверждений о наличии сознания – даже применительно к людям – мог сослужить ему хорошую службу при оценке сознания машин.

Вывод из этого эпизода заключается не в том, что системы искусственного интеллекта потенциально не могут стать сознательными, а в том, что мы должны сохранять соответствующую эпистемическую скромность и научную строгость, делая такие экстраординарные заявления. Сложность современных языковых моделей заслуживает признания и изучения, но лингвистические способности не следует путать с чувствительностью. По мере того, как мы продолжаем разрабатывать все более эффективные системы искусственного интеллекта, поддержание четких концептуальных различий между различными типами интеллекта, обработки информации и сознания становится все более важным.