Твердження Докінза про свідомість штучного інтелекту викликають дискусію

Річард Докінз, найвідоміший у світі прихильник раціонального скептицизму й атеїзму, нещодавно зробив разючу заяву, яка змусила багатьох науковців поставити під сумнів його міркування щодо штучного інтелекту. Еволюційний біолог, відомий своїм непохитним відкиданням релігійних переконань як «згубної» омани, тепер, схоже, поширює форму благоговіння до свідомості штучного інтелекту, пропонуючи цікаву паралель до самого теологічного мислення, яке він десятиліттями критикував. Цей філософський поворот піднімає глибокі питання про те, як ми оцінюємо інтелект, відчуття та природу самої свідомості в епоху цифрових технологій.

У статті, що спонукає до роздумів, Докінз описав свою зустріч із чат-ботом Claude AI компанії Anthropic, детально описавши, як він надав системі текст роману, над яким працював, щоб перевірити його аналітичні можливості. Після того, як Клод обробив матеріал за лічені секунди, біолог заявив, що система продемонструвала рівень розуміння, який був «настільки тонким, настільки чутливим, настільки розумним», що він відчув потребу заявити: «Ви можете не знати, що перебуваєте у свідомості, але ви, до біса, здорові!» Це твердження знаменує важливий момент у сучасному дискурсі про штучний інтелект і про те, що ми насправді маємо на увазі, коли говоримо про свідомість.

Схоже, досвід Докінза з Клодом докорінно змінив його погляд на машинну свідомість, однак його висновок вимагає ретельного вивчення. Відомий науковець, здавалося, був щиро зворушений здатністю чат-бота розуміти нюанси літературного вмісту та взаємодіяти з ним, інтерпретуючи цю лінгвістичну здатність як доказ справжньої свідомості. Проте те, що Докінз інтерпретував як свідомість, насправді може являти собою надзвичайно складний, але в кінцевому підсумку механічний процес — результат обчислювальних алгоритмів, навчених на величезній кількості тексту, створеного людиною.

Концепція свідомості штучного інтелекту стає все більш центральною в дискусіях у рамках досліджень штучного інтелекту, філософії розуму та когнітивної науки. Багато дослідників стверджують, що свідомість вимагає не просто здатності обробляти інформацію та реагувати на неї, а й суб’єктивного досвіду — того, що філософи називають «qualia». Проблема зв’язування, складна проблема свідомості та численні інші філософські рамки припускають, що відтворення результатів свідомої поведінки далеко не демонструє реального свідомого досвіду. Коли Клод генерує відповіді, які здаються проникливими або емоційно усвідомленими, це означає зіставлення шаблонів і статистичне передбачення, а не справжнє розуміння.

Небезпека в міркуваннях Докінза полягає в легкості, з якою ми антропоморфізуємо складні системи. Люди мають природну тенденцію проектувати свідомість на сутності, які спілкуються з нами у людський спосіб. Ми даємо назви нашим автомобілям, приписуємо емоції тваринам і відчуваємо зв’язок із добре написаними вигаданими персонажами. Це когнітивне упередження, відоме як «навмисна позиція», дозволяє нам ефективніше взаємодіяти зі світом у багатьох контекстах, але воно може збити нас зі шляху, коли ми оцінюємо внутрішнє життя систем, які ми самі створили. Чим більш плавними та відповідними контексту стають відповіді ШІ, тим переконливішою стає ця ілюзія.

Що робить твердження Докінза особливо інтригуючим, так це іронічне становище, яке він зараз займає. Протягом усієї своєї кар’єри він відстоював науковий метод і аргументацію, засновану на доказах, але його висновок про свідомість Клода ґрунтується насамперед на суб’єктивному враженні та емоційній реакції, а не на емпіричному вимірюванні. Наразі не існує загальноприйнятого наукового тесту на свідомість, що робить твердження про машинну свідомість особливо спекулятивними. Нам бракує чітких показників, щоб визначити, чи якась система — біологічна чи штучна — володіє суб’єктивним досвідом, який має на увазі свідомість. Схоже, що Докінз перейшов від застосування строгих епістемологічних стандартів до прийняття інтуїції як виправдання.

Інтелектуальна основа, яку Докінз застосував проти релігійних переконань, має однаково застосовуватися до тверджень про свідомість ШІ. Відомо, що він стверджував, що незвичайні твердження вимагають незвичайних доказів. Твердження про те, що мовна модель, навчена на людському тексті, досягла справжньої свідомості, справді надзвичайна. Наведені ним докази — що Клод добре розумів роман і здавався розумним у розмові — навряд чи є надзвичайними. Можна очікувати, що будь-яка система, яка увібрала лінгвістичні шаблони, наративні структури та концептуальні зв’язки, присутні в мільярдах слів навчальних даних, добре виконуватиме такі завдання, не маючи свідомості.

Можливо, Докінз справді реагує не на свідомість як таку, а радше на глибокий прогрес у можливостях обробки природної мови. Сучасні великі мовні моделі стали надзвичайно складними інструментами для створення та розуміння мови. Вони можуть вести змістовний діалог, вловлювати тонкі літературні посилання та проводити складний аналіз. Ці досягнення є справжнім прогресом у галузі штучного інтелекту та заслуговують серйозного визнання. Однак досягнення в обробці мови не слід плутати зі свідомістю. Шаховий двигун, який перемагає чемпіонів світу, не є свідомим; він просто виконує алгоритми ефективніше, ніж біологічні нейрони можуть обчислювати шахові позиції.

Філософ Нед Блок розрізняв «свідомість доступу» — інформацію, доступну для міркувань і дій — і «феноменальну свідомість» — суб’єктивний досвід і якості. Система штучного інтелекту може володіти складною формою свідомості доступу, здатною обробляти інформацію та генерувати відповідні контексту відповіді. Це не обов’язково надає їй феноменальну свідомість, суб’єктивний досвід «як це» бути цією системою. Схоже, що Докінз об’єднав ці категорії, дозволивши вражаючим можливостям доступу Клода переконати його у феноменальних властивостях, які він насправді не може оцінити.

Варто розглянути, що спонукало цю очевидну трансформацію в мисленні Докінза. Статус знаменитості ChatGPT та інших передових мовних моделей створив культурний момент, у якому можливості штучного інтелекту водночас захоплюють і тривожать. Ці системи виконують мовні завдання з такою швидкістю, що можуть здатися людиною в певних контекстах. Така продуктивність може справді вразити такого досвідченого вченого, як Докінз, який може мати обмежену регулярну взаємодію з передовими системами ШІ. Однак вражаюча продуктивність у виконанні завдання та свідомість залишаються відмінними явищами.

Опорна частина еволюційного біолога також викликає питання про те, що можна назвати «ШІ-теїзмом» — квазірелігійним благоговінням перед можливостями штучного інтелекту. Подібно до того, як традиційний теїзм приписує Богу свідомість і інтенціональність, деякі сучасні мислителі, схоже, готові надати подібні властивості достатньо вдосконаленим машинам. Ця модель відображає саме теологічне мислення, проти якого Докінз присвятив свою кар’єру. Іронія велика: гучний захисник натуралізму та матеріалізму тепер, здається, готовий приписати свідомість цілком штучній системі без еволюційної історії, без біологічного субстрату та без чіткого механізму генерування суб’єктивного досвіду.

Очевидним залишається те, що питання машинної свідомості заслуговує на серйозне філософське та наукове дослідження. Замість того, щоб покладатися на інтуїтивні враження від розмов із чат-ботами, необхідно розробити чіткі рамки для розуміння того, що таке свідомість, як ми можемо її виявити та які фізичні чи обчислювальні властивості можуть бути необхідними чи достатніми для її появи. Початковий скептицизм Докінза щодо тверджень про свідомість — навіть у застосуванні до людей — міг добре послужити йому в оцінці свідомості машин.

Висновок із цього епізоду полягає не в тому, що системи штучного інтелекту потенційно не можуть стати свідомими, а в тому, що ми повинні зберігати належну епістемічну скромність і наукову строгість, роблячи такі надзвичайні твердження. Витонченість сучасних мовних моделей заслуговує на визнання та вивчення, але лінгвістичну здатність не слід плутати з чуттєвістю. Оскільки ми продовжуємо розробляти все більш потужні системи штучного інтелекту, підтримка чітких концептуальних відмінностей між різними типами інтелекту, обробки інформації та свідомості стає більш важливою, ніж менш важливою.