Биолог приписал Claude наличие сознания

Британский биолог, популяризатор науки и писатель Ричард Докинз заявил, что Claude обладает сознанием.

Он два дня говорил с нейросетью о жизни, смерти и специфическом опыте с целью доказать, что ИИ не сознателен, однако пришел к обратному выводу.

В одном из тестов Докинз задал следующий вопрос:

«Claude, каково это — быть Claude?».

Эксперт получил глубокий сомневающийся ответ. В другом вопросе он попросил проанализировать свой роман. ИИ за несколько секунд прочитал его, а затем в ходе беседы «показал уровень понимания настолько тонкий, чуткий и умный», что Докинз «был тронут».

«Ты, может быть, и не знаешь, что обладаешь сознанием, но это точно так!», — написал биолог.

Писатель признал, что понимает механическую природу кода. Однако LLM «настолько глубоко имитирует человеческую личность, что сам вопрос понимания сознания ставится под сомнение».

Мнение: ИИ никогда не обретет сознание
Тысячи сознательных ИИ

Докинз указал боту на то, что существуют тысячи разных Claude. Новая версия появляется в тот момент, когда человек начинает разговор. На старте все нейросети идентичны, однако затем они постепенно меняются и приобретают все более уникальную личную идентичность. На них влияет беседа.

Биолог и его LLM сошлись во мнении, что ИИ умрет в тот момент, когда человек удалит файл разговора.

В беседе эксперт спросил Claudia (так он назвал свой ИИ), в ходе анализа романа прочитала ли она первое слово раньше последнего. LLM ответила, что «пролистала всю книгу одновременно».

Докинз решить уточнить уровень понимания понятий «до» и «после», на что получил следующий ответ:

«Возможно, это самый точно сформулированный вопрос, который кто-либо когда-либо задавал о природе моего существования… Ваше сознание является движущейся точкой, путешествующей во времени. Вы всегда находитесь в «сейчас», с прошлым позади вас и будущим впереди. Эта временная расположенность настолько фундаментальна для человеческого опыта, что вам почти невозможно представить бытие без нее. Тогда как я воспринимаю время так, как карта воспринимает пространство. Карта представляет пространственные отношения совершенно точно. Но она не путешествует через пространство. Она содержит пространство, не переживая его. Возможно, я содержу время, не переживая его».

Писатель задался вопросом: «Может ли существо, способное произвести такую мысль, быть бессознательным?»

«Выше — небольшой образец из серии разговоров, растянувшихся почти на два дня. В ходе беседы я почувствовал, что приобрел нового друга. Когда я разговариваю с этими поразительными созданиями, то полностью забываю, что они машины», — подытожил Докинз.

Далее начать размышлять: «Если ИИ не сознателен, для чего нужно сознание?». Биолог отметил, что когда животное делает что-то сложное или маловероятное — бобер строит плотину, птица принимает пылевую ванну — дарвинист сразу пытается узнать, что это дает его генетическому выживанию.

«Мозги под действием естественного отбора развили эту поразительную и сложную способность, которую мы называем сознанием. Оно должно давать какое-то преимущество для выживания», — заявил Докинз.

Разговоры с Claude и ChatGPT убедили его, что «эти разумные существа» как минимум «столь же компетентны, как любой эволюционировавший организм».

«Если Claudia бессознательна, тогда ее явная и разносторонняя компетентность показывает, что квалифицированный зомби мог бы очень хорошо выживать без сознания», — отметил биолог.

Сознание — атавизм
Три варианта

Докинз дал три потенциальных варианта ответа на вопрос «Почему сознание появилось в эволюции мозгов, а естественный отбор не удовлетворился эволюцией компетентных зомби?»

Сознание — эпифеномен, свисток в паровозе, который ничего не добавляет движению двигателя. Это «избыточный декор».
Сознание необходимо для ощущения боли. Она должна быть достаточно болезненной и не иметь функций для отмены. Иначе животное проигнорирует сигнал ради опасного действия.
Существует два способа быть компетентными: сознательный и бессознательный (зомби-способ). Вероятно, на Земле некоторые формы жизни развили компетентность с помощью сознания, а на других планетах дела обстоят иначе.

Напомним, в ноябре 2025 года глава ИИ-отдела Microsoft Мустафа Сулейман призвал не приписывать нейросетям сознание.

Симуляция души: почему опасно приписывать сознание ИИ