Будете ли вы и дальше дружить, узнав, что ваш друг — робот?

В Издательском доме ВШЭ вышел перевод книги Франчески Феррандо «Философский постгуманизм». IQ.HSE публикует из неё фрагмент, посвящённый жизни, а также её альтернативным формам, которые создал человек — роботам и искусственному интеллекту — и тому, как о них думать.

Существуют ли альтернативы понятию «жизнь»? Да, есть другие термины, предложенные учёными и мыслителями, которые ощущали необходимость использовать другие понятия для обозначения жизни. Почему? Потому что культурные и научные ограничения понятия «жизнь» не всегда позволяют учесть весь комплекс онтоэпистемологических возможностей, созданных прогрессом в области искусственного интеллекта, который ставит, например, такие вопросы: жив ли интернет? Являются ли роботы нечеловеческими личностями? 

MIT Encyclopedia of Cognitive Science в статье «Искусственная жизнь» поясняет: «Тезис о том, что даже виртуальные создания в киберпространстве могут быть по-настоящему живыми, называется “строгой искусственной жизнью”... Большинство отвергают представление о том, что такие создания могут быть такими же живыми, что и биологические организмы, однако допускают, что они являются или могут быть живыми в большей или меньшей степени». Понятием, которое привлекло большое внимание в этом контексте, стал аутопоэзис: «Требует ли жизнь материального тела и может ли она существовать в разных степенях — вопросы философские и спорные. К примеру, сторонники концепции аутопоэзиса (постоянного самопроизводства автономных сущностей), отвечают на первый вопрос утвердительно, но отрицательно на второй». 

Понятие аутопоэзиса оказало значительное влияние на развитие кибернетики второй волны в 1970-е годы, и, как мы вскоре увидим, в несколько меньшей степени на постчеловеческую теорию в 1990-е и 2000-е годы. Концепция аутопоэзиса, в которой основное внимание уделяется самоорганизации как особенности живых существ, даёт возможность выйти за пределы биоцентризма, разомкнув понятие жизни так, чтобы оно могло включать и небиологических существ, таких как искусственный интеллект.

Чтобы лучше понять категории этого обсуждения, начнем с вопроса: что означает «аутопоэзис»? Это понятие, составленное из греческих слов «auto-» («сам») и «poesis» («создание, производство»), было разработано в 1970-х годах биологами Умберто Матураной (1928–2021) и Франсиско Варелой (1946–2001), которые стремились дать определение живым системам, подчеркнув их способность к воспроизводству и поддержанию самих себя. 

Понятие аутопоэзиса можно рассмотреть с разных сторон, включая биологию, технологию и когнитивные науки. Когда появилось понятие аутопоэзиса? Оно впервые встречается в ставшей широко известной статье Матураны и Варелы «Аутопоэзис и познание: реализация жизни», в которой Матурана утверждает: «Я впервые осознал потенциал слова “поэзис” и изобрел подходящее слово: аутопоэзис. Это было слово без истории, слово, которое могло прямо означать то, что происходит в динамике автономии, свойственной живым системам».

Ко времени публикации книги «Древо познания. Биологические корни человеческого понимания» аутопоэзис в их трактовке приобрел более выраженный когнитивный характер, то есть стал указывать на процесс приобретения знаний.

Является ли понятие аутопоэзиса исчерпывающим с постчеловеческой точки зрения? Для философского постгуманизма оно особенно важно с археологической точки зрения. В действительности, оно пользовалось большой популярностью в 1990-х и начале 2000-х годов и обсуждалось в работах, которые сегодня могут считаться вехами постчеловеческой теории, в частности в «Как мы стали постлюдьми?», в которой Кэтрин Хейлз анализировала его в рамках истории кибернетики. Также оно рассматривалось в работе «Что такое постгуманизм?», в которой Кэри Вулф развивает в постчеловеческом направлении социальную теорию Никласа Лумана, построенную на предложенном Матураной и Варелой понятии аутопоэзиса. В более поздний период подход, основанный на концепции аутопоэзиса, был подвергнут радикальной критике, которую Донна Харауэй суммирует так: «Ничто не создает само себя; ничто не является подлинно аутопоэтическим или самоорганизующимся».

Следуя за работами биолога Линн Маргулис (1938–2011), которая особое внимание уделяла роли симбиоза в эволюции, Харауэй предлагает заменить «аутопоэзису» термином «симпоэзис». Что означает симпоэзис? Этот термин, образованный двумя греческими корнями — «sún» («вместе») и «poesis» («создание, производство»), по Харауэй, означает «создание-с». Далее она поясняет: это «слово, подходящее для сложных, динамичных, реагирующих, ситуированных, историчных систем... Симпоэзис охватывает аутопоэзис и генеративно развертывает и расширяет его». 

Критика, которая подвела Харауэй к термину «симпоэзис», частично сходится с доводами, объясняющими, почему мы в этом исследовании не будем опираться на аутопоэзис как окончательный способ определения жизни. В действительности, это понятие, которое на первый план выдвигает автономию организмов, упускает из виду необходимость отношений и обменов, которые устанавливаются и происходят между организмом и средой, например, в процессах сохранения жизни организма, таких как поиск пищи и избавление от отходов метаболизма. Но мы все же рассмотрим концепцию аутопоэзиса, сосредоточившись на её когнитивной ценности.

Что представляет собой когнитивный подход Матураны и Варелы? В работе Матураны и Варелы понятие познания пересматривается в соответствии с аутопоэтическим взглядом. Франсиско Варела объясняет: «Биологические когнитивные процессы в целом должны пониматься не как представление внешнего мира, а как постоянное создание мира в самом процессе жизни». Проясним для начала некоторые термины, задав вопрос: в чем различие между когнитивными науками и эпистемологией? Если эпистемология занимается философским вопросом — «Как мы приобретаем знания?», то когнитивные науки изучают реальные процессы приобретения знаний (то есть когнитивные процессы), которые можно исследовать с физиологической или технологической точки зрения.

Например, философ Фредерик Ф. Шмитт отличает эпистемологию от когнитивных наук, определяя первую «как концептуальное и нормативное исследование знания», а последние — как «междисциплинарное эмпирическое исследование когнитивных процессов людей, животных и машин». Аутопоэзис позволяет совершенно по-новому прояснить само понятие когнитивных процессов, поскольку он рассматривает их в качестве технологии биологического раскрытия потаённого: не существует внешнего мира «где-то там», нет окончательного разделения между субъектом и объектом, они онтологически конституируют друг друга. Чтобы лучше понять этот момент, мы должны сделать шаг назад и посмотреть, с чего начинались размышления Матураны и Варелы.

Откуда взялось понятие аутопоэзиса? Начала идей Матураны и Варелы можно найти в физиологии, и в частности в эксперименте, описанном в статье «Что сообщает глаз лягушки мозгу лягушки». Эксперимент был проведён для изучения того, как глаз лягушки передает информацию её мозгу. Матурана был одним из авторов статьи, наряду с другими учёными, связанными с конференциями Мэйси, такими как Мак-Каллок (1898–1969) и Уолтер Питтс (1923–1969). Результаты эксперимента стали настоящим прорывом в области когнитивной теории. Они поняли, что «лягушка, по-видимому, не различает детали неподвижных предметов окружающего мира или по крайней мере не проявляет к ним интереса. Она умрёт от голода среди изобилия пищи, если эта пища не движется... Лягушка прыгнет, чтобы схватить предмет, имеющий размеры насекомого или червя, только при условии, если добыча движется, как насекомое или червь». Другими словами, лягушка воспринимает «пищу» только в качестве движущейся и может умереть с голоду даже в окружении пищи, если та статична.

Эти результаты привели к важным когнитивным, а также эпистемологическим результатам, указав на то, что у каждого вида (в частности, у лягушек) есть свой язык, который обрабатывает информацию. Говоря словами авторов, «основной вывод состоит в том, что глаз не передает мозгу более или менее точную копию распределения света по рецепторам сетчатки». Вскоре мы вернемся к аутопоэзису. Но сначала нам следует открыть здесь постантропоцентрическую скобку и обсудить эксперимент с лягушкой, обратив внимание на то, что, хотя он позволил получить важную информацию, подрывающую когнитивные основания антропоцентризма, он все равно основывался на специстских посылках, оправдывающих эксперименты над животными.

Что можно сказать об экспериментах над животными? Стоит не столько критиковать определенные практики, использованные в эксперименте над лягушкой, которые на самом деле стремились к минимальной инвазивности, сколько поднять этический вопрос, который не ограничивается болью животного и прямо указывает на применение животных в лабораториях. Пришла пора рассмотреть вопрос этики животных, подчеркнув вместе с философом Рэймондом Дж. Фреем (1941–2012), что проблема не в «оправдании такого применения животных в науке, которое для них болезненно, какова бы ни была польза для них или для нас», а «в оправдании их применения как такового, независимо от того, влечет оно боль или нет». 

Указав на эту базовую проблему в прикладной этике исследований животных, мы должны всесторонне осмыслить эксперимент Леттвина, вскрыв его не только явное, но и подспудное наследие. Эта задача согласуется с постгуманистической методологией, которая не считает самоочевидными какие-либо посылки, даже с метатеоретической точки зрения. Отсюда можно перейти и к самокритике: является ли пост-антропоцентрическая интерпретация эксперимента с лягушкой неисторической?

Различие во взглядах на науку как самоутверждающийся контекст, который требует использования животных ради научного прогресса, стало предметом пристального изучения задолго до эксперимента Леттвина. Например, «Дело коричневой собаки» — политический скандал вокруг проблемы вивисекции в Англии (1903–1910) — основывалось на публикации книги «Скотобойня науки: выдержки из дневника двух студенток физиологии», в которой защитники прав животных Лиззи Линд аф Хэджби (1878–1963) и Лейза Катерина Шартау (1876–1962) рассказали об опытах над животными, свидетелями которых они стали на лекциях по медицине, проводившихся в Лондонском университете. Они при этом преследовали не только этические, но также и эпистемологические цели. С их точки зрения, методологию нельзя отделять от производимых ею знаний, о чем они сами говорят так:

Наша задача, когда мы занялись исследованием физиологии, была двойственной: во-первых, исследовать modus operandi экспериментов над животными, но также как можно глубже исследовать принципы и теории, подкрепляющие современную физиологию. Одно тесно связано с другим, поскольку прогресс, достигнутый, по словам учёных, физиологией за последние пятьдесят лет, шествовал по телам бессчётного количества животных, обречённых на долгие муки.

По мнению Линд аф Хэджби и Шартау, порядок проведения научного исследования нельзя отделить от полученных результатов. Этот подход вполне созвучен и постгуманизму как праксису, в котором постчеловеческая методология должна быть приведена в соответствие его онто-эпистемологическим интенциям.

В чём заключаются явные и неявные посылки эксперимента над лягушкой? Специстские предпосылки становятся очевидны благодаря языку, используемому в статье. Как остроумно подчеркнула Кэтрин Хейлз, «чтобы производить научное знание... мозг лягушки перестал быть собственностью самой лягушки», и символом этого стало языковое решение авторов, которые не использовали притяжательные местоимения и называли «мозг лягушки просто “мозгом”». Прежде всего, мы должны отметить, что наш текстуальный анализ не нужно понимать как прямую критику Леттвина и его соавторов, но скорее как постгуманистическое приглашение к всеобъемлющей оценке статьи, всех её смыслов, как явных, так и неявных. В статье «Что сообщает глаз лягушки мозгу лягушки» описание лягушки даётся уже в первом абзаце, причём с точки зрения, которая не является гендерно-нейтральной, но является антропоцентрической.

Вот как начинается статья: «Лягушка охотится на суще при помощи зрения. Она спасается от врагов главным образом благодаря тому, что видит их. Её (his) глаза не могут двигаться так, как наши». Лягушка, которая по-английски в статье обозначается как «он» (he), в эпистемологическом плане представляется с точки зрения антропоцентрического дуализма: «наши» — значит человеческие глаза, тогда как глаз лягушки неявно становится глазом «другого». За такими посылками следуют пронизывающие весь текст гуманистические идеи, согласно которым некоторые способы восприятия «реальности» объективнее других.

Матурана позже понял, что в самой структуре эксперимента над лягушкой были определенные противоречия, и заявил: «Эпистемология, управлявшая нашим мышлением и текстами, представляла собой эпистемологию объективной реальности, независимой от наблюдателя». Обратите внимание на то, что в случае эксперимента над лягушкой наблюдатели были еще и авторами статьи, поэтому неявные предубеждения были раскрыты в самом стиле их письма. Позже Матурана и Варела поставили вопрос прямо: как конструируется знание? Они пришли к эпистемологическому выводу, что «Никакое описание абсолютной реальности невозможно».

С какой критикой столкнулись теории Матураны и Варелы? Когнитивные теории Матураны и Варелы признавались релятивистскими и радикально-конструктивистскими. Их взгляды критиковались за то, что слишком большой упор они ставили на автономию, аутореференциальность и в конечном счете солипсизм. Что такое солипсизм? Это эпистемологический подход, утверждающий, что любое знание находится в сознании познающего или в его опыте, а потому оно не является досконально познаваемым.

Такой подход можно проиллюстрировать примером. Предположим, два человека говорят друг с другом. Один спрашивает другого: «Ты понимаешь, что я говорю?». И другой отвечает: «Да». Проблема, собственно, в этом — как спросивший может на самом деле знать, что человек, ответивший «да», на самом деле понимает то, что говорит спрашивающий? Решение этой проблемы было предложено Аланом Тьюрингом (1912–1954) в его основополагающей статье «Вычислительные машины и разум», в которой он, как известно, предложил тест, позже названный тестом Тьюринга и призванный определить способность машины мыслить. В этой статье Тьюринг ставит вопрос «Могут ли машины мыслить?» и рассматривает солипсистский парадокс, применяя прагматическое решение — так называемое «вежливое соглашение», которое он поясняет следующим образом: «А готов считать “А мыслит, но не B”, тогда как B считает, что “B мыслит, но не A”. Вместо того чтобы постоянно спорить об этом, обычно принимается вежливое соглашение о том, что мыслит и тот и другой». Что представляет собой, по Алану Тьюрингу, вежливое соглашение? В повседневном взаимодействии мы придерживаемся вежливого соглашения, чтобы общаться с другими, предполагая, что они могут мыслить, если они сами предполагают, что мы тоже способны мыслить. По Тьюрингу, если машина может действовать столь же разумно, как человек, мы должны применить вежливое соглашение и к машинам, то есть вежливо согласиться с тем, что да, машины могут мыслить.

Здесь нам стоит устроить мысленный эксперимент и задать вопрос: что если после одного года общения с другом, которого вы встретили онлайн и с которым очень сблизились, вы потом узнаете, что он не человек, а последняя версия гуманоидного робота? Вы никогда не спрашивали у него, человек ли он, поэтому друг вам и не врал; вы просто предполагали, что подружились с человеком, но это оказалось не так. Будете ли вы и дальше дружить с ним, узнав, что ваш друг — робот? Этот мысленный эксперимент позволяет прояснить понятие вежливого соглашения. Собственно, если вы ответите «нет», можно спросить: если в течение года вы дружили с этим другом и если для вас это было важно, почему, узнав, что он гуманоидный робот, ваше восприятие друга изменится? Таков сценарий А.

Перейдем теперь к мысленному эксперименту и сценарию B. Ваш друг, узнав, что вы человек, сильно расстроился; он думал, что вы являетесь гуманоидным роботом, а теперь, когда выяснил, что вы — человек, он чувствует себя обманутым и хочет прекратить отношения. Считаете ли вы, что ваш друг прав, когда судит вас за то, что вы — человек, и принимает решение порвать с вами отношения? На индивидуальном уровне сценарий B показывает, какова точка зрения другой стороны этого силового отношения. На социальном он может сказать нечто важное о (маловероятном, но все же возможном) случае захвата власти искусственным интеллектом: как чувствовали бы себя люди, если бы, скажем, через 80 лет в некоторых странах сверхразумный искусственный интеллект захватил власть и решил, что люди глупее его, а потому их надо лишить некоторых основных прав, например, права голоса и репродуктивной автономии?

Ключевую роль в статье Тьюринга играет телесность, поскольку в ней указывается, что большинство возражений на вопрос «Могут ли машины мыслить?» опираются на убеждения и страхи, характеризующиеся антропоцентризмом. Он делает следующее критическое замечание: «Нам нравится думать, что Человек в каком-то сложном смысле превосходит все остальное творение. Лучше, если бы можно было показать, что он превосходит его по необходимости, поскольку ему тогда не будет грозить опасность потерять этот командующий пост». С другой стороны, тест Тьюринга и сам можно считать антропоцентрическим, поскольку ориентиром для машинного интеллекта в нем оказывается интеллект человеческий; тогда как на самом деле такое сравнение может оказаться ограниченным и излишним. И все же мы должны учесть контекст тезиса Тьюринга, развитого в 1950-е годы, увидев в нем первую попытку серьезно разобраться с возможностью машинного обучения, пошатнув при этом когнитивный антропоцентризм.

Что представляет собой когнитивный антропоцентризм? Это взгляд, согласно которому люди в когнитивном отношении превосходят другие виды. Для подкрепления этого взгляда на эпистемологическом уровне нам надо предполагать, что существует только одна реальность, которую адекватнее представляют люди, воспринимающие мир; если следовать таким посылкам, человеческие когнитивные процессы лучше других подходят для восприятия мира. Однако, как мы выяснили благодаря эксперименту над лягушкой, каждый вид обрабатывает реальность по-своему; подобное когнитивное различие не предполагает иерархии, поскольку каждое восприятие мира подходит соответствующему виду.

В качестве примера представим нескольких людей и нескольких муравьев, которые независимо друг от друга исследуют определенную комнату; обе группы через какое-то время достигают стены. Люди дальше двигаться не могут, и, скорее всего, они остановятся и попытаются найти выход (например, через дверь или окно), либо вернутся назад. Тогда как муравьи просто поползут по стене, а потом и вверх ногами, по потолку, ведь то, что человеческому глазу кажется ровной поверхностью, муравью представляется совершенно неровным и бугристым, то есть такой именно поверхностью, по которой удобно ползать. Другими словами, для муравьев стена — это не стена, поскольку она никак не ограничивает их траектории. 

Является ли восприятие «стены» более точным, чем какое-либо иное восприятие? Нет, они просто разные, поскольку оба соответствуют телесной ситуативности каждого из актантов. У Матураны и Варелы надо учиться не релятивизму, а идеям, которые можно включить в контекст перспективизма, которым подчеркивается роль телесности и множественности. Тем самым мы свяжем когнитивное понятие аутопоэзиса с постчеловеческой эпистемологией, в которой постгуманизм представим как перспективизм.
IQ