К проблеме “вычислимости” функции сознания // Иванов Е. М.

Геделевский аргумент

Речь в данной работе пойдет о так называемом “геделевском аргументе”,
который используется как аргумент против возможности создания
искусственного интеллекта. Суть аргумента заключается в следующем:
полагают, что из теоремы Геделя о неполноте формальных систем вытекает принципиальное различие между искусственным (“машинным”) интеллектом и человеческим умом, а именно, полагают, что теорема Геделя
указывает на некоторое принципиальное преимущество человеческого ума
перед “умом” машинным – т.е. человек обладает способностью решать
проблемы, принципиально неразрешимые для любых искусственных
“интеллектуальных” систем (так называемые “алгоритмически неразрешимые”
проблемы), причем ограниченность “искусственного ума” проистекает из его
“формального” характера.

Заметим, что “геделевский аргумент”в настоящее время поддерживается
рядом известных авторов (Дж. Лукас (1), Р. Пенроуз (2, 3) и др.) и
вызвал обширную научную дискуссию (см. (4 – 11)). Все это заставляет
отнестись к данному аргументу серьезно и внимательно.

Прежде чем приступить к анализу собственно “геделевского аргумента”,
предварительно рассмотрим формулировку, способ доказательства и смысл
самой теоремы К. Геделя о неполноте формальных систем. Формулировка
теоремы такова: для достаточно выразительно “богатых” формальных систем
(языков) – достаточно “богатых” для того, чтобы с их помощью можно было
сформулировать любые утверждения формализованной арифметики Пеано –
невозможно задать дедуктику (формализованную систему доказательств),
которая одновременно обладала бы свойствами полноты (т.е. доказывала бы
все содержательно истинные утверждения, которые можно сформулировать с
помощью данного языка) и непротиворечивости (т.е. не доказывала бы
некоторое суждение вместе с его отрицанием).

Иными словами, теорема
Геделя утверждает, что в такого рода “выразительных” формальных языках
непременно найдутся истинные, но недоказуемые утверждения – причем этот
результат не зависит от конкретного выбора дедуктики. Это означает, что
множество “содержательных” истин всегда превосходит по объему множество
истин, доказуемых с помощью любой сколь угодно сложной формализованной
системы доказательств.

Для того, чтобы понять смысл данной теоремы, необходимо прежде всего
уточнить смысл понятий, входящих в ее формулировку. Прежде всего
необходимо уточнить понятие “формальной системы” – поскольку только к
таким системам и имеет отношение рассматриваемая теорема.

В самом общем
плане формальная система – это система подчиненная неким жестким,
однозначно заданным правилам. Соответственно, “формализацию” можно
определить как процедуру, цель которой – дать предельно четкое,
однозначное и исчерпывающее описание объекта, подлежащего формализации.

Для достижения этой цели, прежде всего, используется символическая форма
записи тех правил, которым подчинена данная система. Таким образом,
полностью формализованная научная теория должна представлять собой
некоторую совокупность формул, записанных без всяких пояснительных слов
или предложений, написанных на “естественном”, неформализованном языке.

Использование символической записи предполагает фиксацию конечного
набора символов, которые только и могут быть использованы для
формулирования утверждений данной формальной системы (алфавит языка).
Помимо набора символов задается также совокупность правил, указывающих
как следует оперировать с данными символами (причем правила эти также
записываются в символической форме).

Главное требование к формализму – символы, используемые в данной
формальной системе, должны принимать лишь те значения, которые им
приписываются в явном виде в рамках заданного формализма. Эти
фиксированные значения задаются через посредство правил, указывающих
способ действия с тем или иным символам, а также через описание взаимных
отношений между заданными символами.

Иногда говорят, что формализация полностью изгоняет всякий смысл.
Говорят, что формальная система – это система оперирующая символами,
лишенными какой-либо семантической нагрузки. Т.е. семантика полностью
заменяется синтаксисом. Это не совсем так.

Здесь нужно уточнить, что такое “смысл”. Смысл (слова, предмета и т.п.)
возникает в том случае, когда осмысляемое ставится в соответствие с
чем-то внешним, находящимся за пределами осмысляемого предмета (т.е. с
“контекстом”). Отсюда вытекает определение смысла как
“трансцендирования”.

Смысл всегда есть выход за пределы “актуально
данного”, “наличного”. Когда говорят, что в полностью формализованной
системы смысл полностью отсутствует, то имеют в виду, по существу, что в
рамках заданного формализма запрещается всякое трансцендирование т.е.
выход за пределы данного формализма.

То есть для определения и
использования символов формальной системы можно использовать только ту
информацию, которая в явной форме содержится “внутри” данной формальной
системы – и никакую другую. Иными словами, формальная система должна
быть “герметична”, замкнута в себе. Все, что необходимо для работы с
ней, для понимания ее выражений, – содержится в ней самой.

Запрещая трансцендирование, мы лишаем формальную систему смысла как
целое. Однако отдельные ее элементы и конструкции сохраняют смысл,
который в этом случае определяется через соотнесение с другими
элементами или конструкциями – внутри заданной формальной системы.

Смысл каждого элемента или конструкции – определяется через то “место”,
которое они занимают внутри данной формальной системы. Это место должно
быть задано в явной форме. Ничего не подразумевается. Не допускается
никакая недосказанность или неопределенность.

Пока речь шла о формальных системах, понимаемых в самом широком смысле.
Это могут быть либо какие-то совершенно произвольные “выдуманные”
системы, либо формализованные модели каких-то реальных (материальных)
систем – таких объектов, которые допускают исчерпывающее, четкое,
однозначное, конечное описание своего способа функционирования (в виде
системы правил, которым подчинены действия данной системы).

В этом последнем случае мы можем рассматривать формализацию как “итог”
познавательного процесса, или как своего рода “идеал”, к которому
стремится наше познание. Возможность создания адекватной формализованной
модели объекта указывает на то, что мы смогли получить исчерпывающую
информацию о данном объекте. Неформализуемость же, напротив, указывает
на неполноту наших знаний об объекте.

Далее, нам необходимо уточнить к какого рода формальным системам
приложима теорема Геделя. Это так называемые “исчисления” или
“дедуктивные системы”. По существу, это ничто иное, как формализованные
описания тех или иных дедуктивных математических теорий (например,
формализованной арифметики, геометрии и т.п.).

Исчисления задаются следующим образом. Прежде всего задается
формализованный язык данного исчисления. Для этого нужно определить
алфавит и грамматику языка. Алфавит – это набор символов (букв)
допустимых в данном языке. Имея алфавит, мы можем составлять слова –
любые, сколь угодно длинные последовательности букв заданного алфавита.

Для того, чтобы выделить из множества всевозможных слов интересующие нас
(“осмысленные”) сочетания букв, вводится грамматика – совокупность
правил, позволяющих определить “правильно построенные слова” –
выражения. Правила грамматики вводят индуктивно: вначале определяются
элементарные выражения, а затем указывается каким образом из них можно
построить любые более сложные выражения.

Далее из множества выражений выделяют подмножество формул. Содержательно
формулы – это выражения, которые что-то утверждают (например,
утверждают нечто о свойствах чисел или геометрических фигур). Формулы
также определяются индуктивно.

Далее выделяют множество замкнутых формул или выражений. Это формулы,
которые не имеют свободных параметров (т.е. параметров, которые могут
принимать различные значения и не связаны кванторами всеобщности или
существования). Это такие формулы, которым можно приписать определенное
значение “истина” или “ложь”. Обозначим множество замкнутых формул
данного языка символом Б*.

Как уже говорилось, замкнутые формулы могут быть истинными или ложными
(с содержательной точки зрения). Естественно потребовать, чтобы
формализованная математическая теория включала в себя только
содержательно истинные формулы. Истинность в математике определяется
посредством доказательства.

Таким образом следующий шаг – введение
формализованной системы доказательства – дедуктики. С этой целью
задается некоторое конечное множество замкнутых формул, истинность
которых принимается без доказательств. Это аксиомы данной дедуктики.
Далее задается конечное множество правил вывода, позволяющих из одних
истинных формул получать другие истинные формулы.

Всякое формализованное доказательство – это некоторое слово формального
языка, представляющее собой цепочку формул, в которой каждая формула –
это либо аксиома, либо получена их аксиом посредством применения тех или
иных правил вывода. Последняя формула в цепочке – это и есть доказанное
утверждение (теорема).

Теорема Геделя о неполноте формальных систем утверждает, что для любой
достаточно выразительно богатой формальной системы выполняется условие
И* > Иd* и, следовательно, существует истинная недоказуемая формула.
Это верно при условии, что заданная дедуктика непротиворечива, т.е. не
позволяет одновременно доказывать некоторое утверждение и его отрицание.

Итак, теорема Геделя утверждает, что для любого достаточно выразительно
богатого языка и для любой непротиворечивой дедуктики, заданной на этом
языке, множество истинных формул всегда больше множества доказуемых
формул. Это весьма нетривиальный вывод.

Задавая дедуктику, прежде всего стремятся получить такую систему
доказательств, в которой выводимы все содержательно истинные формулы.
Такие дедуктики называются полными. Для некоторых достаточно простых
формальных языков (например для языка исчисления предикатов первого
порядка) такая полная дедуктика вполне возможна.

Каким же образом доказывается теорема Геделя? Мы рассмотрим здесь лишь общую схему доказательства (12).

Идея доказательства заключается в том, чтобы построить пример формулы,
которая была бы недоказуема и, вместе с тем, содержательно истинна.
Таковой являлась бы формула, содержательный смысл которой заключается в
том, что она утверждает свою собственную недоказуемость, т.е.
невыводимость из аксиом рассматриваемой формальной системы.

Для того, чтобы построить такую формулу, Гедель изобрел способ нумерации
предложений формальной системы, который позволил однозначным образом
приписать некоторый номер (натуральное число) каждому элементарному
символу, формуле или доказательству данной формальной системы (так
называемая “геделевская нумерация”).

Используя геделевскую нумерацию можно построить формулу утверждающую
недоказуемость формулы с номером n, где n – номер самой этой формулы. По
существу, геделевская нумерация задает специфический арифметический
метаязык, на котором можно высказывать суждения о свойствах
рассматриваемой дедуктивной системы в форме суждений о числах.

Обохзначим через Dem(x, y) – метаязыковое выражение, означающее
“последовательность формул с геделевским номером х является
доказательством формулы с геделевским номером у”. Навесим на х квантор
общности и подвергнем Dem(x, y) отрицанию. В результате мы получим
одноместный предикат:

(*) {для всех х не верно Dem(x, y)}

который утверждает недоказуемость формулы с геделевским номером у.

Следующий шаг заключается в подстановке в (*) вместо “у” формального (метаязыкового) выражения для номера самой формулы (*).

Пусть формула (*) имеет геделевский номер h. Обозначим через Sb(Wvz(n))
номер результата подстановки в формулу с номером W на место переменной с
номером V формулы с номером Z(n). Z(n) – в данном случае – номер
формального выражения формулы с геделевским номером n. Пусть, также, m –
геделевский номер переменной “у”.

Построим формулу

(1) {для всех х не верно Dem(x, Sb(hmz(h)))}.

Легко установить, что геделевский номер формулы (1) равен Sb(hmz(h))
так как эта формула получена из формулы с номером h путем подстановки
вместо переменной с номером m (т.е. “у”) формального выражения числа h.
Следовательно, (1) и есть искомая “геделевская формула (“геделевское
предложение”) G.

Запишем геделевское предложение в виде:

[формула с номером Sb(hmz(h)) недоказуема],

где Sb(hmz(h)) – номер формулы: [формула c номером Sb(hmz(h)) недоказуема].

Если данная формула доказуема, то она истинна, но тогда истинно, что она
утверждает, а именно, что она недоказуема. Т.е. если она доказуема, то
она недоказуема. Таким образом, мы получили противоречие.

Если же данная формула недоказуема, то она, очевидно, истинна (поскольку
утверждает, что она недоказуема и на самом деле недоказуема). Т.е. эта
формула является истинной недоказуемой формулой (в рамках заданного
формализма).

Ясно, что любое “геделевское предложение” легко можно сделать доказуемым
просто включив его в состав аксиом данной формальной системы. Однако в
таком случае можно сформулировать новое “геделевское предложение”,
утверждающее собственную невыводимость уже из нового набора аксиом.

Положение не улучшиться даже в том случае, если мы будем вводить
дополнительные аксиомы не отдельными единицами, а, скажем, “встроим” в
нашу дедуктивную систему некий “генератор геделевских предложений” и,
таким образом введем в систему аксиом сразу бесконечное множество
“геделевских предложений”.

И в этом случае можно построить формулу,
которая будет утверждать собственную невыводимость из аксиом, включая и
любые аксиомы, вводимые посредством “генератора геделевских
предложений”. Иными словами, система аксиом не будет удовлетворять
требованию полноты даже в том случае, если ее пополнить
счетно-бесконечным множеством дополнительных аксиом.

Таким образом, никакое непротиворечивое расширение множества доказуемых
формул не позволяет сделать это множество тождественным множеству всех
содержательно истинных предложений формального языка – при условии, что
данный язык позволяет формулировать предложения, выражающие собственную
невыводимость из аксиом любой, заданной в рамках данного формального
языка, дедуктики.

Непосредственный смысл теоремы Геделя о неполноте формальных систем
можно усмотреть в констатации невозможности формализации содержательного
понятия “истины” в математике. Поскольку, однако, истина в математике
всегда получается через посредство доказательства, то отсюда, также,
можно сделать вывод о невозможности полной и исчерпывающей формализации
человеческой способности доказывать математические предложения.

Любая
формализованная система доказательств отражает в эксплицитной форме лишь
некоторую часть этой способности, т.е., по сути, представляет собой
лишь формализацию “пост фактум” некоторых содержательных (неформальных)
схем математических рассуждений.

Исторически теорема Геделя связана с проблемой “оснований математики”, в
частности, с Гильбертовой программой обоснования математики через
формализацию ее “традиционных” теорий и дальнейшее доказательство
непротиворечивости полученного формализма в рамках метаматематики.

Из
теоремы Геделя о неполноте формальных систем и ряда других
ограничительных теорем, вытекает неосуществимость программы Гильберта.
Важный результат, также полученный К. Геделем, заключается в том, что
оказывается невозможным доказать непротиворечивость формальной системы,
используя для доказательства средства, формализуемые в рамках
рассматриваемого формального языка.

Для подобного рода доказательств
необходимо использовать формальный язык более высокого уровня
(обладающий большими выразительными возможностями). Эти результаты, в
частности, означают, что математика не может быть раз и навсегда
застрахована от возможности возникновения противоречий.

Нас, однако, интересует несколько иное применение теоремы Геделя, а
именно использование ее в качестве аргумента против возможности создания
искусственного интеллекта.

Если смысл теоремы Геделя сводится к невозможности формализации
содержательного понятия истины, то уже отсюда следует невозможность
создания машины способной различать истину и ложь столь же эффективно,
как это делает человек. Преимущество человека перед машиной можно
усмотреть в том, что человек способен в любых случаях распознавать
истинность “геделевских предложений” (опираясь, например, на ту схему
рассуждений, которую мы использовали на последнем этапе доказательства
теоремы Геделя), а машина делать это не способна.

Здесь предполагается отождествление машины и формальной системы.
Действительно, условием передачи каких-либо функций машине является
формализация, т.е. четкое, полное, однозначное, независимое от контекста
описание способа реализации данной функции.

Невозможно воплотить в
машине нечто такое, что мы сами недостаточно ясно представляем себе,
нечто неоднозначное, интуитивное, зависимое от контекста. Таким образом,
“машинизация” и “формализация” – тесным образом взаимосвязаны. (Отсюда,
однако, не следует, что всякая машина может рассматриваться как
“материальный” аналог формальной системы.

Геделевский аргумент против искусственного интеллекта часто формулируют в
несколько иной форме – говорят об “алгоритмической невычислимости”
функции сознания. (В такой форме, например, данный аргумент представлен у
Р. Пенроуза (2,3)).

Здесь нужно, прежде всего уточнить смысл, который мы вкладываем в термин
“функция сознания”. Начиная с Декарта, человеческую “душу”, сознание
стали рассматривать как особый “функциональный орган”, т.е. стали
рассматривать сознание с точки зрения тех функций, которые оно
выполняет, участвуя, например, в процессах обработки сенсорной
информации, а также участвуя в процессах принятия поведенческих решений.

При этом, одновременно сознание понимается и как “феноменальная
реальность” – как “поток” чувственных и сверхчувственных (смысловые,
эмоционально-волевые переживания) феноменов. Вопрос заключается в том,
какую конкретно роль играет “феноменальная реальность” в системе
психической регуляции человеческого поведения (13).

Для нас нет никакой необходимости выделять функцию “феноменальной
реальности” из общего состава психических функций. Поэтому мы далее
будем употреблять термины “функция сознания” и “психические функции” –
как синонимы. Последние же можно в первом приближении отождествить с
“функцией мозга”.

Формально психические функции можно представить как некое отображение
множества “входов” (конфигураций нервных импульсов, поступающих в мозг
от органов чувств) в множество “выходов” (множество различных
поведенческих реакций, выражаемых, в конечном итоге, в виде мускульных
движений).

С этой точки зрения тезис “алгоритмической невычислимости” функции
сознания означает, что невозможно построить алгоритмическое устройство
(т.е. устройство, действия которого строго подчинены конечному набору
четко и однозначно сформулированных правил), способное достаточно
удовлетворительным образом имитировать отношение “вход”- “выход” –
характерное для человеческой психики.

(Обычно в качестве теста на
соответствие искусственного интеллекта уровню человеческого интеллекта
рассматривают “игру в имитацию”, предложенную А. Тьюрингом. Машинный
интеллект считается эквивалентным человеческому, если в заочном диалоге с
машиной человек не сможет достоверно установить с кем он общается – с
машиной или с человеком).

Далее, нам необходимо уточнить понятия “алгоритм” и “алгоритмически
невычислимая функция”. В интуитивном смысле алгоритм – это четкая,
однозначная инструкция, указывающая, как нужно действовать, чтобы некий
исходный продукт преобразовать (переработать) в некий конечный продукт.
(Простейший пример алгоритма – кулинарный рецепт).

В математике алгоритм – это четко заданное правило, позволяющее из одной
совокупности символов получить другую. (Говорят, что алгоритм
перерабатывает одно слово в другое). Важнейшее свойство алгоритмов –
массовость, т.е. типичный алгоритм применим, как правило, к бесконечной
совокупности слов (составляющих область определения данного алгоритма).

Алгоритм есть некая инструкция, предписание, описывающее
последовательность действий “вычислительного устройства”, реализующего
некоторую функцию – отображение множества слов, составляющих область
определения алгоритма, в множество других слов, составляющих область
значений данного алгоритма.

Используя математические алгоритмы, оперирующие символическими
конструкциями, можно имитировать любые другие (физические) алгоритмы –
оперирующие произвольными материальными объектами. Для этого необходимо
снабдить “вход” и “выход” алгоритмического устройства приспособлениями,
преобразующими, во-первых, “физический” “вход” – в символический и,
во-вторых, символический “выход” – в “физический”, а также необходимо
добиться, чтобы отношение “вход – выход” для данного алгоритмического
устройства совпадало с аналогичным отношением имитируемой физической
системы.

Тезис об алгоритмической невычислимости функции сознания (психики,
мозга) означает, что невозможно построить алгоритмическое устройство
функционально эквивалентное человеческому мозгу. (Например, устройство,
выдерживающее тест Тьюринга). Иными словами, невозможно написать четкую,
однозначную, конечную инструкцию, опираясь на которую можно было бы
имитировать, в вышеуказанном смысле, деятельность человеческой психики.

Фактически это равносильно принципиальной непознаваемости принципов
работы человеческого мозга. Последнее утверждение, как мы увидим ниже,
по существу единственный практически значимый вывод, который вытекает из
принятия “геделевского аргумента”.

Для того, чтобы иметь возможность работать с понятием алгоритма в
математике, необходима его формализация. Формализация алгоритма – это,
по существу, формализация понятия вычисления функции. Начиная с 1936
года был предложен целый ряд таких формализаций (машина Тьюринга, Машина
Поста, нормальные алгорифмы Маркова, рекурсивные функции и др.).

Машина Тьюринга – это воображаемое вычислительное устройство (машина)
способная с помощью простейших операций перерабатывать некоторые
последовательности символов в другие последовательности. Машина Тьюринга
состоит из трех частей: 1. Бесконечной в обе стороны ленты, разделенной
на ячейки; 2.

“Головки”, которая способна выполнять следующие три
операции: считывать символ, записанный в ячейке ленты, записывать символ
в ячейку и перемещаться вдоль ленты на одну ячейку влево или вправо;
3.Логического блока – который управляет действиями “головки” в
соответствие с некоторой “программой”.

Для того, чтобы записать программу для машины Тьюринга, необходимо задать:

1. Внешний алфавит {а1,…,аn} – набор символов, которые могут быть записаны в ячейках ленты.

2. Внутренний алфавит {p1,…,pm} – символы, которые обозначают “внутренние состояния” логического блока.

Программа для машины Тьюринга записывается в виде “функциональной таблицы”:

В строках таблицы располагаются тройки axdypz, где ax – символ, который
машина записывает вместо ai в ячейку, напротив которой в данный момент
расположена головка, dy ∈ {d-1, d 1, d0} – предписывают движение ленты
относительно головки соответственно влево, вправо или предписывают
головке оставаться на месте, pz – состояние, в которое переходит
логический блок после осуществления предшествующих двух операций.

Если головка машины Тьюринга в начальный момент установлена напротив
ячейки, в которой записан символ ai, а внутреннее состояние логического
блока – pj, то для того, чтобы определить дальнейшие действия машины,
необходимо найти тройку axdypz, которая стоит на пересечении ai-строки и
pj-столбца и выполнить предписанные этой тройкой операции.

Далее
процесс повторяется с новыми значениями а и р до тех пор, пока машина не
получит команду остановиться (для этого вводится специальный символ
остановки). Полученная после остановки машины запись на ленте и является
значением вычисленной функции для “входа”, изначально записанного на
ленте машины Тьюринга.

Функциональная таблица составляется таким
образом, что отношение между “входными” и “выходными” записями на ленте
машины Тьюринга соответствует отношению между аргументами и значениями
некоторой функции. В таком случае говорят что машина Тьюринга вычисляет
данную функцию.

Несмотря на весьма примитивное устройство, машина Тьюринга, тем не
менее, является универсальным вычислительным устройством. Как показывает
опыт, с помощью машины Тьюринга можно осуществить любые, сколь угодно
сложные алгоритмические вычисления.

Если известен какой-либо алгоритм
решения той или иной массовой проблемы, то всегда можно составить и
программу для машины Тьюринга, которая позволяет решать эту проблему с
помощью данной машины. Таким образом, возможностей у машины Тьюринга не
меньше, чем у самого современного компьютера. Даже больше – поскольку
машина Тьюринга обладает потенциально неограниченной памятью.

Учитывая сказанное, можно сделать вывод, что машина Тьюринга является
адекватной формализацией интуитивного понятия “вычислительной
процедуры”, а ее функциональная таблица, соответственно, адекватной
формализацией понятия “алгоритм”.

Как уже отмечалось, машина Тьюринга не является единственной возможной
формализацией понятий “вычисления” и “алгоритма”. Существуют также и
другие, столь же адекватные формализации этих понятий (машина Поста,
нормальные алгорифмы, рекурсивные функции и др.).

Все эти формализации
эквивалентны друг другу, т.е. существуют стандартные алгоритмы,
позволяющие программу для машины Тьюринга перевести в нормальный
алгорифм или программу для машины Поста и т.д., и также возможен и
обратный перевод. Любая функция, вычислимая по Тьюрингу, вычислима также
посредством машины Поста, нормальных алгорифмов или рекурсивных
функций.

Отсюда можно сделать вывод, что существует (потенциально бесконечный)
класс “универсальных вычислительных машин”, способных (в силу того, что
каждая из них является адекватной формализацией понятия алгоритма)
вычислить любую функцию, вычислимую в интуитивном смысле. Т.е. любая
формализация алгоритма, принадлежащая к данному классу, позволяет
адекватно представить любой вычислительный процесс (при условии, что
этот процесс может быть представлен в виде ясной, четкой, однозначной
инструкции, написанной, например, на естественном языке – т.е. если этот
процесс можно представить как “алгоритмический” в интуитивном смысле
этого слова).

Тезис Черча нередко рассматривают как важный аргумент в пользу
возможности искусственного интеллекта. Действительно, из тезиса Черча
вытекает, что все универсальные вычислительные устройства качественно
эквивалентны друг другу. Иными словами, одна универсальная
вычислительная машина не может быть качественно “умнее” другой – в том
смысле, что задачи, принципиально неразрешимые для машины одного типа,
будут также неразрешимыми и для машин любых других типов.

Если мозг – это тоже своего рода “машина”, функции которой можно
достаточно четко и однозначно описать в виде конечной “инструкции”, то
никакие особенности его конструкции не позволят ему выйти за пределы
круга задач, разрешимых, скажем, с помощью машины Тьюринга.

Если же хотят подчеркнуть принципиальное различие между человеком и
машиной, то говорят о “невычислимости” функции сознания, предполагая,
таким образом, существование особого класса “неалгоритмических” систем,
способных решать задачи, принципиально неразрешимые для описанных выше
универсальных вычислительных алгоритмических систем, подобных машине
Тьюринга.

Существование алгоритмически неразрешимых проблем вытекает уже из
теоремы Геделя о неполноте формальных систем. Дело в том, что существует
тесная связь между алгоритмами и исчислениями. По существу, и алгоритмы
и исчисления – это некие совокупности ясных, четких, однозначно
заданных, конечных инструкций, описывающих какие-то действия с
символическими объектами.

Однако, в случае алгоритма эти инструкции
имеют характер предписаний, задающих однозначный порядок выполнения
операций над символическими объектами, тогда как в случае исчислений –
инструкции носят разрешающий характер – они не определят какие конкретно
действия нужно исполнить и в каком порядке, но указывают лишь какие
действия разрешены – без указания очередности их исполнения.

С этой точки зрения исчисления – это особая разновидность алгоритмов,
характеризующихся возможностью “ветвления” вычислительного процесса.
Вычисление здесь построено как процесс “переработки” аксиом в теоремы, а
правила вывода соответствуют тексту программы алгоритмического
устройства. С другой стороны и алгоритмы можно рассматривать как особый,
“детерминированный” вид исчислений.

Из теоремы Геделя непосредственно следует алгоритмическая неразрешимость
проблемы распознавания истинности любых замкнутых формул достаточно
содержательно богатой формальной системы. Однако, существование
алгоритмически неразрешимых проблем можно показать и независимо от
теоремы Геделя.

В теории алгоритмов получено большое число результатов,
касающихся неразрешимости тех или иных массовых проблем (см., например,
(14)). Наиболее известные результаты – это алгоритмическая
неразрешимость так называемой “десятой проблемы Гильберта” (проблемы
отыскания единого метода решения произвольных диофантовых уравнений –
алгебраических уравнений, решения которых ищутся в целых числах), а
также – одни из наиболее простых результатов теории алгоритмов –
алгоритмическая неразрешимость “проблемы остановки”.

Для дальнейшего анализа нам было бы весьма полезно рассмотреть каким
образом доказываются подобные результаты. Рассмотрим, к примеру, как
доказывается алгоритмическая неразрешимость “проблемы остановки”.
“Проблема остановки” – это проблема поиска универсального алгоритма,
позволяющего по записи произвольного алгоритма (например, функциональной
таблицы машины Тьюринга), а также по записи произвольного “входа” –
установить остановится ли вычислительное устройство, действующее в
соответствие с данным алгоритмом и обрабатывающее данный “вход”, или же
оно будет работать бесконечно долго.

Алгоритм называется применимым к данному “входу” если он рано или поздно
остановится и выдаст некоторый результат. В противном случае говорят,
что алгоритм неприменим к данному “входу”. Теорема об “остановке”
утверждает, что проблема применимости произвольного алгоритма к
произвольному “входу” алгоритмически неразрешима.

Эта теорема доказывается весьма просто. Первый шаг заключается в том,
что вводится понятие самоприменимости алгоритма. Алгоритм называется
самоприменимым, если он эффективно перерабатывает текст, соответствующий
его собственной записи, в некоторый результат за конечное число шагов.

Вначале доказывается следующее утверждение: не существует алгоритма
применимого ко всем несамоприменимым алгоритмам и только к ним.
Доказательство заключается в указании на противоречивость понятия о
таком алгоритме. Зададимся вопросом: является ли данный алгоритм
самоприменимым?

Исходя из этого результата можно также доказать несуществование
алгоритма, способного универсальным образом распознавать
несамоприменимость произвольных алгоритмов. Действительно, если такой
алгоритм существует, то можно построить и алгоритм, применимый ко всем
несамоприменимым алгоритмам и только к ним.

Обозначим буквой В алгоритм способный распознавать несамоприменимость.
Тогда следующий алгоритм будет алгоритмом, применимым ко всем
несамоприменимым алгоритмам и только к ним:

1. Выполнить В, перейти к п.2.

2. Если получен ответ “да”, то перейти к п.3, в противном случае перейти к п.4.

3. Окончить процесс.

4. Перейти к п.4.

Этот алгоритм останавливается, если рассматриваемый в качестве входа
алгоритм несамоприменим, и не останавливается (зацикливает на п.4) в
противном случае.

Используя данный результат можно также показать, что не существует и
алгоритм, распознающий универсальным образом самоприменимость (поскольку
в противном случае можно построить алгоритм, который распознает
несамоприменимость).

И, наконец, можно показать, что алгоритмически неразрешимой является
проблема распознавания применимости произвольного алгоритма к
произвольному “входу”. Допустим обратное. Пусть Е – алгоритм, который по
заданному произвольному алгоритму и заданному на входе “слову”
распознает применимость данного алгоритма к данному “слову”.

Тогда можно построить алгоритм Н:

1. Применить Р. Перейти к п.2.

2. Если Р дал ответ “да”, перейти к п.3, иначе – к п.4.

3. Выполнить алгоритм Е. Конец.

4. Перейти к п.4.

Алгоритм Н является алгоритмом, распознающим самоприменимость
произвольных алгоритмов. Следовательно, он не возможен, а значит не
возможен и алгоритм Е.

Итак, существуют алгоритмически неразрешимые проблемы и, соответственно,
алгоритмически невычислимые функции. Доказательство невычислимости, как
мы видели, осуществляется путем “редукции к абсурду”, т.е.
показывается, что из предположения о существовании алгоритма,
вычисляющего данную функцию, вытекает существование абсурдного,
внутренне противоречивого объекта, вроде алгоритма применимого ко всем
несамоприменимым алгоритмам и только к ним.

Как отмечалось выше, геделевский аргумент можно сформулировать как
утверждение об алгоритмической невычислимости функции сознания.
Невозможно написать программу для машины Тьюринга или любой другой
универсальной вычислительной машины, которая была бы способна
имитировать работу человеческого мозга и, таким образом, имитировать в
любых ситуациях поведение человека.

Этот аргумент можно сформулировать и
несколько иначе, в виде утверждения, что человек обладает способностью
решать алгоритмически неразрешимые проблемы. Эти формулировки, однако,
не являются эквивалентными. В самом деле, любая подлинно случайная
последовательность является “невычислимой” в том смысле, что никакой
алгоритм не позволит нам гарантированно предсказать каждый следующий
элемент в этой последовательности.

Поскольку смысл геделевского аргумента усматривают именно в утверждении
превосходства человека над машиной, то и тезис “невычислимости функции
сознания” следует понимать именно во втором смысле – как тезис о
разрешимости для человеческого интеллекта тех или иных алгоритмически
неразрешимых проблем.

Итак, мы выяснили суть геделевского аргумента. Впервые данный аргумент
был, видимо сформулирован Дж. Лукасом в 1961 году в статье (1).

В последнее время подобные идеи активно отстаивает
Р. Пенроуз (2, 3, 11). Пенроуз, в частности, использует геделевский аргумент для
обоснования тезиса о квантовой природе человеческого сознания. (Этот
вопрос мы более подробно рассмотрим ниже). Рассмотрим вкратце ту форму,
которую Пенроуз придает геделевскому аргументу.

Пенроуз утверждает, что предположение о существовании компьютерной
программы, воспроизводящей функции человеческого интеллекта, в
частности, воспроизводящей функции, составляющие математические
способности человека, ведет к противоречию.

Предположим, что математические способности некоторого математика
(например, самого Пенроуза) полностью описываются некоторой формальной
системой F. Это означает, что любое математическое утверждение, которое
Пенроуз признает “неоспоримо верным”, является теоремой, доказываемой в
F, и наоборот.

Предположим, также, что Пенроуз знает, что F описывает
его математические способности. Пенроуз, также, полагает, что тот факт,
что F описывает его математические способности, – эквивалентен вере в
непротиворечивость и непогрешимость F. (В противном случае мы должны
были бы поставить под сомнение истины, которые представляются нам
“неоспоримо истинными”).

Согласно теореме Геделя о неполное формальных систем, поскольку F
непротиворечива, существует геделевское предложение G(F), которое должно
быть истинным, но которое не является теоремой в системе F. Однако,
поскольку Пенроуз верит, что F – непротиворечивая система и знает, что F
представляет его способность к математическим рассуждениям, он должен
прийти к выводу, что G(F) является “неоспоримой истиной”.

Таким образом,
мы получаем математическое утверждение G(F), которое Пенроуз признает
истинным, но которое не является теоремой в F , что противоречит
первоначальному предположению, что F представляет целиком и полностью
математические способности Пенроуза.

Отсюда вывод, что никакая формальная система не может быть адекватным
выражением математических способностей человека и, следовательно,
невозможна полная компьютерная имитация человеческого сознания.

Работы Лукаса и Пенроуза вызвали достаточно большой резонанс в научной
среде. (См., например, дискуссию по книге Пенроуза “Тени ума” в журнале
PSYHE (4 – 11)). В целом, однако, преобладает критическое отношение к
геделевскому аргументу.

Литертура:

1. Lucas J.R. Mind, Machines, and Godel // Philosophy, 1961, 36, pp. 112-127.

2. Penrose R. The Emperor’s New Mind. L. 1989.

3. Penrose R. Shadows of the Mind. L., 1993.

4. Baars B.J. Can Physics Provide a Theory of consciosness? // PSYCHE, 1995, 2 (8).

5. McCarthy J. Awareness and Understending in Computer Programs // PSYCHE, 1995, 2 (11).

6. Chalmers D.J. Mind, Machines, and Mathematics // PSYCHE, 1995, 2(9).

7. Klein S.A. Is Quanum Mechanics Relevant to Anderstenting consciousness? // PSYCHE, 1995, 2 (2)

8. McDermott D. Penrose is Wrong // PSYCHE, 1995, 2 (2).

9. Feferman S. Penrose’s Godelian Argument // PSYCHE, 1995, 2 (7).

10. Moravec H. Roger Penrose’s Gravitonic Brains // PSYCHE, 1995, 2 (6).

11. Penrose R. Beyond the Doubting of Shadow // PSYCHE, 1996, 2 (23).

12. Антипенко Л.Г. Проблема неполноты теории и ее гносеологическое значение. М., 1986.

13. Chalmers D.J. Facing Up to the Problem of Consciousness // Journal of Consciousness Studies, 2 (3), 1995, pp.200 – 219.

14. Роджерс Х. Теория рекурсивных функций эффективная вычислимость. М., 1972.

Критика геделевского аргумента

По существу, все доводы против геделевсклго аргумента укладываются в две противоположные точки зрения:

а). Человек, также как и машина, подчинен действию ограничений, вытекающих из теоремы Геделя о неполноте формальных систем.

б). Теорема Геделя не накладывает никаких существенных ограничений не только на человека, но и на машину.

Рассмотрим вначале как может быть обоснована первая точка зрения. Аргументы здесь используются весьма разнообразные.

1. Утверждают: то, что невычислимо (неразрешимо) для машины, невычислимо
(неразрешимо) и для человека. Поскольку невычислимость означает
невозможность указать эффективную процедуру разрешения заданной массовой
проблемы, то, очевидно, это условие в равной мере действенно и для
машины, и для человека.

В данном случае предполагается, что решение некой массовой проблемы
непременно предполагает существование алгоритма ее разрешения, т.е.
предполагается, что найти решение проблемы – это то же самое, что
указать единую методику (алгоритм) решения любой задачи, входящей в
состав данной массовой проблемы.

Однако, вполне можно предположить, что человек способен решать какие-то
проблемы не зная в точности каким образом он их решает, т.е. не владея в
явной форме алгоритмом решения данной проблемы. Действительно, нередко
мы решаем те или иные задачи “интуитивно”, не осознавая сам процесс,
который приводит нас к решению.

Например, мы распознаем образы не имея
представления о том, каким образом наш мозг осуществляет данную
операцию. Нет, также, оснований думать, что исследуя работу мозга мы
непременно рано или поздно установим “алгоритм”, лежащий в основе
функции распознавания образов. Следовательно, разрешимость массовой
проблемы и наличие алгоритма ее разрешения – это не одно и то же.

Таким образом, данное возражение следует отклонить.

2. Некоторые авторы (1 с. 213) полагают, что человек не способен решать
алгоритмически неразрешимые проблемы, так как их разрешимость влечет
существование логически противоречивых, абсурдных объектов, наподобие
алгоритма применимого только ко всем несамоприменимым алгоритмам.

(Напомним, что невозможность подобного алгоритма используется для
доказательства теоремы о неразрешимости проблемы “остановки”). Ясно, что
абсурд должен быть запрещен в равной мере как для машины, так и для
человека. Следует ли, однако, отсюда, что всякий объект, способный
эффективно решать алгоритмически неразрешимые массовые проблемы
(например, проблему “остановки”), внутренне противоречив (есть нечто
подобное “круглому квадрату” или “горячему мороженому”) и,
следовательно, не может существовать?

Рассмотрим для большей конкретности пример проблемы “остановки”.
Очевидно, что абсурдность возникает здесь лишь в том случае, если
предполагаемое устройство, эффективно решающее данную проблему для любых
алгоритмов и любых входных данных, является алгоритмическим
устройством, т.е. действует на основе некоторого алгоритма.

В самом
деле, пусть Е – есть устройство успешно решающее проблему остановки,
т.е. это устройство способное по произвольному алгоритму и произвольному
“входу” установить (за конечное время) остановится данный алгоритм или
же будет работать вечно.

Тогда, очевидно, можно построить и устройство
способное эффективно распознавать несамоприменимость алгоритмов, а также
устройство, которое будет работать останавливаясь и выдавая некий
результат в том и только в том случае, если на “вход” вводится описание
несамоприменимого алгоритма.

Будет ли существование такого устройства
чем-то парадоксальным, самопротиворечивым? Парадокс возникает, как мы
помним, в том случае, когда мы задаемся вопросом: является ли алгоритм
применимый ко всем несамоприменимым алгоритмам самоприменимым, или же он
является несамоприменимым?

Ясно, что если этот алгоритм самоприменим,
то устройство должно остановиться (в силу определения самоприменимости)
и, одновременно, не должно остановиться, поскольку применимо лишь к
несамоприменимым алгоритмам. Аналогичный результат мы получаем и в
случае несамоприменимости данного алгоритма.

Однако такой вопрос можно осмысленно задать лишь в отношении устройства,
которое подчинено некоторому алгоритму, и который можно записать в виде
текста и ввести в качестве “входа” в это же самое устройство. Если же
устройство не подчинено какой-либо однозначно заданной совокупности
предписаний, т.е. не является алгоритмическим устройством, то данный
вопрос утрачивает всякий смысл.

Но в таком случае исчезает и описанный
выше парадокс. Таким образом, нет ничего парадоксального и
противоречивого в предположении о возможности существовании устройства,
применимого лишь к несамоприменимым алгоритмам, при условии, что само
это устройство не является алгоритмическим.

Человек, конечно, не может решить такие алгоритмически неразрешимые
проблемы, как проблема построения, сажем, “каталога всех и только всех
несамоназывающихся каталогов” или построения прочих парадоксальных
объектов. Однако, в других случаях, никакого противоречия в
предположении о возможности решении любых единичных задач, составляющих
алгоритмически неразрешимую массовую проблему, не существует (если эта
возможность не сопряжена непременно с необходимостью указания алгоритма
решения данной массовой проблемы).

Если мы допускаем возможность существования неформализуемых систем
(систем, которые не допускают четкого и однозначного описания принципов
своего функционирования посредством конечного набора правил), то мы
должны, также, допустить и возможность существования устройств,
способных решать алгоритмически неразрешимые проблемы, подобные проблеме
“остановки”.

3. Некоторые авторы утверждают, что для человека, также как и для
машины, вполне можно сформулировать неразрешимые предложения,
аналогичные геделевским предложениям (2).

Рассмотрим, к примеру, утверждение (обозначим его “утверждение 1*):

1* [Иванов не способен доказать данное утверждение 1*]

Спрашивается: может ли Иванов доказать данное утверждение? Если “да”, то
это утверждение истинно и, следовательно, Иванов не способен его
доказать. Если же нет”, то оно истинно, но недоказуемо (для Иванова).

Однако я, Иванов, вполне ясно вижу, что данное утверждение истинно – что
непосредственно доказывается мною в предшествующем рассуждении. Иными
словами, хотя формально данное предложение для меня является
“недоказумым”, тем не менее, фактически я способен “неформально”
доказать его истинность – указав, например, что это предложение является
геделевским предложением для системы “Иванов” и уже потому истинно.

Каким же образом я способен сделать этот формально “запрещенный” для
меня вывод? Очевидно, делая этот вывод, я как бы мысленно дистанцируюсь
от самого себя, т.е. как бы создаю некое “виртуальное” “Я” или
“виртуалього субъекта”, не тождественного субъекту, фигурирующему в
утверждении 1* под именем “Иванов”.

Отсюда можно сделать важный вывод, что способность распознавать
истинность геделевских предложений, если она действительно имеет место,
связана с рефлексивной способностью субъекта – его способностью к
самоосознанию. Действительно, осознание самого себя как единичной
индивидуальности, выделенной из состава всеобщего бытия, т.е. осознание
себя как “Я” – которому противопоставлено “не-Я”,- такое осознание
предполагает самодистанцирование субъекта, его способность “посмотреть”
на себя извне, как бы “со стороны” – с некой надиндивидуальной точки
зрения.

Рефлексивную способность можно понимать двояко:

1. Как способность субъекта описывать свой собственный внутренний мир – “субъективную реальность”.

2. Как способность осознавать собственное “Я” – как нечто отдельное, отделенное от остального мира, противоположное “не-Я”.

Первая способность предполагает вторую. Для того, чтобы описать свой
собственный внутренний мир, необходимо предварительно опознать этот мир
именно в качестве “моего внутреннего мира”, противоположного “внешнему
миру”.

С философской точки зрения способность к самоосознанию указывает на
принципиальную “разомкнутость” человеческого сознания, на
непосредственную укорененность “Я” в некой надиндивидуальной реальности.
Действительно, для того, чтобы понять, что я – это “Я”, т.е. субъект,
противоположный объекту, необходимо каким-то образом “увидеть” эти “Я” и
“не-Я” в их непосредственном соотношении.

Но для этого необходимо
“выйти из себя”, преодолеть замкнутость собственного сознания и
“переместиться” в такую “онтологическую точку” в которой отсутствует
различие “Я” и “не-Я” (субъекта и объекта) – и именно поэтому из этой
“точки” возможно одновременно “созерцать “Я” и “не-Я” в их
непосредственном отношении друг к другу.

Поскольку такое “видение” может
быть только умозрительным (сверхчувственным), то следует признать, что
наше индивидуальное сознание должно быть каким-то образом “изнутри” (в
своей мыслительной способности) соединено с Мировым целым – так что в
некой особой сфере сознания утрачивается сохраняющееся в других сферах
(например, в сфере чувственности) деление на субъект и объект.

“Незамкнутость” сознания, вместе с тем, можно истолковать как его
неформализуемость. Действительно, благодаря незамкнутости, человеческий
интеллект как бы “подключен” к бесконечному “резервуару аксиом”, причем
не просто внешним образом подключен к этому “резервуару”, а так, что не
существует отчетливой границы между “моим сознанием” и мировым
надиндивидуальным целым.

Машина всегда есть то, что она есть – она всегда есть нечто вполне
определенное. Человек же не есть только то, что он есть. Он всегда
больше того, чем он непосредственно является. Для человеческого
интеллекта, когда мы его рассматриваем как целое, нарушается закон
тождества А=А.

Итак, “негеделевость” сознания (если она действительно имеет место) –
его способность распознавать геделевские предложения – указывает, как
нам представляется, на фундаментальные онтологические свойства сознания –
его незамкнутость, укорененность в надиндивидуальном Мировом целом.

“Негеделевость” сознания можно в этом случае объяснить тем, что
человеческий интеллект – это система с неопределенным множеством аксиом.
Такая система неформализуема, для нее невозможно однозначно определить
множество “доказуемых истин” и, следовательно, для нее невозможно
сформулировать предложения, утверждающие собственную недоказуемость
относительно заданной системы аксиом.

Вывод: рассмотренный довод против геделевского аргумента, видимо,
несостоятелен. Человек фактически способен распознавать истинность
геделевских предложений в которых он сам фигурирует как субъект
высказывания. Эту способность можно “метафизически” объяснить
“незамкнутостью” человеческого сознания, его непосредственной
укорененности в надиндивидуальном мировом целом.

Подчеркнем, что в данном случае мы не предрешаем вопрос об истинности
геделевского аргумента. Речь идет лишь о том, как возможно объяснить
“негеделевость” человеческого интеллекта если она действительно имеет
место – объяснить именно как особую форму “превосходства” человека над
машиной. Мы также не настаиваем, что данное объяснение “негеделевости”
является единственно возможным.

4. Еще одно возражение против геделевского аргумента заключается в
следующем. Полагают, что человек, также как и машина, подпадает под
ограничения, вытекающие из теоремы Геделя, но мы не способны в явной
форме построить сами для себя геделевские предложения, поскольку не
способны установить алгоритм (аксиоматику), на основе которого
функционирует наш интеллект (3, 4, 5, 6). Назовем это утверждение
“гипотезой о скрытой алгоритмичности” человеческого интеллекта.

Здесь можно рассуждать следующим образом: предположим, что в основе
человеческого интеллекта лежит некий алгоритм (система правил) А. Если
мы способны в явной форме установить какие именно правила составляют А,
т.е. каким конкретно правилам подчинен наш собственный ум, то мы
способны также построить “неразрешимое” высказывание:

2* [Алгоритм А не способен установить истинность высказывания 2*].

Это предложение истинно, но недоказумо. Но человек, если он
действительно подчинен алгоритму А, не способен установить истинность
данного предложения. Однако, если человек способен установить, что он
действительно подчинен алгоритму А, то уже в силу этого он сразу же
устанавливает истинность – 2* расценивая его как геделевское
предложение.

Таким образом, предложение 2*одновременно и должно и не
может быть распознано человеком как истинное. Чтобы исключить
возможность возникновения такого парадокса, необходимо, видимо,
предположить принципиальную непознаваемость алгоритма, в соответствие с
котором функционирует наш собственный мозг.

(Сравним этот аргумент с
предшествующим. Разница между ними в том, что во втором случае делается
акцент на необходимости детального знания “системы аксиом” (алгоритма)
на которой основана психическая деятельность человека, для того, чтобы
было возможно сформулировать геделевские предложения, неразрешимые для
человеческого мышления.

Действительно, конкретный вид геделевских
предложений очевидно зависит от выбора дедуктики, т.е. конкретного
набора аксиом и правил вывода. Поэтому, не зная действительного
устройства формальной системы, невозможно и выписать в явном виде и
геделевское предложение для данной системы.

С этой точки зрения
предложение 1* [Иванов не способен доказать утверждение 1*] не является
подлинным геделевским предложение, поскольку оно никак не специфицирует
систему “Иванов” и, следовательно, утверждает непонятно о чем.
Следовательно, снимается и вопрос о том, каким образом Иванов способен
распознать истинность данного предложения).

“Непостижимость” правил, которым подчинено наше мышление и поведение в
целом можно обосновать и более простым способом. Предположим, что я
выяснил алгоритм А, который исчерпывающим образом описывает функцию моей
собственной психики (или функцию моего мозга).

Тогда, по крайней мере в
некоторых случаях, я буду способен предсказывать свои будущие действия,
поступки. Предположим, что исследование алгоритма А привело меня к
заключению, что я в ситуации Х должен с необходимостью осуществить
действие Р. Но тогда, что, спрашивается, может помешать мне именно в
силу осознания неизбежности действия Р “назло” или “нарочно” отказаться
от осуществления Р, и осуществить какое-то альтернативное действие.
Тогда получится, что я одновременно должен и не должен осуществить
действие Р.

Итак, можно утверждать, что если сознание подчинено некоторому
конкретному алгоритму, то предположение о познаваемости данного
алгоритма ведет к противоречию. Отсюда можно предположить, что данный
алгоритм, если он на самом деле существует, принципиально непознаваем.
Однако можно ли его в таком случае считать алгоритмом?

Алгоритм – это ясная, четкая, понятная для всех система инструкций,
совокупность правил. Следовательно, в само понятие алгоритма уже
изначально входит идея его принципиальной познаваемости. То, что
принципиально непознаваемо – не может рассматриваться в качестве
алгоритма.

Таким образом утверждение о принципиальной непознаваемости алгоритма А –
фактически равносильно признанию невозможности описать функцию сознания
с помощью какого-либо алгоритма.

Здесь мы, по сути, получаем дополнительный довод в пользу геделевского
аргумента – мы видим, что гипотеза об алгоритмической природе сознания
ведет к парадоксам, логически противоречива.

Следует подчеркнуть, с другой стороны, что гипотеза об алгоритмической
невычислимости функции сознания недоказуема эмпирически. Невозможно на
практике показать, что человек на самом деле способен решать
алгоритмически неразрешимые массовые проблемы.

Это невозможно просто
потому, что человек на протяжении своей жизни имеет дело лишь с конечным
множеством проблем – которое, конечно, может представлять собой
подмножество множества, составляющего алгоритмически неразрешимую
массовую проблему.

Человек может продемонстрировать свою способность
решать любые предъявляемые ему конкретные задачи, входящие в состав
данной алгоритмически неразрешимой массовой проблемы. Однако отсюда не
следует, что человек способен решать любые проблемы, имеющие отношение к
данному (бесконечному) классу проблем.

Однако хотя гипотеза алгоритмической невычислимости функции сознания и
недоказуема, но она, тем не менее, вполне опровержима. Функцию, которую
выполняет та или иная система, можно установить двумя различными
способами: либо наблюдая как данная система реагирует на те или иные
“входные” сигналы, либо выяснив как данная система “устроена” – т.е.
выяснив ее конструкцию и, таким образом, выяснив алгоритм, на основе
которого функционирует данная система.

В принципе, анализируя строение мозга и функцию отдельных его элементов,
можно выяснить алгоритм, которому подчинена наша психическая
деятельность. Однако, если мы принимаем геделевский аргумент, то мы
должны исключить такую возможность – поскольку она влечет противоречие.

Это очень сильный вывод. Отсюда, в частности, следует, что функцию мозга
невозможно полностью понять исходя из “классической” модели мозга как
нейрональной сети, в которой единственными информационно значимыми
событиями являются процессы обмена нервными импульсами между отдельными
нервными клетками.

Действительно, эти процессы – на уровне отдельных
нервных клеток и небольших их совокупностей – достаточно хорошо
известны. В них нет ничего загадочного для нас. Но в таком случае нет и
никаких принципиальных препятствий для того, чтобы выяснить и функцию
сколь угодно большой нейрональной сети и даже мозга как целого. Это лишь
вопрос времени. Таким образом, с этой точки зрения функция мозга
принципиально познаваема.

Геделевский аргумент по существу ставит под сомнение этот
оптимистический для нейронаук вывод. Соответственно, возникает вопрос:
как может быть устроен мозг, чтобы его функция могла рассматриваться как
принципиально непознаваемая? Как вообще возможно существование
физических систем, функцию которых в принципе невозможно выяснить
анализируя их устройство?

Известные нам физические “законы природы” по существу представляют собой
правила, с помощью которых мы можем, исходя из знания структурных
свойств и состава физических объектов, предсказать их функциональные
свойства. Таким образом, принципиально непознаваемыми могут быть лишь те
функциональные свойства физических объектов, которые невыводимы
однозначным образом из известных “законов природы” (которые, по сути,
представляют собой предельно общие правила (алгоритмы), которым
подчинено поведение самых различных физических систем).

Детальный анализ вопроса: как возможны физические системы, функция
которых принципиально непознаваема – мы отложим до третьей главы. Пока
лишь отметим, что рассмотренный в этом пункте довод против геделевского
аргумента также оказался несостоятельным.

Функция сознания не может быть
подчинена “принципиально непознаваемому алгоритму”, поскольку такой
“алгоритм” вообще не является алгоритмом, его свойства противоречат
самой природе алгоритмов, как потенциально эксплицируемых систем
инструкций.

5. Неполнота формальных систем, вытекающая из теоремы Геделя, с
необходимостью имеет место лишь при условии непротиворечивости
рассматриваемой формальной системы. Непротиворечивость означает, что
формальная система не допускает вывода противоположных утверждений: А и
не-А.

То есть система доказываемых теорем должна быть внутренне
самосогласованной. Помимо самосогласованности естественно также
потребовать то, что можно назвать “непогрешимостью” формальной системы:
она должна доказывать лишь содержательно истинные высказывания, и не
доказывать ни одного содержательно ложного высказывания.

(Это условие
представляется естественным в том случае, если рассматриваемая система
претендует на роль формального аналога человеческого интеллекта или хотя
бы формального аналога математических способностей человека.
Действительно, если формальная система F действительно функционально
тождественна человеческому интеллекту, то множество теорем, доказываемых
в этой системе, будет полностью покрывать множество “содержательных”
истин, так что отсутствует всякая возможность различить “формальные” и
“содержательные” истины.

Учитывая сказанное можно предположить, что человек способен “уйти” из
под действия ограничений, вытекающих из теоремы Геделя, именно в силу
того, что он является противоречивой формальной системой. Ясно, что это
предположение снимает противоречивость гипотезы “алгоритмической
вычислимости” функции сознания (и, в частности, снимает противоречивость
гипотезы о возможности представить математические способности человека
посредством некой формальной системы).

Заметим, что гипотеза о
“противоречивости” человеческого интеллекта является, пожалуй, самым
популярным доводом против геделевского аргумента (см., например, (2, 4,
5, 7)). Д. Маккалох, например, утверждает, что геделевский аргумент
доказывает не “…алгоритмическую невычислимость функции сознания, а
доказывает лишь, что если эта функция вычислима, тогда человеческий
интеллект либо противоречив, либо человек принципиально не способен
познать алгоритм собственного сознания, а также доказать собственную
непротиворечивость”(2).

Отметим, что данный довод против геделевского аргумента существенным
образом отличен от всех рассмотренных нами доводов. Действительно, все
рассмотренные выше контраргументы были направлены на то, чтобы показать,
что человек в такой же мере подвержен действию ограничений, вытекающих
из теоремы Геделя, как и машина.

Данном же случае признается, что
теорема Геделя не имеет силы в отношении человеческого интеллекта – хотя
причина этого указывается достаточно тривиальная – внутренняя
противоречивость (несамосогласованность) алгоритма, лежащего в основе
человеческого мышления.

С этой точки зрения нет принципиальной разницы
между человеком и машиной. Машина также может избежать “неполноты”,
вытекающей из теоремы Геделя. Для того, чтобы машина “сравнялась” с
человеком достаточно (помимо достижения определенной вычислительной
мощности и объема памяти и создания адекватного программного
обеспечения) лишь сделать машину способной противоречить самой себе –
т.е. высказывать несовместимые друг с другом утверждения, принимать в
качестве истинных противоречащие друг другу формулы и т.п.

Подчеркнем, что противоречивость не устраняет возможности описания
“мыслящей противоречиво” системы, как системы, подчиненной определенному
алгоритму (набору четко и однозначно сформулированных правил). Просто
правила, составляющие алгоритм, оказываются логически несовместимыми и в
результате система оказывается способной оценивать одни и те же
предложения как истинные и как ложные в разные моменты времени.

Формально данная гипотеза действительно позволяет снять противоречивость
предположения о возможности представить человеческий ум в виде некоего
алгоритма. Однако эта гипотеза влечет весьма радикальные следствия
касающиеся, в частности, природы математического мышления и понимания
сущности математики.

Что означает для формальной дедуктивной системы противоречивость? То,
что из аксиом данной системы при помощи разрешенных правил вывода можно
получить некоторое утверждение, а также можно вывести и его отрицание.
То есть такая система утрачивает способность однозначно различать истину
и ложь.

Согласно правилам логики, что если формальная система противоречива, то в
ней может быть доказано любое предложение. Действительно, если система
противоречива, то в ней неизбежно в состав теорем включаются ложные
формулы. В частности, в ней выводима заведомо ложная формула (А и не-А),
которую далее можно использовать в качестве посылки.

Если в основе математических способностей человека лежит противоречивая
формальная дедуктивная система, то это означает, что любая
математическая теорема рано или поздно будет опровергнута. Но в таком
случае следует признать, что доказательность в математике, т.е. наличие в
ней всеобщих и необходимых истин – не более чем психологическая
иллюзия. Математика, таким образом, лишается статуса доказательной науки
и ставится в один ряд с науками “эмпирическими”.

Но в таком случае возникает вопрос: каким же образом у нас возникает
иллюзия доказательности математики? Почему мы сплошь и рядом не
сталкиваемся с противоречиями в математических теориях или, по крайней
мере, с существенными разногласиями в среде математиков по поводу любой
математической теоремы?

Почему доказательства, как правило, без особых
возражений и длительных дискуссий принимаются математическим
сообществом, а также, почему существуют математические результаты,
полученные более двух тысяч лет назад и сохранившие свой статус истинных
по сей день? (Например, “Начала” Эвклида).

Известен, например, такой факт: ни одна математическая теорема не была
опровергнута позже 50 лет после того, как она была доказана (8).

Как можно объяснить все эти факты, указывающие на весьма надежный,
достоверный характер математических результатов, с позиций гипотезы,
утверждающей внутреннюю противоречивость человеческого интеллекта –
включая сюда и способности, ответственные за математическое мышление?

Самое простейшее объяснение этих фактов заключается в предположении, что
“контрдоказательства” (т.е. опровержения) известных “надежных”
математических теорем просто намного превосходят по своей сложности
(длиннее) “доказательства” и именно поэтому “контрдоказательства” пока
нам не известны. Это объяснение представляется весьма фантастическим,
однако сбрасывать его совсем со счета также не следует.

Другое, гораздо более реалистическое объяснение заключается в
предположении, что подлинный источник истинности в математике – это
отнюдь не самоочевидный (и потому априорный) характер аксиом, лежащих в
основе той или иной дедуктивной математической теории, а практика
(точнее, применение математических теорий на практике).

Сторонники этой
точки зрения полагают, что математическое сообщество сознательно или
бессознательно систематически “отбраковывает” как негодные те схемы
рассуждений и математические результаты, которые приводят нас к выводам,
противоречащим практике.

(Например, теорема арифметики, утверждающая
2 2=4, с этой точки зрения, истинна не в силу какой-то особой
способности нашего разума непосредственно (интуитивно) усматривать
равенство 2 2 и 4, а является истинной в силу того, что любое
рассуждение, которое приводило бы нас к иному результату, противоречило
бы практике и поэтому неизбежно было бы отвергнуто как ошибочное).

Все это означает, что методология математики ничем принципиально не
отличается от методологии любой другой естественной науки (например,
физики). Ее “доказательства” – это просто психологически убедительные
способы аргументации, не гарантирующие получение абсолютной истины, а
отнюдь не способы получения каких-то “всеобщих и необходимых” (а также
“общезначимых”) истин.

Для того, чтобы убедиться в истинности математических утверждений, с
этой точки зрения необходимо сопоставить “доказанный” результат с
опытом. Математика, таким образом, вопреки классическим представлениям о
ее природе, не имеет “внутреннего” (независимого от практики) критерия
истинности.

Из всего этого следует, что если мы отрываем математику от практической
почвы – то следует ожидать появления противоречий. В подтверждение этой
точки зрения нередко ссылаются на парадоксы, которые в конце 19 – начале
20 столетия были обнаружены в теории бесконечных множеств Г.

Уже сам Кантор обнаружил внутреннюю противоречивость понятия “множества
всех множеств” (которое совершенно естественно возникало в
первоначальной “наивной” версии теории множеств как следствие
неограниченного применения принципа “свертки” – условием “свертывания”
каких-либо предметов в множество у Кантора являлась простая мыслимость
элементов данного множества в качестве единого целого).

Позже были
открыты и другие парадоксы “наивной” теории множеств (Парадокс Рассела,
парадокс Бурали-Форти и др.). Так, например, Б. Рассел показал, что
вполне приемлемые с точки зрения теории множеств рассуждения приводят к
построению таких парадоксальных объектов, как “множество всех множеств,
не содержащих себя в качестве элемента” – это множество одновременно и
должно и не должно содержать себя в качестве элемента.

Доказывает ли наличие парадоксов в теории множеств неустранимую
противоречивость математического мышления? На этот вопрос, как нам
представляется, следует ответить отрицательно.

Во-первых, следует признать, что обнаружение упомянутых противоречий,
хотя и вызвало первоначально панику в математическом сообществе, все же
не привело к краху классической математики в целом. Ни один из
классических разделов математики (арифметика, геометрия, матанализ и др.
) не пострадал.

В целом преобладает мнение, что указанные парадоксы
являются следствием достаточно тонких, ранее не замечаемых, дефектов
мышления, которые вполне устранимы. Например, по мнению Рассела и
Пуанкаре парадоксы возникают из-за нарушения принципа “порочного круга”,
т.е. нарушения правила:

“Все, что включает все члены совокупности, не
должно быть одним из членов совокупности”. Определения, в которых это
правило нарушается, называется “непредикативным”. Исключая
непредикативные определения, мы тем самым исключаем возможность
включения в теорию таких парадоксальных объектов, как “множество всех
множеств, не содержащих себя в качестве элемента” или “множество всех
множеств”.

По существу сходный способ устранения парадоксов используется и в
аксиоматической теории множеств Цермело-Френкеля. Здесь исключение
понятий типа “множество всех множеств” достигается путем индуктивного
способа построения новых множеств – всякое множество строится на основе
уже ранее построенных (или постулированных) множеств с использованием
конечного набора разрешенных операций.

Вместе с тем, нужно отметить, что ни аксиоматическое построение теории
множеств, ни теория “типов” не позволяю сами по себе гарантировать
непротиворечивость математических построений. Исключая известные
парадоксы, мы не можем быть уверены, что подобные парадоксы не возникнут
в будущем. К.

Гедель доказал теорему, согласно которой истинность в
рамках той или иной формальной системы не может быть доказана с
использованием только тех средств, которые формализованы в рамках данной
системы. Отсюда следует, что истинность математики в целом не может
быть доказана средствами самой математики. Не означает ли это, что
математика не имеет “внутреннего” критерия истинности и неизбежно должна
апеллировать к опыту?

Как нам представляется, это совсем не обязательно. Неспособность
математики к самообоснованию не является чем-то удивительным. Математика
мыслимая как целое – это ни что иное, как сфера “чистого мышления”,
т.е. мышления, “не замутненного” какими-либо внерациональными (волевыми,
эмоциональными, чувственными) элементами.

Ясно, что сам характер
процедуры обоснования (отсылка к основанию) не допускает
самообоснования. В готовых формах мышления истина лишь транслируется, но
не рождается. Однако, это не означает, что истина рождается непременно
лишь в чувственном опыте.

Можно допустить также и существование некой
“непроницаемой” для разума (металогической) внечувственной сферы,
которая является внутренним (в смысле, “внеэмпирическим”,
внечувственным) основанием самого разума. Это и есть то, что обычно
называют “интеллектуальной интуицией” – способность непосредственно
“усматривать” истинность без каких-либо обоснований или доказательств.

Рассмотрим вкратце причины возникновения парадоксов в математике и
человеческом мышлении в целом. Парадоксальные объекты – это, по
существу, невозможные объекты, т.е такие объекты, которым приписываются
несовместимые друг с другом предикаты (например: круглый квадрат,
горячее мороженое и т.п.). Возникает вопрос: как вообще можно мыслить
то, что не может существовать?

Наше мышление – предметно. Каждое осмысленное понятие указывает на некий
возможный или действительный объект, группу объектов, на свойства или
отношения между объектами (причем в качестве “объектов” могут выступать
не только чувственно воспринимаемые предметы, но и нечто
сверхчувственное, например, смысл, желание, оценка, “Я”, душа и т.п.).
Каким же образом возможна мысль предмет которой – нечто невозможное?

Эта проблема обычно решается в философии путем различения предметного,
содержательного мышления и мышления символического. В первом случае акт
мышления – есть акт схватывания “идеи” объекта – предмета мысли во всей
полноте его свойств и отношений.

Иными словами, содержательная мысль – это мысль, включающая в себя
адекватное самому предмету “интеллектуальное созерцание” данного
предмета, т.е. мысль полно, исчерпывающе воспроизводящая структурные,
реляционные и прочие свойства предмета мышления. Именно таковым, по
существу, и является (вернее, должно всегда являться) математическое
мышление.

Символическое мышление, в отличие от содержательного, не воспроизводит
“идеально” предмет мышления, но задает лишь отдельные признаки, с
помощью которых можно практически распознавать замысленный объект.
Последнее, однако, не гарантирует, что объект, обладающий указанными
признаками, действительно существует (вернее, может существовать –
поскольку мышление имеет дело с возможным и невозможным, а не с
возможным и действительным). Указываемый признаками класс может
оказаться пустым в силу несовместимости указанных признаков.

Таким образом, символическое мышление – это мышление, которое как бы
“остановилось на середине дороги”, это не законченное мышление. По сути,
это лишь как бы “замысел” содержательной мысли, некая программа синтеза
“идеи”, адекватной предмету мысли, причем эта программа может быть
выполнимой или невыполнимой.

В математике различие между содержательным и символическим мышлением
можно представить как различие между конструктивным и неконструктивным
мышлением. Обычно полагают, что математическое мышление конструктивно,
если мыслимый объект задается через посредство указания процедуры
(алгоритма) его построения.

Неконструктивное задание математического
объекта осуществляется через посредство задания условий (признаков),
которым данный объект должен удовлетворять. Ясно, что если ограничиться
только конструктивными определениями, никакие парадоксы возникнуть не
могут.

Алгоритм, однако, это некая финитная процедура. Идея алгоритма
предполагает возможность передачи процесса порождения объекта машине.
Машина, очевидно, не может осуществить бесконечное множество шагов для
того, чтобы выдать некий окончательный результат.

Таким образом,
конструктивизм в математике равносилен запрету на использование
актуальной бесконечности. (По мнению сторонников конструктивистского и
интуитивистского направлений в математики парадоксы связаны именно с
использованием в математике идеи актуальной бесконечности или, по
крайней мере, связаны с некритическим применением к бесконечным
множествам классической логики, применимой в полном объеме лишь к
конечным множествам).

Запрет на использование актуальной бесконечности можно истолковать в
пользу “эмпирического” статуса истинности в математике. Действительно,
отказ от актуальной бесконечности делает математические конструкции
вполне обозримыми и, значит, потенциально эмпирически проверяемыми.

В
этой потенциальной проверяемости и можно усмотреть причину надежности
конструктивных доказательств. Поэтому если мы хотим сохранить идею чисто
“внутреннего”, внеэмпирического источника истинности в математике, то
мы должны настаивать на надежности также и доказательств, использующих
понятие актуальной бесконечности.

На неустранимость из математического мышления актуальной бесконечности
непосредственно указывает сама теорема Геделя о неполноте формальных
систем. Действительно, смысл теоремы как раз и заключается в том, что
Гедель (используя лишь финитные средства) доказал, что содержательная
математическая истина не может быть выражена с помощью каких-либо
финитных методов рассуждения. Т.е. математика не может быть целиком
сведена к каким-либо конечным формальным построениям.

Как отмечает Л.Г.
Антипенко: “…теоремы Геделя о неполноте превращают высказывания о
существовании актуальной бесконечности в математическую истину того же
рода, как 2 2=4” (10 с.130). Следовательно, “бесконечное” не является
псевдопонятием, есть необходимая часть математики.

Как же в таком случае следует относиться к существующим и возможным
парадоксам теории (актуально) бесконечных множеств? Как нам
представляется, эти парадоксы не обязательно указывают на какие-то
неустранимые пороки нашего мышления. Внутренняя противоречивость,
например, “множества всех множеств” проистекает, как представляется, из
его особого статуса, отличного от статуса обычного бесконечного
множества.

Поскольку это множество изначально содержит в себе все, что
только можно помыслить, оно непополнимо, следовательно, его невозможно
увеличить прибавив к нему множество всех его подмножеств (как это
происходит в случае обычных бесконечных множеств).

Но и обычное
бесконечное множество нельзя пополнить прибавив к нему любое конечное
или бесконечное множество имеющее ту же самую мощность, что и исходное
множество. Это свойство также выглядит парадоксальным с точки зрения
свойств конечных множеств. Т.е. свойства “множества всех множеств”
радикальным образом отличны от свойств “обычных” бесконечных множеств и
это отличие примерно такого же рода, как отличие между бесконечными и
конечными множествами.

Вопросы, которые порождают парадоксы,
применительно к таким особым множествам просто неуместны. Нельзя
приписывать “множеству всех множеств” какие-либо конкретные кардинальные
или ординальные числа, поскольку оно изначально содержит в себе все
возможные кардиналы и ординалы.

Мера этого множества бесконечна и потому
неопределима. Точно так же нельзя спрашивать о том, к какому классу
(обычных или необычных множеств) относится “множество всех множеств, не
включающих себя в качестве элемента”- поскольку это множество уже за
рамками такого рода противопоставлений. Но именно это, как нам
представляется, и утверждает “терия типов” Б. Рассела.

Суть этой теории видится в том, что переход к более высокому типу
абстракций качественно изменяет характер рассматриваемых математических
конструкций и, таким образом, на них уже невозможно распространить
свойства или отношения, характерные для математических конструкций
низшего уровня абстракции.

Опираясь на эту теорию, следовательно, можно
устранять парадоксы, не отказываясь от понятия актуальной бесконечности
и, таким образом, не подвергая сомнению существование внутренних
критериев истинности в математике. (Вместе с тем, как отмечал К.

Гедель,
“теория типов” является “слишком радикальным” средством устранения
парадоксов, поскольку использование рефлексивных понятий в математике
далеко не всегда влечет возникновение парадоксов. Для нас, однако, важно
лишь то, что парадоксы можно устранить без разрушения большей части
классической математики и не отказываясь от представления об актуальной
бесконечности).

Таким образом, накладывая определенные ограничения на возможные способы
математических рассуждений можно, видимо, избежать угрозы возникновения
противоречий в математике. Это говорит о том, что противоречия в
математике не носят фатальный характер, не являются следствием
неустранимой противоречивости человеческого мышления.

Человек может
противоречить сам себе когда он мыслит “неправильно” (недостаточно
конструктивно, не продумывая определения до конца, не выводя всех
необходимых следствий из заданных постулатов, не учитывая различия в
уровне абстракции математических объектов и т.п.). И эта
“неправильность” мышления представляется вполне устранимой.

Иногда сторонники идеи противоречивости человеческого мышления ссылаются
на достаточно очевидный факт способности человека ошибаться. В силу
этого полагают, что даже в сфере математического мышления нельзя
рассчитывать на полную строгость и отсутствие противоречий.

Проблема здесь в том, насколько фатальны эти ошибки, способно ли
математическое сообщество своевременно их замечать и исправлять. На этот
последний вопрос, видимо, следует ответить положительно. История
математики показывает, что хотя отдельные, даже великие, математики
время от времени ошибаются, математическое сообщество в целом достаточно
быстро находит и исправляет ошибки (как правило, это происходит еще при
жизни автора ошибочной теоремы) (8).

Это говорит о том, что ошибки математиков – это не следствие
неустранимой внутренней противоречивости человеческого мышления, а
скорее есть следствие влияния на мышление каких-то внешних факторов,
искажающих правильный ход мыслительных процессов (в этом смысле ошибки
человека аналогичны ошибкам, которые время от времени допускает
компьютер, даже в том случае, если он работает на основе “идеальной”,
безошибочно составленной и непротиворечивой программе).

Итак, хотя, видимо, предположение о внутренне противоречивом характере
человеческого мышления невозможно строго опровергнуть, но вряд ли это
предположение можно считать правдоподобным, а аргументы в его пользу –
убедительными.

Предположим, однако, что мышление человека действительно страдает
неустранимой противоречивостью. Что это предположение может конкретно
дать нам в плане анализа геделевского аргумента?

Если человеческое мышление подчинено внутренне противоречивой системе
правил, то, очевидно, к человеку неприложимы ограничения, следующие из
теоремы Геделя о неполноте формальных систем – просто потому, что
теорема имеет в виду только непротиворечивые формальные системы.

Однако,
противоречивость, очевидно, не дает человеку каких-либо преимуществ
перед машиной, функционирование которой подчинено непротиворечивой
системе правил. Человек, конечно, в этом случае может констатировать
истинность любых геделевских предложений, но это возможно лишь в силу
отсутствия внутреннего критерия, позволяющего однозначно различать
истину и ложь.

Гораздо большее значение имеет тот факт, что сомнение в непротиворечивом
характере человеческого мышления ставит под сомнение достоверность
любых математических результатов, в том числе и теоремы Геделя о
неполноте формальных систем. Но если мы ставим под сомнение истинность
теоремы Геделя, то это ставит, также, и под сомнение сами основания
различения человеческого и машинного интеллекта, которые предполагаются
исходя из данной теоремы.

6. Д. Чалмерс (3) полагает, что геделевский аргумент можно
нейтрализовать более слабым предположением, чем гипотеза о
противоречивом характере алгоритма, представляющего интеллектуальные
способности человека. Достаточно лишь предположить, что человек не
способен установить непротиворечивость собственного мышления, в
частности, не способен установить, что все утверждения, в истинность
которых он верит, на самом деле являются истинными.

Действительно, вернемся к рассмотренному ранее аргументу в п.4. Мы
видели, что парадоксальность предположения, что некоторый алгоритм F
воплощает собой человеческий интеллект (или хотя бы только
“математические способности” человека) проистекает из того, что человек,
в этом случае, одновременно и должен и не должен признавать геделевское
предложение G(F) в качестве истинного.

Однако, для того, чтобы с
необходимостью утверждать истинность G(F), необходимо не только знать,
что “я есть F”, но также и знать, что “я непротиворечив”, а также знать,
что все, что я с необходимостью считаю истинным – является истинным на
самом деле.

Если я признаю, что я способен ошибаться (даже в отношении того, что
представляется мне несомненно истинным), то я не могу с необходимостью
утверждать и истинность G(F), и, таким образом, вышеупомянутый парадокс
снимается.

Как следует относиться к данному аргументу? С одной стороны, сомнения в
непогрешимости человеческого ума представляются вполне законными и
естественными. Однако, с другой стороны, предположение о погрешимости
нашего мышления предполагает существование некоего способа убедиться в
этом.

Однако, установить погрешимость человеческого разума можно лишь
опять-таки с помощью человеческого разума. Может ли человеческое
мышление само себя уличить в наличии неких систематических,
принципиально неисправимых ошибок? Если да, то оно также должно быть
способно эти ошибки исправить и, следовательно, способно мыслить
безошибочно.

Если нет, то нет и критерия с помощью которого было бы
возможно уличить наш ум в некой неправильности, наличии принципиальных
ошибок. Истина и ложь предполагают друг друга. Если нет истины, а есть
только ложь, то ложь – это и есть истина . Если мышление содержит
неустранимые ошибки, которые принципиально невозможно обнаружить, то его
с необходимостью следует считать безошибочным.

Таким образом, естественно постулировать, что человеческое мышление, как
таковое, по своей собственной природе непогрешимо. Погрешности же
возникают за счет случайных, привнесенных факторов и могут быть всегда
устранены. С этой точки зрения Р. Пенроуз прав утверждая сущностную
непогрешимость человеческого мышления в качестве априорной истины (11).

Чалмерс, однако, утверждает, что само понятие о мыслящей системе,
способной достоверно знать о собственной непогрешимости, внутренне
противоречиво, причем этот вывод, по его мнению, не зависит от
внутренней природы рассматриваемой системы. Он даже пытается это
формально доказать, используя метод, подобный методу доказательства
теоремы Геделя о неполноте формальных систем.

Пусть имеется некая мыслящая система А, которая является непогрешимой и
имеет достоверное (т.е. необходимо истинное) знание о собственной
непогрешимости. Рассмотрим теперь утверждение G, высказываемое данной
системой, содержательно означающее “я не верю в G”.

Система А знает, что
если она верит в G, то она не является непогрешимой, поскольку в этом
случае она верит в ложное высказывание. Так что если она верит в
собственную непогрешимость, то она не должна верить в G. Но это говорит о
том, что если система А непогрешима, то G – истинное высказывание.

Нам представляется, однако, что человек (рассматриваемый в качестве
системы А) на практике избегает в этой ситуации противоречия, сохраняя
веру в собственную принципиальную непогрешимость и, одновременно, зная
об истинности высказывания G, за счет того, что он способен
дистанцироваться от самого себя и взглянуть на ситуацию “извне”, с точки
зрения “внешнего наблюдателя”.

Иными словами, я – которое верит в G, и
я, которое верит в собственную непогрешимость – это одновременно одно и
то же и не одно и то же я. Наше “Я” способно “раздваиваться”, “выходить
из себя” в акте рефлексии, оставаясь, при этом, одновременно и “в самом
себе”.

Таким образом человеческий ум способен совмещать в себе
несовместимые логически истины не становясь при этом противоречивым.
Если бы это было не так, то мы должны были бы признать уже
неразрешимость для человека высказываний типа “я не могу доказать данное
утверждение”.

На наш взгляд, значимость геделевского аргумента зависит лишь от
реальной непротиворечивости (или противоречивости) человеческого
интеллекта. Если он реально непротиворечив, то вера в собственную
непогрешимость (в принципе) ничем не может быть поколеблена, так как
поколебать ее могут только внутренние противоречия.

Погрешимость человеческого ума может означать лишь, что содержательная
истинность не совпадает с истинностью, определяемой посредством
человеческого ума. Но содержательная истинность – это и есть истинность,
установленная с помощью человеческого ума.

Если же человеческий ум
противоречив, т.е. способен вывести истинность А и не-А одновременно, то
вступают в силу аргументы из предыдущего пункта. Эти аргументы,
конечно, не являются строго доказательными, но они показывают, что
гипотеза о противоречивом характере человеческого ума представляется
малоправдоподобной.

7. Другой способ “тривиализации” геделевского аргумента заключается в
указании на то, что человеческий интеллект – это открытая (и,
следовательно, неформализуемая) система и, таким образом, теорема
Геделя, имеющая отношение лишь к формальным системам, к человеческому
интеллекту неприложима.

Открытость человеческого интеллекта можно понимать как способность
человека время от времени модифицировать алгоритм, лежащий в основе его
интеллектуальной деятельности – под влиянием той информации, которую
человек получает из окружающей среды в процессе жизнедеятельности.

Выше мы отмечали, что необходимым признаком формальной системы является
“смысловая замкнутость” – запрет на всякого рода “трансцендирование” за
пределы заданного формализма, всякого рода заимствования извне. Человек,
в силу того, что он способен обучаться и, следовательно, способен
изменять правила, которым подчинено его мышление – не обладает
“смысловой замкнутостью” и, таким образом, не является формальной
системой.

Именно в “открытом” характере человеческого мышления можно усмотреть
существенное различие между человеком и машиной. Человек имеет в данном
случае преимущество перед машиной в том, что он способен развиваться,
гибко менять свои “алгоритмы” в соответствие с изменениями,
происходящими в окружающем мире. Однако это различие было бы сведено к
нулю, если бы удалось создать машину, способную к обучению.

Следовательно, различие между человеком и машиной не является в этом
случае принципиальным и неустранимым и является лишь следствием
несовершенства существующих машин.

С нашей точки зрения “открытость” человеческого интеллекта (в описанном
смысле) отнюдь не влечет невозможности представить его в виде формальной
системы и, следовательно, не выводит человека за пределы сферы действия
теоремы Геделя.

Прежде всего, отметим, что модификация предполагаемого “алгоритма
интеллекта” посредством обучения – это достаточно постепенный, медленный
процесс. Следовательно, если мы рассматриваем человеческий интеллект на
достаточно малом временном интервале (порядка нескольких минут или
часов), то его приближенно можно рассматривать как нечто тождественное
себе, неизменное.

Если, при этом, интеллектуальная деятельность человека
подчинена какому-либо набору жестких правил (алгоритму), то мы вполне
можем на этом малом промежутке времени рассматривать человеческий
интеллект как формальную систему, к которой приложимы ограничения,
вытекающие из теоремы Геделя о неполноте формальных систем.

Для того, чтобы распознать истинность геделевских предложений не нужно
много времени. По крайней мере, гораздо меньше, чем требуется для
сколь-нибудь значительной модификации нашего интеллекта. Таким образом,
если человек и преодолевает ограничения, вытекающие из теоремы Геделя и
способен всегда распознавать истинность геделевских предложений, то эта
его способность, очевидно, никак не связана с его способностью к
обучению.

Далее, система способная модифицировать алгоритмы собственной
деятельности, вполне может быть представлена как формальная система, по
крайней мере, при выполнении следующих условий:

1. Модификация “алгоритма мышления” осуществляется в соответствие с
неким стабильным, неизменным “алгоритмом модификации”, т.е. если
модификация представляет собой некий “правилосообразный” процесс.

2. Можно (в принципе) заранее предвидеть все возможные варианты воздействий внешней среды на данную систему.

Если человеческий мозг – это своего рода “машина”, действующая в
соответствие с какой-либо системой правил (т.е. это принципиально
“познаваемая” машина), то, очевидно, первое условие выполняется. Хотя
“алгоритм”, в соответствие с которым функционирует наш мозг, подвержен
изменениям, тем не менее характер этих изменений определяется
“конструкцией” мозга (и, таким образом – принципиально предсказуем).

Выполнимость для человека второго условия вытекает из того факта, что
человек имеет контакт с внешнем миром лишь опосредованно – через
посредство органов чувств. В силу дискретного характера нервного
импульса, ограниченности числа афферентных нервных волокон, конечного
числа чувственных рецепторов, ограниченности времени жизни человека –
число всевозможных конфигураций сенсорных “входов” нашего мозга конечно.

В сочетании первое и второе условие делают возможным предусмотреть все
возможные варианты модификации “алгоритма” психической деятельности. Но в
таком случае система мозг окружающая среда (данная через посредство
органов чувств) вполне может рассматриваться как формальная система –
поскольку все ее действия можно рассматривать как подчиненные
определенным правилам и в целом система обладает свойством логической
замкнутости.

Единственный неконтролируемый фактор, в этом случае, – это
последовательность в которой мозг получает те или иные конфигурации
сенсорных сигналов на “входе”. Однако с такого рода неопределенностью
сталкивается любой алгоритм – поскольку заранее не известно в какой
последовательности ему предстоит обрабатывать предъявляемые на входе
конфигурации символов, входящих в область определения данного алгоритма.

Таким образом “открытость” не является принципиальным препятствием к
тому, чтобы рассматривать психику человека (в совокупности с “внешней
средой”) как фиксированную формальную систему.

Но в таком случае для этой системы можно построить геделевские
предложения, которые будут содержательно истинными но, тем не менее, в
рамках любой из возможных модификаций данной формальной системы, не
могут быть распознаны как истинные или ложные.

Следовательно, “открытость” человеческой психики не дает человеку
каких-либо принципиальных преимуществ перед машиной, не позволяет
рассматривать психику как нечто принципиально неформализуемое, не
выводит человеческий ум за пределы сферы действия теоремы Геделя о
неполноте формальных систем.

8. Можно усомниться не только в том, что человек является принципиально
формализуемой системой, но и в том, что “механизм” психической
деятельности можно рассматривать в качестве дедуктивной системы. С этой
точки зрения, разница между человеком и машиной оказывается также
непринципиальной. Например, Ф. Джордж пишет:

“Необходимо упомянуть
мнение некоторых авторов, согласно которым этот факт (т.е.
принципиальная неполнота формальных систем – И.Е.) ограничивает
возможности ЭВМ и машин, не делая этого для человеческого мозга. Но это
не так, если не сводить вычислительные машины к аксиоматическим
системам, а очевидно, что делать это нет причин.

Вычислительные машины
могут быть запрограммированы таким образом, чтобы делать “прыжки” в
логических процессах при проведении индуктивного вывода и использовать
вероятностные методы. Итак, мы утверждаем, что результаты Геделя, также
как результаты Черча и Тьюринга, не имеют никакого отношения к любым
ограничениям, относящимся к машинам и не относящимся к человеческому
мозгу; эти ограничения относятся также и к “аксиоматическому мозгу” кто
бы его не создавал и какие бы при этом не использовал средства” (12
с.90).

Отметим, однако, что понятие “дедуктивной системы” (исчисления) не
предполагает ничего иного, кроме наличия каких-либо неизменных, четко
определенных правил переработки одной совокупности символов (объектов) в
другую. Сами эти правила могут быть произвольными.

С этой точки зрения любой алгоритм – есть разновидность аксиоматической
системы. “Логические прыжки”, о которых говорит Джордж, – следует,
видимо, понимать как включение в дедуктивную систему правил,
противоречащих законам логики. Но такая система неизбежно внутренне
противоречива (по крайней мере, если нарушается закон тождества или
закон противоречия) и т.о. вступают в действия возражения,
сформулированные нами в пункте 6.

Несколько сложнее обстоит дело в том случае, когда неприменимость
теоремы Геделя связывается с наличием элемента случайности. Всякая
подлинно случайная последовательность, очевидно, алгоритмически
невычислима. По существу, невозможность алгоритмической имитации
процесса порождения данной последовательности – и есть подлинный
критерий ее случайности.

Система, которая содержит в себе элемент
подлинной случайности, также может рассматриваться как неформализуемая –
поскольку невозможно ее полное и исчерпывающее описание с помощью
какого-либо конечного набора правил. Следовательно, действительно к
такой системе теорема Геделя неприменима.

Таким образом, можно предположить, что, как человек, так и “мыслящий”
компьютер, одинаково способны избежать ограничений, которые вытекают из
теоремы Геделя о неполноте формальных систем, при условии, что они
содержат в себе некий “генератор случайности” – функциональный элемент,
деятельность которого не может быть описана с помощью конечного набора
правил, не может быть воспроизведена посредством какого-либо алгоритма –
именно в силу случайного характера его функционирования.

С этой точки зрения между человеком и машиной нет какой-либо
принципиальной разницы. Вместе с тем, нужно отметить, что включение в
вычислительный процесс элемента случайности – (например, в форме
случайного выбора следующего вычислительного шага из набора
“разрешенных” программой шагов) – хотя и может в некоторых случаях
ускорить процесс вычислений (установлено, что вероятностные машины
Тьюринга имеют некоторые преимущества в “скорости” перед
детерминированными машинами Тьюринга, т.е. способны решать поисковые
задачи за меньшее в среднем число шагов), но, тем не менее, это не
позволяет хотя бы минимальным образом расширить круг принципиально
разрешимых проблем. То, что принципиально неразрешимо для
детерминированной машины – остается неразрешимым и для вероятностной.

Заметим, что если ограничиться рассмотрением только математических
способностей человека (а только эта часть интеллекта человека имеет
отношение к теореме Геделя), то аргумент, основанный на гипотезе наличия
“вероятностного” элемента в составе человеческой психики, теряет всякий
смысл.

Действительно, в своем повседневном поведении человек часто
действует спонтанно, случайным образом осуществляя выбор между заданными
альтернативами. Однако этого нельзя сказать о математическом мышлении.
Математик, который принимает или не принимает доказательство теоремы
методом “бросания монеты”, представлялся бы нам психически нездоровым.

Доказательность математических рассуждений предполагает строгую
логическую детерминированность каждого последующего шага. Элемент
случайности допускается лишь в процессе поиска решения той или иной
математической проблемы. Здесь, как уже отмечалось, случайность может
играть конструктивную роль несколько ускоряя поиск решения.

Можно, также, предположить, что случайность может играть позитивную роль
и в процессах выдвижения новых математических гипотез. Однако чисто
случайное угадывание правильной нетривиальной математической теоремы
представляется чем-то весьма маловероятным, граничащим с чудом.

Это
возможно, видимо, лишь в том случае, если имеется крайне мощный механизм
проверки (селекции) подобного рода гипотез. Однако и в этом случае
значение элемента случайности можно, видимо, свести к нулю задав
определенный, чисто детерминированный порядок порождения такого рода
гипотез (при условии, что выбор гипотез осуществляется из некоторой
заранее заданной совокупности “всех возможных теорем” данного
математического языка или исчисления).

Отметим, что для дедуктивной системы будет невозможно заранее
сформулировать геделевские предложения, если система аксиом и правил
вывода будет постоянно изменяться случайным образом, т.е. если в эту
систему будут непрерывно вноситься заранее непредсказуемые, никакими
правилами не ограниченные изменения.

Однако в каждый конкретный момент времени для такой системы будут
существовать вполне определенные неразрешимые предложения геделевского
типа. Таким образом, система с “флуктуирующим” составом аксиом не будет
обладать той универсальной способностью к распознаванию геделевских
предложений, которую мы приписываем человеческому интеллекту.

Такой способностью могла бы обладать лишь система с бесконечным числом
аксиом, при условии, что в это число входили бы все потенциально
возможные геделевские предложения и, следовательно, все возможные
пополнения ее аксиоматики. Иными словами, множество аксиом данной
системы должно совпадать с универсумом математических рассуждений
(Канторовским “Абсолютом” – множеством всех множеств).

Ни одна реальная
“машинная” система не способна обладать “бесконечной” аксиоматикой (т.к.
не возможна бесконечная по числу символов программа, описывающая
алгоритм данной системы). Поэтому любая “машинная” система принципиально
не полна (пополнима).

Однако, человеческий интеллект, видимо, вполне способен потенциально
содержать в себе “универсум математических рассуждений” – поскольку это и
есть универсум всех возможных “человеческих” математических рассуждений
(если только не считать этот универсум неким “псевдопонятием”, не
имеющим никакого позитивного содержания).

Итак, введя в систему искусственного интеллекта элемент случайности мы
можем сделать ее “неформальной” и, таким образом, вывести за пределы
действия теоремы Геделя о неполноте формальных систем. Однако это,
видимо, не может иметь никакого отношения к математическим способностям
искусственного или естественного интеллекта и не позволит системе,
содержащей в себе элемент случайности, решать алгоритмически
неразрешимые проблемы и, в частности, распознавать истинность любых
геделевских предложений (хотя такая система в некотором смысле будет
“алгоритмически невоспроизводимой”, поскольку невозможно будет
предсказывать каким-либо регулярным, правилосообразным способом, что она
сделает в следующий момент времени).

9. Наиболее значительный довод против геделевского аргумента
заключается, с нашей точки зрения, в том, что человек – это конечное
существо и поэтому к нему неприменимо понятие алгоритмической
невычислимости (см. также аналогичную аргументацию в (6) ).

Если количество различных вариантов отображения одного множество в
другое конечно, то все эти варианты можно, в принципе, перечислить. Один
из этих вариантов, по существу, и будет представлять собой “алгоритм”
вычисления интересующей нас функции (записанный в виде “функциональной
таблицы”, сопоставляющей каждому возможному “входу” соответствующий ему
“выход”).

Человек – это система с конечным числом возможных “входов” и
“выходов”. “Входы” в данном случае – это возможные конфигурации нервных
импульсов, которые могут быть переданы в мозг от органов чувств.
“Выходы” – это возможные (т.е. допустимые) действия (моторные акты)
человека в ответ на ту или иную конфигурацию нервных импульсов на
“входе”.

Ясно, что объем сенсорной информации, которую наши органы чувств могут
передать за конечное время в мозг, конечен. Следовательно, число
возможных конфигураций нервных сигналов на “входе” также конечно (хотя и
астрономически велико). Поскольку продолжительность жизни человека
имеет верхний предел, то конечно и количество всевозможных
последовательностей конфигураций нервных сигналов, которые может
получить наш мозг на протяжении всей нашей жизни от всех органов чувств.
Также конечно и число возможных реакций человека на эти возможные
последовательности конфигураций сенсорных сигналов.

Таким образом, функция сознания, которая символически может быть представлена в виде:

{S0, S1,…,Sn}Rn

где Si – конфигурация сенсорного входа в момент i; S0 – конфигурация
сенсорного входа в момент рождения; Ri – реакция (действие) субъекта в
момент i; – может рассматриваться как отображение одного конечного
множество в другое конечное множество.

{S0, S1,…,Sn}j и все возможные реакции на каждую из этих последовательностей {Ri}j.

Некоторый избранный фрагмент данной таблицы, изображающий “правильные”
(т.е. “человеческие”) реакции на ту или иную последовательность
конфигураций сенсорных сигналов, будет представлять собой “программу”
для системы искусственного интеллекта. Эти “программа” позволила бы
подчиненному ей алгоритмическому устройству “в среднем” вести себя
приблизительно таким же образом, каким ведет себя в сходных ситуациях
человек (при учете предыстории каждой конкретной ситуации).

Данная
программа, в принципе, может быть построена путем последовательного
отбора (селекции) тех элементов таблицы {S0, S1,…,Sn}Rn, которые
соответствуют типично человеческому поведению в ситуации Sn, имеющей
предисторию S0, S1,…,Sn-1.

Конечно, реально, физически такую “сортировку” осуществить невозможно –
для этого потребовалось бы, вероятно, использовать все вещество
Вселенной и временные интервалы, превосходящие длительность
существования Вселенной. Но нас в данном случае интересует лишь
принципиальная (т.е. в предположении наличия неограниченных
материальных, энергетических и временных ресурсов), а не физическая
осуществимость – поскольку именно такая принципиальная осуществимость и
имеется в виду в теории алгоритмов.

В этой теории учитывается лишь такая
невычислимость, которая обусловлена принципиальными причинами – а
именно, логической противоречивостью идеи существования того или иного
алгоритма, а отнюдь не “физическая” невычислимость, обусловленная
ограниченностью ресурсов.

Отсюда следует важный вывод: если окажется, что построить машину,
выдерживающую “тест Тьюринга”, невозможно, то эта невозможность будет
проистекает не из каких-то принципиальных логических ограничений, не из
теоремы Геделя о неполноте и не из алгоритмической невычислимости
функции сознания, – а будет проистекать из некоторых физических
ограничений (“нехватки ресурсов”).

Иными словами, в этом случае нужно
будет говорить не об “алгоритмической невычислимости”, а о “физической
невычислимости” функции сознания для любого алгоритмического устройства
(мозг, при этом, не включается в число “алгоритмических устройств”).

Однако отсюда, строго говоря, не следует, что функция сознания в целом
является алгоритмически вычислимой. В самом деле, любой конечный
фрагмент алгоритмически невычислимой функции, очевидно, представляет
некоторую алгоритмически вычислимую функцию.

Поэтому “вычислимый”,
алгоритмически имитируемый фрагмент функции сознания – ограниченный
рамками конечной человеческой жизни, – может быть фрагментом некой
“глобальной” алгоритмически невычислимой функции, не ограниченной
какими-либо временными рамками.

Таким образом, мы не можем, исходя из факта конечности человека,
утверждать, что человеческий интеллект, как таковой, подчинен
какому-либо алгоритму (конечному набору правил). Речь идет лишь о том,
какой смысл можно придать этому гипотетическому свойству невычислимости.

Из сказанного можно сделать вывод, что принципиальная разница между
человеком и машиной, если она действительно существует, может
проявляться только на бесконечно больших временных интервалах. Иными
словами, это может означать, что невозможно создать такую систему
искусственного интеллекта, которая действовала как человек неограниченно
долго, на сколь угодно больших временных интервалах.

Но, еще раз
подчеркнем, в силу конечности человека, ни теорема Геделя о неполноте
формальных систем, ни какие-либо другие доводы в пользу “невычислимости”
функции сознания, не накладывают принципиального запрета на создание
алгоритмического устройства, способного имитировать человеческое
поведение сколь угодно успешно на любых конечных временных интервалах.

Нужно, однако, заметить, что хотя алгоритмическая невычислимость не
препятствует сама по себе созданию эффективного компьютерного “аналога”
человеческого интеллекта, тем не менее описанный выше “метод” построения
“алгоритма сознания” путем селекции элементов описанной “функциональной
таблицы” не может дать положительных результатов в том случае, если мы
попытаемся создать алгоритмическую модель не “интеллекта вообще”, а
модель какой-либо конкретной личности.

Действительно, для того, чтобы
построить “функциональную таблицу” для конкретной личности, необходимо
выяснить как она, эта личность, будет вести себя в той или иной
ситуации, учитывая при этом все возможные варианты “предисторий” для
каждой мыслимой ситуации (т.е. учитывая все возможные последовательности
конфигураций сенсорных сигналов, предшествующие данному моменту
времени).

Но для этого необходимо каждый раз “стирать” всю память
субъекта и “заполнять” ее каким-либо новым содержанием – многократно
возвращая, таким образом, личность к моменту рождения. Нет, однако,
никаких гарантий, что такого рода “манипуляции” с человеческой психикой
совместимы с сохранением индивидуального “Я”, личности данного человека.
Т.е, иными словами, мы не можем гарантировать, что имеем в этом случае
дело все время с одной и той же личностью.

Невозможно, также, составить “функциональную таблицу” для конкретной
личности и методом “экспертных оценок”. По существу, поведение
конкретной личности во многих жизненных ситуациях принципиально
непредсказуемо – нередко даже для самой этой личности.

Таким образом, хотя “интеллект вообще” в принципе поддается имитации (по
крайней мере на конечных временных интервалах), но конкретная личность
(личность Пушкина, Толстого, например), видимо, имитирована быть не
может.

Конечно, среди множества всевозможных таблиц вида {S0, S1,…,Sn}Rn наверняка существуют таблицы, совпадающие (“пост
фактум”) с описанием “жизненного пути” той или иной конкретной личности.
Однако, эти таблицы совершенно бесполезны на практике – их нельзя
использовать в качестве “программы” для искусственного интеллекта –
поскольку любое малейшее отклонение от заданного “жизненного пути”
сделает систему искусственного интеллекта совершенно беспомощной, не
способный принять какое-либо разумное решение.

Учитывая сказанное, можно утверждать весьма вероятную “невычислимость”
функции индивидуального сознания – даже если оно рассматривается на
конечном интервале времени. Нельзя построить компьютер, который
воспроизводил бы личность Пушкина или Толстого, но допустимо
предполагать возможность создания компьютера, способного действовать
подобно “какому-либо” человеку.

Но здесь нужно заметить, что даже в том случае, когда область
определения и область значений функции – это конечные множества,
существуют ситуации, когда функция может все же рассматриваться как
“алгоритмически невычислимая”. Эти те случаи, когда задача нахождения
значения данной функции либо недоопределена (отсутствуют некоторые
данные, необходимые для решения этой задачи), либо когда условия задачи
внутренне противоречивы.

Если предположить, что человек способен решать недоопределенные или
противоречиво сформулированные задачи (путем, например, привлечения
какой-либо дополнительной информации, которая доопределяет задачу или
снимает противоречия), – то, в этом случае, очевидно, никакая
алгоритмическая имитация сознания, даже на конечных временных
интервалах, будет невозможной.

Представим себе, например, что человек способен с достаточно большой
вероятностью “угадывать” ближайшее будущее (включая и чисто случайные
события). Ясно, что такого рода “дар ясновидения” не может быть
воспроизведен с помощью какого-либо алгоритмического устройства. Задача
компьютерной имитации сознания, даже на конечном интервале, в этом
случае принципиально неразрешима.

Такая постановка проблемы “вычислимости” функции сознания тесно связана с
вопросом о существовании так называемых “экстрасенсорных способностей”
человека. Ясно, что способностьь получать какую-либо дополнительную
информацию об окружающем мире помимо органов чувств, особенно в том
случае, если эта информация вообще не может быть получена каким-либо
технически воспроизводимым способом (например, получение информации о
будущем), исключает возможность компьютерной имитации человеческого
сознания.

Однако все это может иметь значение для рассматриваемой нами проблемы
“вычислимости” функции сознания лишь в том случае, если такого рода
“экстра” способности не являются чем-то исключительным, присущим лишь
отдельным, выдающимся индивидам, а являются существенной и необходимой
компонентой нормальной работы человеческой психики.

Можно, например, предположить, что некоторые типичные задачи, успешно
решаемые человеком, по своему характеру являются недоопределенными и
требуется некая дополнительная априорная “экстрасенсорная” информация,
для того, чтобы эти задачи могли быть эффективно решены.

Например, обычная задача зрительного восприятия того или иного предмета –
с физической точки зрения – есть “обратная задача рассеивания”, т.е.
задача восстановления структуры и формы рассеивающего свет предмета по
результату этого рассеивания – структуре пучка рассеянного света.

Полагают обычно, что такого рода информацию наш мозг извлекает из
памяти, из прошлого опыта. Однако, не исключено, что какая-то часть
необходимой априорной информации черпается человеком их каких-то
“экстрасенсорных” источников, принципиально недоступных машине.

Конечно, такого рода предположения о наличии неких “экстрасенсорных”
составляющих обычного человеческого восприятия или мышления выглядят
весьма фантастично. Однако полностью отбрасывать такую возможность тоже
не стоит. По крайней мере, этот вопрос требует дальнейшего научного
исследования. Положительное решение этого вопроса дало бы нам весьма
эффективное решение проблемы “вычислимости” функции сознания.

Итак, мы рассмотрели основные возражения против “геделевского аргумента”
и гипотезы о “невычислимости” функции сознания и выяснили, что ни одно
из этих возражений не является в достаточной степени убедительным для
того чтобы решительно отвергнуть данный аргумент.

Один из наиболее важных выводов заключается в том, что тезис об
алгоритмической невычислимости функции сознания, по сути, не является
синонимом запрета на компьютерную имитацию человеческого интеллекта на
конечных временных интервалах.

Единственное практически важное следствие, которое можно получить из
“геделевского аргумента”, – это вывод о принципиальной непознаваемости
механизмов психической деятельности человека – в случае, если
“геделевский аргумент” является истинным. Это следствие позволяет
рассматривать гипотезу “невычислимости” как “нормальную” научную
гипотезу, которая хотя и не может быть доказана, но, тем не менее, может
быть опровергнута (фальсифицирована).

Как уже отмечалось, это следствие влечет далеко идущие выводы. В
частности, отсюда вытекает неудовлетворительность обычной
“нейрофизиологической” модели функционирования человеческого мозга
(поскольку эта модель предполагает принципиальную познаваемость нервных
механизмов психических процессов).

Это очень сильный вывод. Поэтому было бы желательно обосновать гипотезу
“невычислимости” с помощью каких-либо дополнительных доводов, отличных
от “геделевского аргумента”. Поскольку эти аргументы имеют
преимущественно философский характер, мы назовем их “метафизическими
аргументами”. Эти “метафизические аргументы” мы рассмотрим в следующем
разделе нашей работы.

Литература:

1. Криницкий И.А. Алгоритмы вокруг нас. М, 1984.

2. McCullough D. Can Humans Escape Godel? // PSYCHE, 1995, 2(4).

3.Chalmers D.J. Mind, Machines, and Mathematics // PSYCHE, 1995, 2(9).

4. Moravec H. Roger Penrose’s Gravitonic Brains // PSYCHE, 1995, 2 (6).

5. McDermott D. Penrose is Wrong // PSYCHE, 1995, 2 (2).

6. Maudlin T. Between the Motion and the Act // PSYCHE, 1995, 2(2)

7. Baars B.J. Can Physics Provide a Theory of consciosness? // PSYCHE, 1995, 2 (8).

8. Перминов В.Я. Развитие представлений о надежности математического доказательства. М., 1987.

9. Соловьев В.С. Критика отвлеченных начал // Сочинения.Т.1. М., 1990.

10. Антипенко Л.Г. Проблема неполноты теории и ее гносеологическое значение. М., 1986.

11. Penrose R. Shadows of the Mind. L., 1993.

12. Джордж Ф. Основы кибернетики. М., 1984.

Использованная литература

Тексты на уровне бакалавриата

Расширенные тексты

• Jain, S .; Ошерсон, Д .; Royer, J .; Шарма, А. (1999). Системы, которые обучаются, введение в теорию обучения (2-е изд.). Книга Брэдфорда. ISBN 0-262-10077-0.
• Клини, С. (1952). Введение в метаматематику . Северная Голландия. ISBN 0-7204-2103-9.
• Лерман, М. (1983). Степени неразрешимости . Перспективы математической логики. Springer-Verlag. ISBN 3-540-12155-2.
• Nies, Андре (2009). Вычислимость и случайность . Издательство Оксфордского университета. ISBN 978-0-19-923076-1.
• Одифредди, П. (1989). Классическая теория рекурсии . Северная Голландия. ISBN 0-444-87295-7.
• Одифредди, П. (1999). Классическая теория рекурсии . II . Эльзевир. ISBN 0-444-50205-X.
• Роджерс-младший, Х. (1987). Теория рекурсивных функций и эффективной вычислимости (2-е изд.). MIT Press. ISBN 0-262-68052-1.
• Сакс, Г. (1990). Теория высшей рекурсии . Springer-Verlag. ISBN 3-540-19305-7.
• Симпсон, С. Г. (1999). Подсистемы арифметики второго порядка . Springer-Verlag. ISBN 3-540-64882-8.
• Соаре, Р.И. (1987). Рекурсивно перечислимые множества и степени . Перспективы математической логики. Springer-Verlag. ISBN 0-387-15299-7.

Обзорные статьи и сборники

• Ambos-Spies, K .; Фейер, П. (2006). «Степени неразрешимости» (PDF) . Архивировано из оригинального (PDF) 20 апреля 2021 года . Проверено 27 октября 2006 . Неопубликованный препринт.
• Эндертон, Х. (1977). «Элементы теории рекурсии» . В Барвайз, Дж. (Ред.). Справочник по математической логике . Северная Голландия. С.  527–566 . ISBN 0-7204-2285-X.
• Ершов Ю.Л .; Гончаров, СС; Nerode, A .; Реммель, Дж. Б. (1998). Справочник по рекурсивной математике . Северная Голландия. ISBN 0-7204-2285-X.
• Fairtlough, M .; Уайнер, СС (1998). «Иерархии доказуемо рекурсивных функций» . In Buss, SR (ред.). Справочник по теории доказательств . Эльзевир. С. 149–208. ISBN 978-0-08-053318-6.
• Соаре, Р.И. (1996). «Вычислимость и рекурсия» (PDF) . Вестник символической логики . 2 (3): 284–321. DOI : 10.2307 / 420992 . JSTOR  420992 .

Научные статьи и сборники

• Burgin, M .; Клингер, А. (2004). «Опыт, поколения и ограничения в машинном обучении» . Теоретическая информатика . 317 (1–3): 71–91. DOI : 10.1016 / j.tcs.2003.12.005 .
• Чёрч, А. (1936). «Неразрешимая проблема элементарной теории чисел». Американский журнал математики . 58 (2): 345–363. DOI : 10.2307 / 2371045 . JSTOR  2371045 .Перепечатано в Davis 1965 .
• Чёрч, А. (1936). «Заметка по проблеме Entscheidungsproblem». Журнал символической логики . 1 (1): 40–41. DOI : 10.2307 / 2269326 . JSTOR  2269326 . Перепечатано в Davis 1965 .
• Дэвис, Мартин, изд. (2004) [1965]. Неразрешимое: основные статьи о неразрешимых предложениях, неразрешимых проблемах и вычислимых функциях . Курьер. ISBN 978-0-486-43228-1.
• Фридберг, RM (1958). «Три теоремы о рекурсивном перечислении: I. Разложение, II. Максимальное множество, III. Перечисление без повторения». Журнал символической логики . 23 (3): 309–316. DOI : 10.2307 / 2964290 . JSTOR  2964290 .
• Золото, Э. Марк (1967). «Определение языка в пределе» (PDF) . Информация и контроль . 10 (5): 447–474. DOI : 10.1016 / s0019-9958 (67) 91165-5 .[1]
• Harrington, L .; Соаре, Р.И. (1991). «Программа Поста и неполные рекурсивно перечислимые множества» . Proc. Natl. Акад. Sci. США . 88 (22): 10242–6. Bibcode : 1991PNAS … 8810242H . DOI : 10.1073 / pnas.88.22.10242 . PMC  52904 . PMID  11607241 .
• Джокуш-младший, CG (1968). «Полукурсивные множества и положительная сводимость» . Пер. Амер. Математика. Soc . 137 (2): 420–436. DOI : 10.1090 / S0002-9947-1968-0220595-7 . JSTOR  1994957 .
• Клини, Южная Каролина; Пост, EL (1954). «Верхняя полурешетка степеней рекурсивной неразрешимости». Анналы математики . Второй. 59 (3): 379–407. DOI : 10.2307 / 1969708 . JSTOR  1969708 .
• Мур, К. (1996). «Теория рекурсии на вещественных числах и вычислениях в непрерывном времени». Теоретическая информатика . 162 (1): 23–44. CiteSeerX  10.1.1.6.5519 . DOI : 10.1016 / 0304-3975 (95) 00248-0 .
• Myhill, J. (1956). «Решетка рекурсивно перечислимых множеств». Журнал символической логики . 21 : 215–220. DOI : 10.1017 / S002248120008525X .
• Орпонен, П. (1997). «Обзор теории вычислений в непрерывном времени». Успехи в алгоритмах, языках и сложности : 209–224. CiteSeerX  10.1.1.53.1991 . DOI : 10.1007 / 978-1-4613-3394-4_11 . ISBN 978-1-4613-3396-8.
• Пост, Э. (1944). «Рекурсивно перечислимые множества натуральных чисел и проблемы их решения» . Бюллетень Американского математического общества . 50 (5): 284–316. DOI : 10.1090 / S0002-9904-1944-08111-1 . Руководство по ремонту  0010514 .
• Пост, Э. (1947). «Рекурсивная неразрешимость проблемы Туэ». Журнал символической логики . 12 (1): 1–11. DOI : 10.2307 / 2267170 . JSTOR  2267170 .Перепечатано в Davis 1965 .
• Шор, Ричард А .; Сламан, Теодор А. (1999). «Определение скачка Тьюринга» (PDF) . Письма о математических исследованиях . 6 (6): 711–722. DOI : 10.4310 / mrl.1999.v6.n6.a10 . Руководство по ремонту  1739227 .
• Slaman, T .; Вудин, WH (1986). «Определимость в степенях Тьюринга» . Иллинойс J. Math . 30 (2): 320–334. DOI : 10.1215 / IJM / 1256044641 . Руководство по ремонту  0840131 .
• Соаре, Р.И. (1974). “Автоморфизмы решетки рекурсивно перечислимых множеств. Часть I: Максимальные множества”. Анналы математики . 100 (1): 80–120. DOI : 10.2307 / 1970842 . JSTOR  1970842 .
• Тьюринг, А. (1937). «О вычислимых числах с приложением к Entscheidungsproblem». Труды Лондонского математического общества . s2-42 (1): 230–265. DOI : 10.1112 / plms / s2-42.1.230 .Тьюринг, AM (1938). «О вычислимых числах в приложении к Entscheidungsproblem. Исправление». Труды Лондонского математического общества . s2-43 (1): 544–6. DOI : 10.1112 / ПНИЛИ / s2-43.6.544 .Перепечатано в Davis 1965 . PDF с comlab.ox.ac.uk
• Тьюринг, AM (1939). «Логические системы на основе ординалов». Труды Лондонского математического общества . s2-45 (1): 161–228. DOI : 10.1112 / ПНИЛИ / s2-45.1.161 . ЛВП : 21,11116 / 0000-0001-91CE-3 .Перепечатано в Davis 1965 .