Тени разума. В поисках науки о сознании - Пенроуз Роджер. Страница 75

М. И. К.: Тот факт, что мы, роботы, были изначально сконструированы в соответствии с набором механизмов M, вкупе с тем фактом, что наши ☆-утверждения, касающиеся Π ₁-высказываний, никогда не бывают ошибочными, и в самом деле имеет очевидное и неопровержимое следствие, заключающееся в том, что Π ₁-высказывание Ω( Q) должно быть истинным. Полагаю, ты думаешь, что я наверняка смогу убедить СМИСР присвоить утверждению G( Q) статус ☆, коль скоро они также согласны с тем, что никогда не допускают ошибок в присвоении этого самого статуса. В самом деле, с этим-то они просто обязаны согласиться. Ведь смысл ☆-статуса как раз и заключается в том, что он является гарантиейправильности.

Хотя… невозможно, чтобы они смогли согласиться с утверждением G( Q), так как по самой природе твоего гёделевского построения это утверждение не входит в число тех предположений, истинность которых мы можем установить с ☆-уверенностью — при условии, что мы в своих ☆-утверждениях действительно не ошибаемся. Полагаю, ты намекаешь на то, что эта несообразность должна посеять в нас какие-то сомнения относительно адекватности наших ☆-суждений.

Я, однако, и мысли не допускаю о том, что наши ☆-утверждения могут оказаться ложными, особенно если учесть всю тщательность их рассмотрения и предпринимаемые СМИСР меры предосторожности. Скорее всего, это вы, люди, что-то напутали, и процедуры, встроенные в Q, вовсе не являются теми самыми процедурами, которые вы применяли в самом начале, несмотря на все твои заверения и якобы документальные подтверждения. Да и вообще, СМИСР никогда не сможет с абсолютной точностью установить, действительно ли мы были сконструированы в соответствии с механизмами  Mили, иначе говоря, процедурами, заложенными в Q. В этом отношении нам приходится верить тебе на слово.

А. И.: Уверяю тебя, мы использовали именно эти процедуры. Уж кому об этом знать, как не мне; я лично контролировал весь процесс.

М. И. К.: Мне не хочется, чтобы ты подумал, будто я сомневаюсь в твоих словах. Возможно, кто-то из твоих ассистентов просто неверно выполнил твои инструкции. Есть тут у тебя один, его зовут Фред Керратерс — так вот он, например, вечно допускает самые глупейшие ошибки. Я даже не удивлюсь, если выяснится, что именно он и ответственен за ряд критических ошибок.

А. И.: Ты хватаешься за соломинки. Даже если бы он и внес какие-то ошибки, мы с остальными коллегами в конечном счете выявили бы их и тем самым выяснили, какой должна в действительностибыть твоя процедура Q. Думаю, тебя беспокоит то обстоятельство, что мы на самом деле знаем— в крайнем случае, можем узнать, — какие именно процедуры были заложены в твою исходную конструкцию. Это означает, что мы могли бы, затратив определенное количество времени и сил, записать то самое Π ₁-высказывание G( Q) и однозначно установить, что оно истинно — при условии, конечно же, что роботы и в самом деле никогда не ошибаются в своих ☆-утверждениях. Вы же не можете быть уверенными в том, что высказывание G( Q) истинно; во всяком случае, вы не можете утверждать этого с той убежденностью, какой, несомненно, потребует СМИСР для присвоения G( Q) ☆-статуса. Это, похоже, дает людям некое фундаментальное преимущество перед роботами, пусть даже только в принципе, а не на практике — существуют такие Π ₁-высказывания, которые доступны нам и недоступны вам. Не думаю, что вы в состоянии стерпеть такое, — именно поэтомуты так беззастенчиво обвиняешь нас в том, что мы якобы чего-то там напутали!

М. И. К.: Не нужно приписывать нам ваши мелочные человеческие побуждения. Но ты, разумеется, прав в том, что я просто не могу смириться с мыслью, что существуют Π ₁-высказывания, доступные людям и недоступные нам, роботам. Роботы-математики просто не могут в чем бы то ни было уступать математикам-людям — хотя я, пожалуй, могу допустить обратную ситуацию: какое-нибудь конкретное Π ₁-высказывание, доступное роботам, может быть, в принципе, получено и людьми… когда-нибудь в отдаленном будущем, учитывая ваши темпы работы. Я не намеренмириться лишь с тем, что какое-то Π ₁-высказывание может быть принципиальнонедоступно нам, в то время, как вы, люди, с легкостью его получаете.

А. И.: Помнится, еще Гёдель размышлял о возможности существования вычислительной процедуры, подобной процедуре Q, только применительно к математикам-людям — он, кажется, называл ее «машиной для доказательства теорем», — которая была бы способна генерировать только те Π ₁-высказывания, доказательство истинности которых было бы, в принципе, по силам математикам-людям. Не думаю, что он и в самом деле верил в то, что такая машина может существовать в действительности, — он просто не смог математически исключить такую возможность. У нас здесь, похоже, имеется как раз такая «машина», но уже для роботов, я имею в виду процедуру Q, которая может генерировать все доступные роботам Π ₁-высказывания, в то время как ее собственную обоснованность вы доказать не в состоянии. Впрочем, зная лежащие в основе вашей конструкции алгоритмические процедуры, мы самиможем добраться до этой самой процедуры Qи оценить ее истинность — но тольков том случае, если вы убедите нас в том, что действительно никогда не ошибаетесь в ваших ☆-утверждениях.

М. И. К.: ( после едва заметной паузы) Хорошо. Полагаю, тыдумаешь приблизительно так: нельзя ведь совсем исключить вероятность того, что члены СМИСР будут время от времени ошибочно присваивать тем или иным утверждениям ☆-статус. Полагаю, возможно и такое, что члены СМИСР не убеждены безоговорочно в том, что присвоение ими ☆-статуса неизменно происходит безошибочно. Таким образом, утверждение G( Q) может и не приобрести ☆-статуса, и противоречие исчезнет само собой. Заметь себе, это вовсе не означает, что я признаюсь в том, что мы, роботы, намеренноделаем ошибочные ☆-утверждения. Это означает лишь, что у нас нет абсолютной уверенностив обратном.

А. И.: Ты хочешь сказать, что, хотя вы и даете абсолютную гарантию истинности каждого отдельного ☆-утвержденного Π ₁-высказывания, никто не может гарантировать, что в некотором наборе таких высказываний не окажется ни одного ошибочного? Сдается мне, это противоречит всей концепции «неопровержимой уверенности», что бы под этим термином не подразумевалось.

Постой-ка… может быть, это как-то связано с тем, что возможных Π ₁-высказываний бесконечномного? Мне почему-то вспомнилось об условии ω-непротиворечивости, которое, если не ошибаюсь, имеет какое-то отношение к гёделевскому утверждению G( Q).

М. И. К.: ( после едва заметно более продолжительной паузы) Нет, определенно нет. Это никак не связано с тем, что число возможных Π ₁-высказываний бесконечно. Мы можем ограничить рассмотрение только теми Hi -высказываниями, которые являются в некотором вполне определенном смысле «краткими», — т.е. такими, что описание машины Тьюринга для каждого из них содержит не более с двоичных знаков, где с есть некоторое заданное число. Не стану досаждать тебе подробным изложением только что проделанных мною вычислений, суть же их сводится к тому, что упомянутое число с постоянно, и величина его определяется той конкретной степенью сложности, что присуща правилам процедуры Q. Поскольку гёделевская процедура — посредством которой из Qполучается утверждение G( Q) — неизменна и довольно проста, нет необходимости рассматривать Π ₁-высказывания существенно большей сложности, нежели сама процедура Q. То есть ограничение сложности рассматриваемых высказываний величиной, задаваемой некоторым подходящим числом c, не препятствует применению гёделевской процедуры. Выбранные таким образом Π ₁-высказывания составляют  конечноесемейство, пусть и весьма многочисленное. Ограничив рассмотрение лишь «краткими» Π ₁-высказываниями, мы получаем некоторую вычислительную процедуру Q* — той же, в сущности, сложности, что и процедура Q, — которая будет генерировать только такие ☆-утверждаемые краткие Π ₁-высказывания. К этой новой процедуре применимы все наши прежние рассуждения. Исходя из заданной процедуры Q*, мы можем отыскать другое краткое Π ₁-высказывание G( Q*), которое, разумеется, должно быть истинным — при условии, что истинными являются все ☆-утверждаемые краткие Π ₁-высказывания, — однако истинность его невозможно установить с ☆-уверенностью. Впрочем, все это верно лишь в том случае, если ты не ошибаешься, утверждая, что при нашем создании действительно использовался тот самый набор механизмов M, причем в истинности этого «факта» я как раз совершенно не убежден.