Тени разума. В поисках науки о сознании - Пенроуз Роджер. Страница 65

Если рассматривать все эти механизмы (т.е. внутренние вычислительные процедуры и данные, поступающие от интерактивного внешнего окружения) в совокупности, то создается впечатление, что нет каких-либо разумных причин полагать их принципиально непознаваемыми, — даже если кто-то и настаивает на том, что на практике в точности просчитать результирующие проявления внешних из упомянутых механизмов не в силах человеческих (и даже не в силах любого из существующих или предвидимых в обозримом будущем компьютеров). К вопросу о познаваемости вычислительных механизмов мы еще вернемся, причем довольно скоро (в конце §3.15). А пока допустим, что все эти механизмы действительно познаваемы, и обозначим набор таких механизмов буквой M. Возможно ли, что некоторые из полученных с помощью этих механизмов утверждений ☆-уровня окажутся, тем не менее, непознаваемыми для человека? Обоснованно ли такое предположение? Вообще говоря, нет — при условии, что в данном контексте мы продолжаем интерпретировать понятие «познаваемости» в том же принципиальномсмысле, который мы применяли в отношении случаев  Iи  IIи который был исчерпывающе определен в начале §3.5. Тот факт, что нечто (например, формулировка некоего ☆-утверждения) может оказаться за пределами невооруженныхвычислительных способностей человеческого существа, к данному случаю отношения не имеет. Ничуть не возбраняется и «вооружить» человека теми или иными средствами содействия мыслительным процессам — например, карандашом и бумагой, карманным калькулятором либо универсальным компьютером в комплекте с программным обеспечением нисходящего типа. Даже если добавить к уже имеющимся вычислительным процедурам какие-либо восходящие компоненты, то мы не получим ничего такого, чего не могли бы в принципеполучить раньше — при условии, разумеется, что лежащие в основе этих восходящих процедур фундаментальные механизмыдоступны человеческому пониманию. С другой стороны, вопрос о «познаваемости» самих механизмов  Mследует рассматривать уже в «практическом» смысле — в полном соответствии с принятой в §3.5терминологией. Таким образом, на данный момент мы полагаем, что механизмы  Mявляются действительно познаваемыми практически.

Обладая знанием механизмов M, мы можем использовать их при создании фундамента для построения формальной системы Q( M), при этом теоремамитакой системы станут следующие положения: (I) ☆-утверждения, непосредственно следующие из применения упомянутых механизмов, и (II) любые положения, выводимые из этих ☆-утверждений с применением правил элементарной логики. Под «элементарной логикой» здесь могут пониматься, скажем, правила исчисления предикатов (описанные в §2.9) или какая-либо иная столь же прямая и четко определенная неопровержимая система аналогичных логических правил (вычислительных). Мы вполне способны построить формальную систему Q( M) в силу того простого факта, что процедура Q( M), посредством которой из набора механизмов  Mполучаются, одно за другим, необходимые ☆-утверждения, является процедурой вычислительной (пусть на практике и весьма громоздкой). Отметим, что определяемая таким образом процедура Q( M) будет генерировать утверждения группы (I), однако вовсе не обязательно все положения группы (II) (поскольку можно допустить, что нашему роботу, по всей вероятности, попросту надоест тупо выводить все логические следствия из вырабатываемых им ☆-теорем). Таким образом, процедура Q( M) не эквивалентна в точности формальной системе Q( M), однако различие между ними не существенно. К тому же ничто не мешает нам при желании получить из процедуры Q( M) другую процедуру — такую, например, которая будетэквивалентна Q( M).

Далее, для интерпретации формальной системы Q( M) необходимо каким-то образом устроить так, чтобы на всем протяжении развития робота статус ☆ всегда и непременно означал, что удостоенное его утверждение действительно следует полагать неопровержимо доказанным. В отсутствие поступающих от учителя-человека (неважно, в какой форме) внешних данных мы не можем быть уверенными в том, что робот не выработает самостоятельно некий отличный от нашего язык, в котором символ ☆ будет иметь совершенно иное значение (либо вовсе окажется бессмысленным). Для того чтобы определение формальной системы Q( M) на языке робота согласовывалось с нашим ее определением, необходимо в процессе обучения робота (например, учителем-человеком) проследить за тем, чтобы присваиваемое символу ☆ значение в точности соответствовало тому значению, какое в него вкладываем мы. Необходимо также проследить и за тем, чтобы система обозначений, которой робот фактически пользуется при формулировке своих, скажем, Π ₁-высказываний, в точности совпадала с аналогичной системой, имеющей хождение у нас (или допускала какое-либо явное преобразование в нашу систему). Если допустить, что механизмы  Mпознаваемы человеком, то из вышесказанного следует, что аксиомы и правила действия формальной системы Q( M) также должны быть познаваемыми. Более того, всякую теорему, выводимую в рамках системы Q( M), следует, в принципе, полагать познаваемой человеком (в том смысле, что мы в состоянии понять ее описание, а не определить в обязательном порядке ее неопровержимую истинность), даже если вычислительные процедуры, необходимые для получения большей части таких теорем, окажутся далеко за пределами невооруженных вычислительных способностей человека.

3.14. Фундаментальное противоречие

Предшествующая дискуссия в сущности показывает, что «непознаваемый и неосознаваемый алгоритм F», который, согласно допущению III, лежит в основе восприятия математической истины, вполне возможно свести к алгоритму осознанно познаваемому — при условии, что нам, следуя заветам адептов ИИ, удастся запустить некую систему процедур, которые в конечном счете приведут к созданию робота, способного на математические рассуждения на человеческом (а то и выше) уровне. Непознаваемый алгоритм Fзаменяется при этом вполне познаваемой формальной системой Q( M).

Прежде чем мы приступим к подробному рассмотрению этого аргумента, необходимо обратить внимание на один существенный момент, который мы до сих пор незаслуженно игнорировали — речь идет о возможности привнесения на разных этапах процесса развития робота неких случайных элементоввзамен раз и навсегда фиксированных механизмов. В свое время нам еще предстоит обратиться к этому вопросу, пока же я буду полагать, что каждый такой случайный элемент следует рассматривать как результат выполнения какого-либо псевдослучайного (хаотического) вычисления. Как было показано ранее ( §§1.9, 3.11), таких псевдослучайных компонентов на практике оказывается вполне достаточно. К случайным элементам в «образовании» робота мы еще вернемся в §3.18, где более подробно поговорим о подлинной случайности в применении к нашему случаю, а пока, говоря о «наборе механизмов M», я буду предполагать, что все эти механизмы действительно являются целиком и полностью вычислительными и свободными от какой бы то ни было реальной неопределенности.

Суть противоречия заключается в том, что на месте алгоритма F, фигурировавшего в наших предыдущих рассуждениях (например, того алгоритма, о котором мы говорили в §3.2в связи с допущением I), с неизбежностью оказывается формальная система Q( M). Вследствие чего случай  IIIэффективно сводится к случаю  Iи тем самым не менее эффективно из рассмотрения исключается. Выступая в рамках данного доказательства в роли сторонников точек зрения  Aи B, мы предполагаем, что наш робот в принципеспособен (с помощью обучающих процедур той же природы, что установили для него мы) достичь в конечном счете любых математических результатов, каких в состоянии достичь человек. Мы должны также допустить, что робот  способендостичь и таких результатов, какие человеку в принципе не по силам. Так или иначе, нашему роботу предстоит обзавестись способностью к пониманию мощи аргументации Гёделя (или, по крайней мере, способностью сымитироватьтакое понимание — согласно  B) Иначе говоря, относительно любой заданной (достаточно обширной) формальной системы  Hробот должен оказаться в силах неопровержимо установить тот факт, что из обоснованности системы  Hследует истинность его гёделевского [24]утверждения G( H), а также то, что утверждение G( H) не является теоремой системы H. В частности, робот сможет установить, что из обоснованности системы Q( M) неопровержимо следует истинность утверждения G( Q( M)); эта же обоснованность предполагает, что утверждение G( Q( M)) не является теоремой системы Q( M).