Тени разума. В поисках науки о сознании - Пенроуз Роджер. Страница 153

Приведенное рассуждение страдает некоторой упрощенностью, однако суть его, полагаю, достаточно ясна. (Если вы не математик, но хотите получить представление о том, как ведет себя выражение t× p ^m, попробуйте подставить в него различные значения t,  pи m.) Я не вижу особого смысла углубляться здесь в подробности, но кое-что, думаю, следует прояснить. Кто-то, возможно, полагает, что «большая глубина вычисления», выражаемая числом m, — это вовсе не то, чего стремится достичь игрок-человек. Спешу разуверить: в действительности человек стремится именно к этому. Когда игрок-человек определяет ценность позиции на несколько ходов вперед, а затем решает, что дальше ее просчитывать смысла нет, такое вычисление является в действительностивычислением гораздо большей глубины, поскольку человеческая оценка охватывает и возможный эффект нескольких последующих ходов. Как бы то ни было, с помощью упрощенных соображений такого рода можно в общих чертах понять, почему научить компьютер хорошо играть в го гораздо сложнее, чем научить его хорошо играть в шашки, почему у компьютеров лучше получается решать короткие шахматные задачи и почему компьютеры получают относительное преимущество в играх с ограничением на время хода.

Подчеркнем еще раз главное отличие: человеческий мозг обладает способностью, какой компьютер принципиально лишен, — мозг способен выносить суждения, основанные на  понимании. Именно это различие и приводит к следствиям, описанным в общем виде в вышеприведенных простых рассуждениях (а также в рассуждениях относительно шахматной задачи, представленной на рис. 1.7в §1.15). Сознательное понимание — процесс сравнительно медленный, однако он может значительно сократить число альтернатив, требующих серьезного рассмотрения, существенно увеличив таким образом эффективнуюглубину вычисления. (По достижении определенной точки необходимость в рассмотрении отдельных альтернативных вариантов и вовсе отпадает.) И вообще, всем, кому интересно, чего компьютеры могут достичь в будущем, я, думается, могу дать хорошую подсказку: попытайтесь ответить на вопрос, требуется ли для выполнения той или иной задачи подлинное понимание. Многие вещи в нашей повседневной жизни не требуют для своего выполнения какого-то особого понимания, и вполне возможно, что с ними отлично справятся роботы с компьютерным управлением. Уже сейчас существуют управляемые искусственными нейронными сетями машины, успешно выполняющие такого рода задачи. Например, машины научились достаточно хорошо распознавать лица, производить геологическую разведку, находить по звуку неполадки в работе различных механизмов, разоблачать мошенничества с кредитными картами и т.д. ^{99} Там, где применение таких машин возможно, их эффективность в общем случае приближается к средней эффективности экспертов-людей (а порой и превосходит ее). Однако вследствие особенностей необходимого в данном случае «восходящего» программирования, мы не увидим здесь того уровня мощной машинной «компетентности», какой присущ нисходящим системам (скажем, шахматным компьютерам), или того, что — еще более впечатляюще — демонстрируют компьютеры при выполнении обыкновенных численных расчетов, в каковой области даже лучшие вычислители-люди и близко не подходят к производительности средних по сегодняшним меркам компьютеров. Что же касается задач, с которыми эффективно справляются искусственные нейронные сети (восходящего типа), то задействуемое в выполнении таких задач людьмипонимание, если честно, едва ли превышает способности компьютеров, поэтому в таких областях от компьютеров можно ожидать некоторого ограниченного прогресса. Там, где компьютерные программы имеют по большей части нисходящую организацию (прямые расчеты, шахматные программы, научные вычисления), компьютеры способны достичь огромной мощности и эффективности. В этих случаях компьютер также не нуждается в подлинном понимании выполняемых им действий, только здесь все необходимое понимание предварительно вложено в программу человеком (см. §1.21).

Следует упомянуть и о том, что в системах нисходящего типа очень часты компьютерные ошибки, возникающие из-за ошибок в программах. Впрочем, такая ситуация является результатом человеческой ошибки, а это совершенно иное дело. Существуют — и порой даже приносят реальную пользу — автоматические системы исправления ошибок, однако они способны выловить далеко не все ошибки, некоторые оказываются им не по зубам.

Опасность чрезмерно доверчивого отношения к системам с полным компьютерным управлением хорошо иллюстрируется ситуациями, в которых упомянутая система в течение долгого времени работает вполне приемлемо, создавая, возможно, у человека впечатление, что она понимает, что делает. И вдруг неожиданно она выкидывает нечто совершенно безумное, что недвусмысленно показывает, что никакого подлинного понимания в ее действиях никогда не было (как в случае с неспособностью компьютера «Deep Thought» решить шахматную задачу, изображенную на рис. 1.7). Так что никогда не теряйте бдительности. Вооруженные знанием того, что «понимание» просто-напросто не является вычислительным качеством, мы всегда должны помнить: никакой робот с компьютерным управлением таким качеством ни в коей мере обладать не может.

Разумеется, в отношении обладания способностью к пониманию люди и сами очень друг от друга отличаются. Как и компьютер, человек тоже может создать у окружающих впечатление присутствия в его действиях понимания, когда на самом деле никакого понимания там нет. Как правило, имеет место своего рода компромисс между подлинным пониманием, с одной стороны, и памятью и способностью к счету — с другой. Компьютеры сильны в последнем, но не способны достичь первого. Как хорошо известно преподавателям на всех уровнях (но, увы, не всегда известно правительственным чиновникам), гораздо более ценной во всех отношениях является способность к пониманию. Именно понимания (а не просто попугайского зазубривания правил и фактов) стремится добиться от своих учеников учитель. Одно из требований к составителю экзаменационных билетов (особенно в математике) как раз в том и заключается, чтобы по ответам абитуриента на вопросы можно было бы судить о его способности именно к пониманию, отдельно от способностей к запоминанию или счету — хотя эти последние, надо признать, также не лишены некоторой полезности.

8.3. Эстетика и т.д.

В вышеприведенных рассуждениях я говорил, по большей части, о способности к «пониманию», полагая ее существенным компонентом, напрочь отсутствующим в любой чисто вычислительной системе. Именно эта способность фигурировала в гёделевском рассуждении в §2.5— и именно ее отсутствие в бездумности вычислительного процесса продемонстрировало существенную ограниченность вычислений, побудив нас тем самым к поискам лучшего. И все же «понимание» — это лишь одна из способностей, за которые мы ценим сознательное восприятие. В более общем смысле мы, обладающие сознанием существа, получаем преимущество в любых обстоятельствах, где мы можем непосредственно «чувствовать» то, что нас окружает; и этомувычислительные системы не «научатся» никогда.

Меня спросят: каких же таких преимуществ оказывается лишенробот с компьютерным управлением в результате своей неспособности чувствовать? Что с того, что он не в состоянии оценить, скажем, ни красоту звездного неба, ни величественное великолепие Тадж-Махала тихим вечером, ни волшебных переплетений фуги Баха, ни даже суровой красоты теоремы Пифагора? Можно просто сказать, что робот много теряет, не будучи способным ощутить то, что ощущаем мы, сталкиваясь с такими проявлениями совершенства. Однако это далеко не весь ответ. Попробуем спросить иначе. Пусть робот действительно не способен ничего чувствовать, но нельзя ли запрограммировать компьютер таким хитроумным образом, чтобы он, тем не менее, смог создать великое произведение искусства?