Глаз разума - Хофштадтер Даглас Р.. Страница 23

ПАТ: Что ты имеешь в виду?

СЭНДИ: Возьмем, например, меня. Ты можешь подумать, что я просто отпускаю некие интеллектуальные замечания и мне для этого не нужны эмоции. Но почему эти замечания так важны для меня? Почему я так напираю на слово “важны”? Потому что мои эмоции тоже участвуют в этом разговоре! Люди говорят друг с другом из убеждения, а не благодаря чисто механическим рефлексам. Даже самая интеллектуальная беседа воодушевляется скрытыми страстями. В любой беседе есть эмоциональные подводные течения — говорящие хотят, чтобы их внимательно слушали, понимали и уважали за то, что они говорят.

ПАТ: Мне кажется, что ты хочешь сказать только то, что люди должны быть заинтересованы в предмете беседы, иначе разговор у них не получится.

СЭНДИ: Точно! Я бы не стала ни с кем разговаривать, если бы не была мотивирована интересом. А интерес — просто одно из названий для целого созвездия подсознательных пристрастий. Когда я говорю, все эти пристрастия действуют одновременно; то, что вы воспринимаете на внешнем уровне — это мой стиль, мой характер. Но этот стиль рождается из множества крохотных склонностей, пристрастий и предпочтений. Сложив миллион таких “мелочей”, мы получаем множество желаний. Все это просто складывается! И это подводит меня к другой теме — бесчувственных вычислений. Разумеется, они существуют — в кассовом аппарате, в карманном калькуляторе. Это верно даже для всех сегодняшних компьютерных программ. Но когда-нибудь, когда мы сложим все бездушные расчеты вместе в некую гигантскую координированную систему, мы получим нечто, имеющее особенности на другом уровне. И мы сможем — более того, мы должны будем увидеть их не как совокупность крохотных вычислений, но как систему склонностей, желаний, убеждений и так далее. Когда система становится достаточно сложной, нам приходится сменить наш уровень описания. В какой-то степени это уже происходит, и поэтому мы используем такие слова, как “хочет”, “пытается”, “думает”, “надеется” в описании шахматных программ и других попыток создать механический интеллект. Деннетт называет подобное изменение уровней у наблюдателя “принятие интенциональной позиции”. Думаю, что по-настоящему интересные вещи в Искусственном Интеллекте начнут происходить тогда, когда программа примет интенциональную позицию в отношении самой себя.

КРИС: Это будет престранным смешением уровней в обратной связи!

СЭНДИ: Безусловно! Однако пока еще рано говорить о принятии интенциональной позиции по отношению к какой-либо из современных программ. По-крайней мере, таково мое мнение.

КРИС: Здесь возникает важный вопрос: насколько правомочно принятие интенциональной позиции по отношению к существам или объектам, не являющимся людьми?

ПАТ: Я бы безусловно приняла интенциональную позицию по отношению к млекопитающим.

СЭНДИ: Я голосую за!

КРИС: Интересно! Как же это получается, Сэнди? Ты же не станешь утверждать, что кошка или собака могут пройти тест Тьюринга? И в то же время ты утверждаешь, что этот тест — единственный способ определить наличие мышления. Как ты можешь совместить эти два убеждения?

СЭНДИ: Гммм… Ну хорошо, кажется, мне придется признать, что тест Тьюринга действует, только начиная с определенного уровня сознания. Могут существовать думающие существа, которые не в состоянии его пройти — но, с другой стороны, любое существо, выдержавшее этот тест, будет, по моему мнению, по-настоящему мыслящим существом.

ПАТ: Как ты можешь считать компьютер мыслящим существом? Извини, если мои слова звучат слишком стереотипно, но я просто не могу представить себе машину в роли мыслящего существа! Для меня, как ни глупо это звучит, сознание связано с мягким, теплым телом.

КРИС: Звучит действительно странно, особенно в устах биолога. Разве ты не имеешь дела с жизнью в терминах химии и физики? Разве от этого не пропадает все ее волшебство?

ПАТ: Не сказала бы. Иногда физика и химия только сильнее заставляют меня чувствовать, что я имею дело с чем-то магическим. Так или иначе, мне не удается всегда совмещать мои чувства с моими научными познаниями.

КРИС: Думаю, что я разделяю с тобой эту черту.

ПАТ: И что же вы будете делать с такими укоренившимися предрассудками, как у меня?

СЭНДИ: Я постараюсь докопаться до сути твоего понимания машин и найти те интуитивные ассоциации, которые скрыты в твоем подсознании, но, тем не менее, влияют на твои убеждения. Думаю, что у нас у всех остался в голове образ времен Индустриальной Революции: машина — это нелепая, неуклюже двигающаяся железная конструкция, приводимая в действие оглушительно тарахтящим мотором. Возможно, что Чарльз Баббидж, изобретатель компьютеров, видел такими людей. В конце концов, он ведь назвал свой великолепный многофункциональный компьютер Аналитической Машиной.

ПАТ: Что до меня, то я вовсе не считаю людей похожими ни на паровые экскаваторы, ни даже на электрические консервные ножи. В людях есть что-то такое… какой-то внутренний огонь, нечто живое, непредсказуемое, неточное — и творческое!

СЭНДИ: Отлично! Это именно то, что я надеялась услышать. Это очень человеческий образ мыслей. Твой образ внутреннего огня напоминает мне о свечах, пожарах, о молниях, танцующих в небе безумный танец. Но разве ты не видела тот же самый танец на консоли компьютера? Эти мигающие огоньки складываются в удивительные, непредсказуемые, сверкающие узоры. Это так далеко от куч безжизненного металла! Это похоже на тот самый огонь! Почему бы тебе, услышав слово “машина”, не подумать о танцующих огненных узорах, вместо гигантских паровых экскаваторов?

КРИС: Какой красивый образ, Сэнди. Он меняет мое представление о механизме от ориентированного на материю на ориентированный на некие схемы, на организацию. Он заставляет меня представить мысли у меня в голове — даже те мысли, которые там в данный момент — в виде крохотных огонечков, мерцающих у меня в мозгу.

СЭНДИ: Для крохотных огонечков в мозгу это довольно поэтический автопортрет!

КРИС: И все-таки, я еще не полностью убежден в том, что я — лишь машина. Признаю, что мой образ машин не свободен от подсознательных атавистических ассоциаций, но боюсь, что не смогу сразу отказаться от так глубоко укоренившегося чувства.

СЭНДИ: По крайней мере, в тебе нет предубеждения. Честно говоря, какая-то часть меня симпатизирует тому, как вы с Пат видите машины. Эта часть протестует, когда я отождествляю себя с машиной. В конце концов, это действительно очень странная мысль — что чувство личности может возникнуть из некой схемы. Вы удивлены?

КРИС: По крайней мере, я удивлен. Так что же, ты веришь в возможность разумного компьютера или нет?

СЭНДИ: Все зависит от того, что ты имеешь в виду. Мы все слышали вопрос: “могут ли компьютеры думать?” Здесь возможны разные интерпретации (кроме того, множество интерпретаций может быть и у слова “думать”). Все они вертятся вокруг разных значений слов “могут” и “компьютеры”.

ПАТ: Снова словесные игры…

СЭНДИ: Верно. Во-первых, этот вопрос может означать “думает ли какой-нибудь существующий сейчас компьютер?” На этот вопрос я немедленно отвечу решительным “нет”. Этот вопрос может означать “Сможет ли какой-нибудь из существующих на сегодняшний день компьютеров думать, если он будет снабжен соответствующей программой?” Это уже более вероятно, и все же я отвечу “Скорее всего, нет”. Основная трудность здесь упирается в слово “компьютер”. Мне кажется, что оно вызывает образ, который я описывала раньше: комната с кондиционером, и в ней — холодные металлические прямоугольные ящики. Но думаю, что прогресс в компьютерном дизайне вскоре сделает этот образ устаревшим.

ПАТ: Ты не думаешь, что компьютеры в их теперешнем обличье будут с нами долго?

СЭНДИ: Да нет, эти компьютеры будут существовать долго, но будут развиваться и компьютеры нового поколения, которые будут выглядеть совсем по-другому; может быть, они и называться будут по-другому. Возможно, что, как и в случае с живыми организмами, их эволюционное древо будет разветвляться. Будут компьютеры для бизнесменов, для школьников, для научных вычислений, для системных исследований, компьютеры для имитации, компьютеры для космических ракет и так далее. И наконец, будут компьютеры для изучения разума. И я имею в виду именно эти последние — компьютеры, обладающие максимальной гибкостью, компьютеры, запрограммированные на то, чтобы быть максимально разумными. И они вовсе не должны оставаться в традиционной форме. Вполне возможно, что вскоре у них появится некая рудиментарная сенсорная система — сначала, в основном, для зрения и слуха. Они должны быть способны к передвижению, чтобы иметь возможность исследовать окружающее. Они должны обладать физической гибкостью. Короче говоря, они будут больше походить на животных, будут более самодостаточными.