Творец и робот - Винер Норберт. Страница 11

Поскольку наше действительное желание всегда может быть выражено неточно, последствия этого могут стать чрезвычайно серьезными тогда, когда процесс исполнения наших желаний осуществляется не прямым путем, а степень их реализации не ясна до самого конца. Обычно мы осуществляем наши желания, если вообще мы способны в самом деле осуществить их, с помощью процесса обратной связи, которая позволяет сравнивать степень достижения промежуточных целей с нашим восприятием. При таком процессе обратная связь проходит через нас и мы можем – пока еще не слишком поздно – повернуть назад. Если же механизм обратной связи встроен в машину, действие которой не может быть проконтролировано до тех пор, пока не достигнута конечная цель, вероятность катастрофы чрезвычайно возрастает. Мне, например, было бы в высшей степени неприятно участвовать в первом испытании автомобиля, управляемого при помощи фотоэлектрических устройств обратной связи, если бы в нем не было рукоятки, которая позволяет взять управление на себя в тот момент, когда замечаешь, что автомобиль несется на дерево.

Люди с психологией машинопоклонников часто питают иллюзию, будто в высокоавтоматизированном мире потребуется меньше изобретательности, чем в наше время; они надеются, что мир автоматов возьмет на себя наиболее трудную часть нашей умственной деятельности – как тот греческий философ, который в качестве римского раба был принужден думать за своего господина. Это явное заблуждение.

Целенаправленный механизм вовсе не обязательно будет искать путей достижения наших целей, если только мы не рассчитаем его специально для решения этой задачи. Причем в ходе проектирования такого механизма мы должны предвидеть все ступени процесса, для управления которым он создается, а не применять приближенные методы прогнозирования, эффективные лишь до определенного пункта, дальше которого расчеты ведутся при возникновении новых затруднений. Расплата за ошибки в прогнозировании и в наше время достаточно велика, но она еще больше возрастет, когда автоматизация достигнет полного размаха.

В наше время стала очень модной идея предотвращения некоторых опасностей и в особенности угроз, связанных с атомной войной, при помощи автоматических устройств типа «fail-safe» [14]. Идея эта основана на предположении, что действие устройства, вышедшего из заданного режима работы, можно обезвредить. Например, если обнаружено, что режим насоса ведет к аварии, то, пожалуй, гораздо лучше, чтобы она произошла от откачки воды, нежели от взрыва при избыточном давлении. Если мы имеем дело с хорошо понятой опасностью, техника автоматической защиты типа «fail-safe» правомерна и полезна. Однако она немногого стоит перед лицом еще не понятой опасности. Например, когда отдаленная, но неизбежная опасность угрожает человечеству уничтожением, то лишь тщательное изучение общественных явлений позволит своевременно выявить эту роковую угрозу. Однако потенциальные угрозы такого рода лишены опознавательных ярлыков. Поэтому, хотя методы «fail-safe», предназначаемые для блокировки опасных режимов работы автоматизированных систем, и могут стать необходимыми для предотвращения мировой катастрофы, их ни в коем случае нельзя считать достаточными.

Поскольку техника все в большей мере приобретает способность осуществлять человеческие намерения, их математическая формулировка должна стать все более и более обычным делом.

В прошлом неполная и ошибочная оценка человеческих намерений была относительно безвредной только потому, что ей сопутствовали технические ограничения, затруднявшие точную количественную оценку этих намерений. Это только один из многих примеров того, как бессилие человека ограждало нас до сих пор от разрушительного натиска человеческого безрассудства.

Иными словами, хотя человечество в прошлом и сталкивалось со многими опасностями, с ними было значительно легче справляться благодаря тому, что во многих случаях угроза проявлялась односторонне. В век, когда голод становится большой угрозой, можно искать спасения в увеличении производства пищи, и оказывается, что угроза уже не столь велика. При высокой смертности (в особенности детской) и при очень слабом развитии медицины жизнь каждого человека была большой ценностью, и поэтому людям справедливо предписывалось плодиться и размножаться. Угроза голода оказывала на нас давление, подобное давлению силы тяжести, к которой всегда приспособлены наши мышцы, кости и сухожилия.

Перемены в напряженности современной жизни, вызванные появлением новых устремлений и исчезновением старых, можно сравнить с новыми проблемами космических полетов. Состояние невесомости в космическом корабле освобождает нас от постоянной, направленной в одну сторону силы тяжести, к которой мы привыкли в нашей повседневной жизни. Путешественнику в космическом корабле нужны рукоятки, чтобы держаться; нужны тубы, чтобы выжимать из них пищу и питье; нужны различные приборы, чтобы определять свое положение, и, хотя все эти приспособления помогают тому, чтобы физиологическое состояние путешественника не слишком нарушалось, все же он не может чувствовать себя так удобно, как ему хотелось бы. Сила земного притяжения столь же дружественна нам, сколь и враждебна. Точно так же, когда люди не страдают от голода, серьезными проблемами могут стать перепроизводство продуктов питания, бесцельность существования и расточительство. Развитие медицины – один из факторов, способствующих перенаселению, этой весьма серьезной угрозе, перед лицом которой стоит сейчас человечество. К старым принципам житейской мудрости, таким, например, как «копейка рубль бережет», – принципам, так долго служившим людям в прошлом, больше нельзя относиться как к бесспорным.

Как-то я присутствовал на обеде в кругу врачей. Непринужденно беседуя между собой и не боясь высказывать вещи необычные, они стали обсуждать возможности решительного наступления на болезнь, называемую дегенерацией человеческого организма, или попросту старостью. Они не рассматривали этот вопрос вне конкретных возможностей и средств, необходимых для такого наступления, но основное внимание спорящих сосредоточилось на его конечных результатах. Собеседники стремились заглянуть вперед, в тот, быть может, не такой уже далекий завтрашний день, когда момент неизбежной смерти можно будет отдалять, вероятно, в необозримое будущее, а сама смерть станет столь же случайной, как это бывает у гигантских секвой и, кажется, у некоторых рыб.

Я не утверждаю, что они были правы в своих предположениях (и я совершенно уверен, что они и не претендовали на что-либо большее, чем предположения), но имена ученых, поддерживающих эту гипотезу, были настолько авторитетны – среди них был даже нобелевский лауреат, – что я не мог себе позволить отнестись к их высказываниям пренебрежительно. И хотя гипотеза будущего сверхдолголетия человека на первый взгляд могла показаться чрезвычайно утешительной, ее осуществление было бы страшным несчастьем, и прежде всего для врачей. Ибо сразу становится ясным одно – человечество не смогло бы долго вынести бесконечного продления всех жизней, которые рождаются на Земле.

И дело не только в том, что часть населения, не способная поддерживать собственное существование, намного превзойдет числом ту часть населения, от которой ее существование зависит; беда и в том, что, пребывая в вечном неоплатном долгу перед пришельцами из прошлого, мы окажемся совершенно неподготовленными к решению тех проблем, которые поставит перед нами будущее.

Ситуация, при которой жизнь всех граждан может продолжаться сколь угодно долго, немыслима. Если же, однако, возможность бесконечного продления жизни осуществится, то решение положить предел чьей-либо жизни или хотя бы отказаться от продления ее станет делом врачебной морали.

Но как же тогда быть с престижем врачей, в которых мы привыкли видеть священнослужителей, борющихся со смертью, беззаветных слуг милосердия?

Я допускаю, что даже в наше время встречаются случаи, когда врачи считают своим долгом не принимать меры для продления жизни бесполезной, невыносимо мучительной. Не лучше ли отказаться от перевязывания пуповины новорожденному уроду и облегчить смерть старику, страдающему от неоперируемого рака и гибнущему от гипостатической пневмонии, этого «друга стариков», вместо того чтобы ценой нечеловеческих страданий еще немного продлить его жизнь. Чаще всего такие вещи делаются без шума и с должным соблюдением приличий, и только когда какой-нибудь невоздержанный на язык дурак выбалтывает врачебную тайну, она становится достоянием газет и судов, поднимающих шум о «насильственном умерщвлении».