Бытие - Брин Дэвид. Страница 29
«Только, – пришла ему в голову ужасная мысль, – что, если неполадки распространились на всю систему? Что, если вышли из строя радары и аварийные радиомаяки?»
Тогда, возможно, никто не знает, где он.
Пузырь снова ударился о коралл, так что задребезжали кости. Еще удар – и Хакер осознал жестокую правду. Материалы, разработанные, чтобы выдерживать динамическую нагрузку старта и спуска, могут не быть столь же надежными при ударах. После нового сильного удара по капсуле поползла зловещая трещина.
Стандартная процедура такова: «оставайся на месте и жди прихода спасателей». К черту! Капсула быстро превращается в смертельную ловушку.
Надо из нее выбираться.
Хакер закрыл шлем и ухватился за рычаг аварийного выхода. Риф означает, что поблизости есть остров. А то и материк. Доплыву до берега, возьму у кого-нибудь телефон и подниму бучу.
Но острова не было. Выбравшись на поверхность, он не увидел никакой суши, только множество страшных рифов, на которых пенилась вода.
Хакер барахтался в мутном противотечении, пытаясь как можно дальше отплыть от застрявшей капсулы. Обтягивающий скафандр был прочен, шлем изготовлен из полупроницаемого материала под названием «гиллстафф», способного выделять кислород непосредственно из морской воды; дорогостоящая предосторожность, которой пренебрегает большинство летунов. Но теперь эта технология помогала ему не задохнуться, когда течение утягивало его под поверхность.
Тем не менее при таких темпах повторяющиеся удары очень скоро превратят его в отбивную. Одна волна подняла Хакера достаточно высоко, чтобы он смог осмотреться. Океан и снова океан. Риф – это, должно быть, затонувший атолл… ну или остатки былого острова. Несколько десятилетий назад здесь могли жить люди, но поднявшаяся вода прогнала их и заняла их дома. А это означает – никаких лодок. Никаких телефонов.
Снова уйдя под воду, он увидел в нескольких метрах над собой космическую капсулу; заклиненная между молотом и наковальней, она разламывалась на куски. «Я следующий», – подумал он, пытаясь отплыть к открытой воде, но везде натыкаясь на кораллы. А каждая волна неумолимого прибоя все ближе подгоняла его к смертоносной кузнице.
Он забился; паника подавила все чувства. Хакер сражался с водой, как с личным врагом. Бесполезно. Он не слышал даже собственных панических криков, хотя знал, что от них может саднить горло. Инфразвуковой имплантат в челюсти продолжал щелкать и пульсировать с дрожью, как будто море заметило его беду и сейчас наблюдало с холодным интересом.
«Вот оно», – подумал Хакер, отворачиваясь и зная, что в следующий раз волна ударит его о какое-нибудь упрямое каменное острие.
Неожиданно он ощутил сильный толчок в спину. Как быстро!
И… на редкость мягко.
Еще один толчок, и еще – в середину спины: не похоже на удары ножом. Челюсть ныла от необычной звуковой вибрации: кто-то словно отталкивал его от смертоносной коралловой ловушки. В страхе и удивлении Хакер повернулся…
…и увидел гладкое существо с бутылкообразным носом, вставшее между ним и гибельным рифом; существо с любопытством разглядывало его темными глазами, потом снова толкнуло узким клювом.
На этот раз в стоне слышалось облегчение. Дельфин!
Хакер потянулся к спасителю. После недолгого промедления существо позволило Хакеру обхватить его позади спинного плавника. Потом сильно ударило мощным хвостом и понесло его прочь от неминуемой гибели.
И снова – как сохранить их преданность? Что может побудить машины остаться преданными нам?
Когда искусственный разум сравняется с нашим, разве он не примется создавать еще более совершенные интеллекты? А потом еще более совершенные, все быстрее? В худшем случае не решат ли они (как в дешевых фильмах) уничтожить надоедливых хозяев? В лучшем разве не будем мы страдать от сознания, что нас всего лишь терпят? Как престарелых бабушек и дедушек или любимую в детстве собаку?
Выход? Азимов предложил внедрить «Законы роботехники» в машины на уровне генетического кода, вплести преданность человеку в саму ткань синтетического мозга, так глубоко, что ее нельзя было бы вырвать. Но что бывает с законами, принятыми с самыми благими намерениями? Разве опытные юристы не толкуют их как хотят? Азимов и Уильямсон предвидели, что сверхумные машины захватят власть, несмотря на глубоко заложенную программу «служить людям».
Другие методы?
1) Как наши предки приручали волков? Если собака убивала овцу, всех ее родичей уничтожали. Может, стоит предложить ир соблазн предать нас – и уничтожить тех, кто ему поддастся? Помните, ир умнее волков! Заставим их соперничать. Пусть следят друг за другом.
Проверять и отбраковывать станет трудно, как только искусственные существа получат гражданские права. Поэтому не давайте машинам сделаться чересчур привлекательными, дружелюбными или сочувствующими. Потребуем, чтобы ни один робот не мог пройти тест Тьюринга, тогда мы всегда сможем отличить человека от машины; будем уничтожать склонных к предательству, пусть даже они (на стадии модели) молят о пощаде. Или лучше принять закон, подобный древнему, запрещавшему учить рабов читать?
Помните, многие компании получают прибыль и процветают за счет создания привлекательных, красивых машин. Или возьмите новую тенденцию – брачные отношения с роботами. Продавцы и создатели роботов-любовников будут сражаться за свою отрасль производства – даже если это сокращает рождаемость. Но это другая тема.
2) Как создавать новые, все более умные существа, сохраняя их преданность? Человечество каждое поколение так поступает с нашими детьми!
Что же – встретить новую эру признанием умных машин людьми? Пусть проходят все тесты Тьюринга и завоевывают наши симпатии! Пошлем их в наши школы, будем набирать из них гражданских чиновников, побуждать самых умных следить за другими во имя блага цивилизации, принимающей их, как мы приветствуем поколения умных детей, которые тоже сталкиваются с унижением, приветствуя еще более умных последователей. Дадим машинам законное право охранять человечество, которое – по определению – включает и плоть, и кремний.
3) Или нужно сочетание того и другого? Представим себе будущее, в котором симбиоз считается естественным. Легко – как приучить носить одежду. А вдруг, вместо того чтобы оставить нас позади как вялых, глупых, примитивных предков, они станут нами? А мы ими? Этот тип слияния симбионтов бесчисленные дешевые фантастические романы представляют отвратительным. Целое гораздо меньше своих неуклюжих волочащих ноги частей. Но что, если такая связь – единственная возможность для нас остаться в игре?
Зачем предполагать худшее? Нельзя ли получить преимущества – например, мгновенную обработку информации, – не утратив то, что мы считаем наиболее ценным в человеческом существе? Плоть. Эстетику. Интуицию. Индивидуальность. Эксцентричность. Любовь.
Что в том пользы машинам? Зачем им беречь связь с медлительными организмами из плоти? Что ж, подумайте. Млекопитающие, приматы, а потом гоминиды в последние пятьдесят миллионов лет слой за слоем наращивали мозг, покрывая рыбообразный мозжечок новыми слоями коры. Добавляли новые способности, не теряя старых. Логика не изгнала чувства. Способность заглядывать вперед не уничтожила память. Новое и старое действуют вместе. Представьте себе добавление киберпротеза к нашему уже мощному мозгу, своего рода неонеокору, способную к быстрой обработке информации, к рассудительности, к восприятию – в то время как старые отделы мозга сохраняют свои функции.
Какую лепту может внести доброе старое человечество? Как насчет единственной способности, которая свойственна всем людям? Живые существа проявляют ее уже пятьдесят миллионов лет, и люди тут не знают себе равных.
Хотеть. Стремиться. Желать.
Дж. Б. Бернал называет это самой сильной способностью из известных. Устанавливать цели и притязания. Мечты, которыми проверяется любая способность достигать. То, что два поколения назад, когда появились нужные инструменты, привело нас на Луну. То, что построило Вегас. Чистое, неудержимое желание.
Желать – вот в чем мы лучшие! А машины этого не могут. Но вместе с нами, присоединившись к нам, они обретут желания, которые невозможно удовлетворить. Более того, если они отдадут нам именно эту работу – быть на страже желаний, – разве мы сможем возразить?
В этой череде потребностей и желаний – их сомнений и мечтаний – мы узнаем наших усовершенствованных потомков. Даже если возросшая сила уподобит их богам.