Валгалла - Аллен Роджер Макбрайд. Страница 40

Напротив двух машин располагалась панель управления, с помощью которой с ними можно было общаться. Губернатор Крэш отодвинул одно из стоявших рядом с ней кресел и уселся.

– Итак, – спросил он, – что я должен делать?

Соггдон испытывала большое искушение молча показать Правителю необходимые кнопки и рычажки, а там – пускай разбирается самостоятельно, коли такой умный, но она знала, какой колоссальный вред можно нанести сверхчувствительным машинам даже одной только незначительной ошибкой. Для нее была непереносимой даже мысль о том, что Крэш, решив пообщаться с машинами самостоятельно, может спровоцировать у модуля Ди гибельный конфликт Первого Закона. Пришлось заговорить.

– Сэр, – сказала она, – мне неловко перечить вам, но, прежде чем начать, вам следует кое-что узнать, и я обязана объяснить это вам, даже если я рискую в результате потерять работу. Иначе вы можете безнадежно испортить модуль Ди.

Крэш поднял на нее взгляд, в котором читалось удивленное раздражение, однако в следующую секунду его лицо смягчилось.

– Хорошо, – сказал он. – Я всегда пытался убедить себя в том, что мне гораздо больше по нраву люди, которые не боятся мне перечить. Видно, пришло время доказать себе, что это правда. Расскажите все, что мне следует знать, только постарайтесь покороче. И прежде всего потрудитесь объяснить мне, что это за «ди».

Этот вопрос удивил женщину. Прежде чем заговорить, Соггдон окинула Правителя подозрительным взглядом. Как может человек, не знающий, что такое – или, точнее, кто такая модуль Ди, прийти сюда, сесть за пульт и еще на что-то рассчитывать?

– Я не имела в виду букву «D», сэр. Я говорила о модуле Ди. Так мы называем роботехнический центр контроля преобразования климата.

Крэш, задумчиво нахмурившись, посмотрел на два огромных модуля и в первый раз заметил две аккуратные надписи на боках каждого из них. На круглом куполе было выведено «Модуль Ди», на «геодезическом куполе» – «Модуль Дум».

– Ага, теперь понятно, – протянул Правитель. – Я, признаться, не очень хорошо разбираюсь в том, чем вы здесь занимаетесь. Мне приходилось бывать здесь пару раз во время строительства Центра, но после того, как он вступил в строй, я здесь уже не был. Знаю, что два контрольных модуля по-прежнему называются кодовым словом «близнецы», вот, собственно, и все. А что означают ваши названия? Это что, акронимы?

Соггдон наморщила лоб. Для человека, свалившегося как снег на голову и одержимого решимостью как можно скорее добиться своей цели, губернатор слишком охотно отвлекается на второстепенные детали.

– Мне кажется, что название модуля Ди каким-то образом связано с четвертым и окончательным проектом его создания. Каким именно образом, мне неизвестно. По-моему, это была какая-то шутка, бытовавшая среди сотрудников дневной смены, но суть ее мне неизвестна. Что же касается модуля Дум, то это, наверное, намек на то, что он не обладает разумом, – что-то вроде тумбы.

Женщина умолкла и пожала плечами. Она никогда не понимала такого рода шуток.

– Ладно, – подвел черту Правитель, – это все в сторону. Что я должен знать, чтобы не повредить «близнецам»?

– Что ж, повредить можно только модуль Ди. Модуль Дум представляет собой машину, не наделенную разумом. Это всего лишь вычислительный центр, а не робот. У него, впрочем, существует некий интерфейс, который позволяет вести с ним беседу, но, повторяю, он не робот и не подвластен действию Трех Законов. Модуль Ди – совсем другое дело. Она представляет собой огромный позитронный мозг со сложной системой взаимосвязи между отдельными его участками. Мозг робота, лишенный тела. В принципе это тот же самый «трехзаконный» робот, только лишенный способности передвигаться.

– И в чем заключается сложность? – требовательным тоном спросил Крэш. Было видно, что его терпение вот-вот лопнет.

– Это же совершенно очевидно, – ответила Соггдон, с запозданием сообразив, что ее ответ прозвучал довольно грубо. – Дело в том, что… Прошу прощения, сэр, но поймите одну вещь: модуль Ди отвечает за климат всей планеты – планеты, которая является домом для миллионов человеческих существ. Она была создана для того, чтобы перерабатывать колоссальные объемы информации, выдавать долгосрочные прогнозы, а также работать как в микро-, так и в макромасштабе.

– Ну и что из этого?

– Само собой разумеется, что в такой работе, как глобальные изменения климата планеты, неизбежны несчастные случаи и вообще неприятные ситуации. Одних людей выселяют с насиженных мест, другие страдают от затоплений, засух и бурь, которые являются прямым результатом действий, предпринятых по приказу этих машин. Таким образом, то здесь, то там людям время от времени причиняется вред.

– Я полагал, что система рассчитана таким образом, чтобы нейтрализовать конфликты, вызываемые Первым Законом. Я где-то читал про системы, задействованные в осуществлении крупных проектов, и там говорилось, будто их искусственный разум настроен так, чтобы польза для всего человечества превалировала над выгодой отдельно взятого индивидуума.

Соггдон покачала головой:

– Это работает, но лишь в немногих и весьма специфических случаях. Мне никогда не приходилось слышать, чтобы подобная система применялась широко. Раньше или позже искусственный разум с такой настройкой непременно сгорит или начнет давать сбои. Роботы, которых вы имеете в виду, имеют дело с просчетом гипотетических, даже абстрактных ситуаций, возможных в далеком будущем. А модулю Ди приходится иметь дело с анализом проблем повседневных, решениями сегодняшнего дня, причем такими, которые воздействуют на судьбы миллионов людей. С некоторыми она общается напрямую, разговаривая с ними, обмениваясь сообщениями и информацией. Модуль Ди не способна мыслить так, как вы говорите. Она воспринимает людей не как некую монолитную общность, а как отдельных индивидуумов.

– И в чем же заключается выход? – осведомился Крэш.

Соггдон набрала полную грудь воздуха и выпалила, словно хотела покончить с этими разъяснениями как можно скорее:

– Модуль Ди считает, что Инферно не существует.

– Что? – переспросил Крэш. Ему показалось, что он ослышался.

– Мы обманули Ди. Она думает, что проекта трансформации Инферно и самой планеты не существует, что они всего лишь смоделированы для того, чтобы просчитать варианты настоящей трансформации некоей настоящей планеты, к осуществлению которого еще только предстоит приступить.

– Бред какой-то! – воскликнул Крэш. – В это невозможно поверить!

– Однако, к счастью для всех нас, модуль Ди в это поверила.

– Но ведь в ее распоряжении имеется столько доказательств того, что это не так. Так много деталей… Их просто невозможно смоделировать!

– Мы «кормим» ее информацией очень дозированно и осторожно, – ответила Соггдон. – Не забывайте, искусственный мозг не может получать информацию самостоятельно. Только от нас. Откровенно говоря, время от времени мы намеренно подбрасываем ему ошибочные данные, противоречивые изображения или сведения, лишенные смысла. После этого мы исправляем эти «ошибки», создавая у Ди иллюзии, что это не реальная работа, а лишь моделирование, симуляция. Это заставляет ее думать, что все происходит не на самом деле, а как бы понарошку. В таком случае, если мы по недосмотру предоставим ей какую-то опасную информацию, мы в любой момент можем сказать, что это очередная ошибка, и она ничего не заподозрит. Модуль Ди считает, что Инферно – воображаемый мир, выдуманный специально для нее, и полагает, что сама она установлена в лаборатории, находящейся на Баливорде и предназначена для того, чтобы найти пути взаимодействия с компьютерным оборудованием поселенцев для использования в будущих проектах преобразования климата.

– Что?!

– Поверьте, это было необходимо. Если бы она поняла, что вы – реальный человек, она, без сомнения, удивилась бы тому, что вы делаете в ее выдуманном виртуальном мире. Нам приходится прилагать невероятные усилия для того, чтобы выдавать реальный мир за несуществующий.