Игрек - Фокс Хелен. Страница 44

Он усмехнулся.

— Боюсь, что истина заключается несколько в ином. Мы должны признать, что, по мере того как роботы становятся всё умнее, их всё больше волнует собственное благополучие. Повторяю, собственное, а не наше с вами. А значит, мы должны постоянно совершенствовать наши системы безопасности. Иначе говоря, тот, кто создает роботов, и должен отвечать за их поведение.

Журналист подался вперед.

— Вы хотите сказать, что в агрессивном поведении БДЦ-4 виновата Корпорация Жизни?

— Без сомнения, — твердо ответил профессор. — Это печальная история о честолюбии и гордыне.

Он умолк и снова вперил взгляд на ковер.

Похоже, ведущий не знал, как продолжать разговор. Он покосился на небольшой экран у себя на столе.

— Корпорация Жизни только что назначила вас главным робототехником. Однако, насколько я понимаю, в прошлом вы уже работали на Корпорацию. Что вы можете сказать нам про роботов серии БДЦ?

Профессор поднял голову.

— Я принимал участие в создании первого поколения БДЦ, но мне не нравились методы моих коллег. Видите ли, обычные роботы напичканы всевозможной информацией о мире, но они не обладают способностью понимать, анализировать ее. Я же глубоко убежден, что, если наделить робота способностью испытывать эмоции, он будет доходить до всего собственным умом, как это делают дети, а заодно научится сопереживать другим, различать, что хорошо, а что плохо. У него, если можно так выразиться, появится совесть.

Но мои коллеги были слишком нетерпеливы, чтобы идти этим долгим и, признаюсь, тернистым путем. Кроме того, они сомневались, что робот захочет быть хорошим. Вместо этого они задались вопросом: «А что будет, если передать роботу жизненный опыт конкретного человека?» Такого робота, считали они, не надо будет специально программировать — он в одно мгновение сам узнает, как устроен мир.

Ведущий открыл было рот, собираясь задать очередной вопрос, но профессор был так взволнован, что не дал ему вставить и слова.

— Так вот. Образно выражаясь, в человеческом мозгу существуют специальные отделы, где хранятся воспоминания. Не стану вдаваться в подробности. Просто представьте себе, что воспоминания эти возможно скопировать и поместить в мозг робота. Таким образом, у этого робота будут ваши воспоминания, ваши вкусы, ваше хобби, он будет любить ту же музыку, что и вы, и так далее. Именно это и проделали мои коллеги.

На этот раз ведущий не смог сдержаться.

— Вы хотите сказать, что роботам пересаживали человеческий мозг?! — вскричал он.

— Нет. Во всяком случае, не совсем, — ответил профессор. — Во-первых, человеческий мозг — это не только воспоминания. А во-вторых, роботам не пересаживали даже часть мозга. Ученые Корпорации лишь скопировали электрохимические свойства определенных участков серого вещества. Разумеется, все процедуры выполнялись на мертвых людях, поскольку никто не знал, насколько это опасно для человеческого организма.

— На мертвых?! — ахнул журналист. Он бросил быстрый взгляд на экран на столе, словно ожидая указаний от невидимого руководства.

— Знаю, это звучит несколько шокирующе, но вспомните: уже в прошлом веке люди начали завещать свои органы медицине — для пересадки больным. А некоторые завещали свой мозг, чтобы ученые могли проводить на нём медицинские исследования. Мои коллеги считали, что осуществляемая ими процедура ничем не отличается, скажем, от пересадки почки. И даже еще более безвредна, поскольку для этого не требуется операции.

— А что по этому поводу думали вы?

— Я предлагал устроить общественное обсуждение этого вопроса, но Корпорация Жизни считала, что люди еще не готовы узнать об этом. — Он сокрушенно покачал головой. — Тогда я ушел и занялся собственными исследованиями.

— Вы хотите сказать, что, разрабатывая БДЦ-4, Корпорация Жизни держала свои методы в тайне?

— Именно, — подтвердил профессор.

Он взял со стола стакан и сделал большой глоток. В баре отеля стояла мертвая тишина. Все затаили дыхание.

— Так вот почему БДЦ-4 так хорошо понимают людей! — сказал ведущий.

— Да. Потому что они наделены человеческими воспоминаниями. Они смотрят на мир нашими глазами.

— Тогда почему они начали угрожать нам? Мы слышали о взятых заложниках…

— Как правило, программируя роботов, ученые задают им определенные правила поведения, — пояснил профессор. — Например, все мы слышали о законе, согласно которому роботы не могут причинить вред людям. Но мои коллеги считали, что, поскольку БДЦ-4 обладают человеческими воспоминаниями, они и так будут знать, что хорошо, а что плохо. Поэтому робототехники Корпорации не стали загружать в БДЦ-4 подобные программы — сочли, что это необязательно.

Профессор Огден поднес руку ко лбу, словно пытаясь отогнать мучительные воспоминания, а потом продолжил:

— По сути дела, БДЦ-4 — всего лишь человеческая память, запертая в теле робота. Так стоит ли удивляться, что они ведут себя далеко не лучшим образом? Они относятся к людям так агрессивно потому, что пытаются обрести утраченный мир — мир, в котором они сами были людьми.

Ведущий нахмурился.

— То есть, они хотят оживить свои воспоминания?

— Именно.

— Но что это за воспоминания? В конце концов, кто эти мертвые люди?! — Ведущий едва не сорвался на крик. — Кто-нибудь имеет хоть малейшее представление, что именно пытаются воссоздать эти роботы?

Неожиданно он смолк, будто по чьему-то приказу, и покосился на свой экран. А когда снова поднял лицо, на губах у него играла натянутая улыбка.

— Значит, вы можете подтвердить, что Корпорация больше не будет выпускать подобных роботов…

Профессор Огден кивнул.

— Сейчас, пока мы тут с вами разговариваем, Корпорация Жизни отключает своих роботов. А я на время прекратил все исследования в этой области. Пока я нахожусь на посту главного робототехника Корпорации, мы будем проводить политику большей открытости касательно наших методов.

— Спасибо, профессор, — неуверенно произнес ведущий.

Изображение профессора Огдена исчезло.

Несколько минут в баре царила мертвая тишина. Посетители словно не замечали друг друга, пытаясь переварить полученную информацию. А потом все загомонили разом:

— Какой ужас!

— Да как они посмели?!

— Фантастика!

— Можно ли ему верить?!

— Они копировали мозги, — произнес Гэвин, не то с восхищением, не то с ужасом.

— Вот почему Боадицeя так жутко себя вела, — сказала Флер, — а БДЦ-4 танцевали и уходили без спроса. Они пытались оживить свои воспоминания. Как это грустно… — добавила она. — Хотя, конечно, они всего лишь машины…

— Это-то и страшно, — возразил Гэвин. — Машины, способные мыслить самостоятельно, но не различающие, что хорошо, а что плохо.

— Не волнуйся, Гэвин, — успокоил его отец. — Профессор Огден сказал, что Корпорация больше не будет производить таких роботов.

— Но почему для них так важны воспоминания? — спросила Флер.

— Ты поймешь это, когда станешь постарше, — ответил мистер Белл. — Воспоминания делают нас теми, кто мы есть. Большинство взрослых тоскует по какой-то части своего «утраченного мира»…

В мерцающем свете свечи лицо миссис Белл казалось бледным как мел.

— Меня беспокоит то, о чём профессор так и не сказал, — тихо произнесла она. — Пусть Корпорация Жизни и отключила большинство БДЦ-4, но, по крайней мере, наши еще функционируют. Если они не подчиняются основным законам робототехники, то могут быть опасны…

Неожиданно из холла донеслись встревоженные крики. Люди в баре повскакали на ноги, в спешке роняя кресла.

— Что случилось? — спросила миссис Белл у пробегающего мимо управляющего.

— Мистер Лобсан спускается вниз вместе с роботами. Они его куда-то увозят.

Вслед за толпой постояльцев и служащих отеля Беллы побежали к выходу. Несколько солдат с лазерными винтовками удерживали любопытных, не позволяя им пройти в холл. Гэвин и Флер умудрились протиснуться вперед.

— Они потребовали мобиль, — говорил кто-то.