Опаленная колыбель - Тропов Иван. Страница 66
Зачитывает президент в микрофон десять «основных аксиом». Помощники напряженно прислушиваются, все ли он правильно читает – все-таки президент, мало ли что… за такими глаз да глаз нужен!
Но президент сам себя переплюнул. Все верно прочитал, даже ударения везде как нужно расставил. В общем, в нормальном виде эти аксиомы в Дядюшку Сэма ушли. Ну, помощники и расслабились малость…
И этого хватило.
Осталось только по клавише клацнуть, чтобы Дядюшку оживить – а президент вместо этого улыбку с мудрым прищуром изображает. И снова к микрофону склоняется.
– Но самое главное, – говорит, – чтобы на всей земле было как можно меньше человеческих страданий.
Сказал – и тут же по клавише активизации клацнул. Помощники даже ничего сделать не успели.
А Дядюшка Сэм слова президента так прямо и понял. Взял да и сдвинул нумерацию «основных аксиом». И самой первой и приоритетной включил такую: «На Земле должно быть как можно меньше человеческих страданий».
И ведь сформулирую президент свою мысль иначе, все могло бы быть совсем иначе! Ну чего ему стоило сказать: «Самое главное – чтобы на всей земле было как можно больше человеческого счастья»? И все было бы по другому!
Но президент был полный ГГ.
А программы для Дядюшки Сэма писали лучшие программеры. И свою работу они выполнили безукоризненно. Так что размышлял Дядюшка строго логически – да вот только не положено ему было оценивать адекватность действий последнего всенародно избранного… и то, что самая приоритетная аксиома была сформулирована полным ГГ, он тоже знать не мог.
Повращал он своими атомами в лазерных ловушках, которые у него вместо мозгов, по базам данных пробежался, и за три миллисекунды кое к каким выводам пришел.
Для начала, под «человеческие страдания» Дядюшка Сэм все неприятные эмоции отнес – от безумной боли до мелкого раздражения на хамоватых соседей. И получилось, что каждый человек всю свою жизнь только и делает, что утопает в океанах всяческих страданий, крошечных и не очень…
А раз человеческих страданий должно быть как можно меньше… тут уж чистая логика, и всего одно решение: чем меньше людей – тем меньше страданий. А если на земле вообще не будет людей… тогда и человеческих страданий совсем не останется!
Еще пару миллисекунд Дядюшка оптимальные действия просчитывал. А потом и начал о людях активно заботиться…
Сигналы на военные базы шли меньше секунды – никто даже понять толком ничего не успел, куда уж там остановить…
Так Конфликт и начался.
А потом уже была и ядерно-термоядерная, и боевые вирусы…
Что утешает – так только то, что в первую очередь любящий Дядюшка о самих американцах позаботился – все они первыми погибли.
А роботы американской армии с тех самых пор и уничтожают всех людей, уцелевших после Конфликта. Ведь сказано же было – что на всей земле должно быть как можно меньше страданий…
Вот базе ученых на луне повезло. Дядюшка Сэм трезво рассудил, что это уже не Земля, и самая первая аксиома на тамошних обитателей не распространяется. Потомки ученых в луной колонии живут и в ус не дуют – потому что больше всяких ГГ к своим ИИ не подпускают. Даже на земные проблемы у них время остается…
Сначала никто из нас Фейнману не поверил. Ну в самом-то деле: ну разве пойдут нормальные люди на такую показуху, когда дело жизни всей страны касается?!
Но Фейнман только грустно улыбается.
– Вероятно, вы плохо знакомы с историей доконфликтной Америки, – говорит. – Если бы вы внимательно изучили историю тех лет, вы бы поняли, что демократия демократии рознь. После Конфликта мы исследовали этот вопрос, моделировали множество разных обществ. И установили, что если демократия остается так называемого дикого типа, то есть с равными правами для всех, почти неизбежно будет происходить что-то катастрофическое, вроде реально случившегося Конфликта…
– Простите, – Линский его перебивает, – что значит – «дикая» демократия? Равные права для всех – это единственный тип настоящей демократии! Что же это за демократия, если у кого-то прав больше, а у кого-то – меньше?
– Это так называемая цивилизованная демократия, – Фейнман серьезно отвечает. – И это не игра слов. Судите сами: если у необразованной домохозяйки будут такие же права на принятие решений в финансовой сфере, как у профессора экономики – разве это не будет ущемлять его прав?
– Простите, – Линский хмурится, – я вас не совсем понимаю…
– Ну, хорошо, Олег Львович, – Фейнман говорит. – Вот вам грубая аналогия. Представьте себе старинный самолет, еще на полностью ручном управлении. Он везет сотню пассажиров. Что такое псевдодемократия, которую вы не желаете признать дикой? Это равное право голоса для всех. А теперь представьте, что случится, если так будет управляться самолет? Если пилоты, реально разбирающиеся в управлении самолетом, будут иметь равные права с каждым из остальных пассажиров, не имеющим ни малейшего представления об устройстве самолета? Обязательно найдется демагог с лидерскими замашками, который дорвется до штурвалов, совершенно не разбираясь в аэродинамике! Хорошо, если самолет летит на маленькой скорости, а высота очень большая. Пока самолет будет падать, у пассажиров будет время понять, что надо отдать управление пилотам и не лезть в их дела. Это соответствует дикой демократии в начальной стадии прогресса – общество ведет себя далеко не оптимально, но еще успевает исправлять свои ошибки и избегать гибели. Но прогресс не стоит на месте. Самолет летит все с большей скоростью. Представьте себе ту же ситуацию с полностью ручным управлением – но уже в современном флаере. Что произойдет, если ничего не соображающие в устройстве гравитонного двигателя пассажиры вздумают устроить голосование, как им управлять? Один неверный приказ – и флаер в один миг влетит в землю на совершенно сумасшедшей скорости! Или внутренние гравы-компенсаторы разорвут пассажиров в клочья. Или взорвутся сверхпроводники, или начнет плавиться реактор… Понимаете? Если общество игнорирует движение прогресса и не отказывается от дикой псевдодемократии вовремя, упрямо цепляясь за равные права на управление страной для каждого, рано или поздно наступает такой момент, когда один неспециалист может погубить всю цивилизацию. И вовсе не по злому умыслу, а просто потому, что он неспециалист…
Прищуривается Линский, явно собрался с Фейнманом спорить – но тут Дымок в себя пришел, и Линского опередил.
– Красивая у вас гипотеза, Ричард, – говорит с иронией.
– Нет-нет, Дима! – Фейнман протестует. – Это не гипотеза. Все на самом деле так, как я вам рассказал. У нас в лунной колонии даже есть кадры прямой трансляции, когда президент решил ввести свою собственную аксиому в Дядюшку Сэма. Более того, все это время, особенно в первые годы после Конфликта, множество наших ученых выходили на связь с Дядюшкой и искали способ, как заставить его прекратить истребление остатков человечества… Да вы и сами можете с ним связаться. Он отвечает на все обращения, идущие на определенных частотах.
– Подождите! – говорю. – И что, за все эти годы вы не смогли убедить его, что он действует неправильно?
– В том-то и проблема, Серж, – Фейнман грустно усмехается, – что в рамках заданных ему правил Дядюшка Сэм действует безошибочно. Это у человека могут быть какие-то априорные подсознательные желания и убеждения, которые он обосновывает софизмами. Но у Дядюшки Сэма ничего подобного нет. Его размышления целиком основаны на железной логике, в них нет ни малейшего элемента случайности…
– В таком случае, совсем ничего нельзя сделать? – Линский хмурится. – Заставить его отказаться от истребления человечества невозможно?
– Трудно сказать, – Фейнман вздыхает. – Многие наши ученые пытались найти слабые места в его программах принятия решений. Возможно, есть способы натолкнуть Дядюшку на использование в принятии решений некоторых редко используемых подпрограмм, и как-то сыграть на этом… В некотором смысле, расстановка приоритетов между разными блокам программ оценки ситуации и принятия решений, переключение с одних блоков на другие – все это отдаленно напоминает работу подсознания человека. Можно предположить, что если действовать не в лоб, не просто приводить Дядюшке логическую аргументацию, а учитывать реальную работу его программ, то, возможно, есть способы ввести его, фигурально выражаясь, в некое подобие гипноза, а затем как-то воспользоваться этим… впрочем, пока это никому не удалось.