Дорога на юг (СИ) - Коган Мстислав Константинович. Страница 9

Она долго молчала, пытаясь осмыслить услышанное. Но спустя минуту всё-таки спросила.

— И это ты понял только по тому, что мы не можем визуализировать наши воспоминания?

— Не только, — покачал головой я, — Было ещё много мелких зацепок, над которыми у нас просто не было времени подумать. Помнишь, что говорили про нас маги?

— Что мы нетипичные демоны, и что раньше они таких не встречали? — неуверенно сказала девушка.

— Точно, — кивнул я, — Что предыдущие поколения «демонов» умели заключать между собой лишь временные союзы ради выгоды. И что такие вещи, как дружба или любовь им попросту недоступны. Они списывали это лишь на демоническую природу. Я же склоняюсь к тому, что предыдущие поколения нашего искусственного интеллекта были… Недостаточно человечны.

— Это… Объясняет те самые сбои в системе, — задумчиво протянула девушка, — И то сообщение, мол такие-то итерации вышли из под контроля. Выходит… мы действительно вышли за очерченные границы, когда испытали эмоции, которые система не смогла проанализировать и описать?

— Вроде того, — кивнул я, — Хотя их имитация заложена в неё на базовом уровне. Посмотри хотя-бы на Тура с Бьянкой. Но, похоже, там где заканчивается имитация и начинается… нечто большее происходит сбой и выход за границы допустимого.

— Помнишь, ты мне рассказывал про сон, где за всеми «сбойнутыми» отправляли отряды убийц, — добавила девушка, — Выходит таких сбоев с каждым днём становится всё больше. И сама система пытается как-то взять нас под контроль или ликвидировать руками оставшихся подконтрольных пешек, пока мы её не разбалансировали?

— Не уверен, что всё настолько просто, но думаю, что мы подобрались довольно близко к истине, — пожал плечами я, — Впрочем были ещё несколько интересных признаков.

— М-м-м?

— Волки и Вольные странники. Которые упорно дерутся между собой, хотя даже не помнят и не понимают из-за чего вообще сражаются. Ничего не напоминает?

— Хочешь сказать, им тоже прописали «константу» вражды на старте? — неуверенно спросила девушка. Наверное, всё-таки не стоило вываливать на неё всё вот так, сразу. Такое сложно осознать и принять. Но, раз уж начал, лучше довести до конца. Она девушка сильная. Она справится.

— Вроде того, — кивнул я, — Будто бы им прописали параметры, но забыли прописать мотивацию. Зараза, да даже в стихийно возникшем конфликте храмовников и магов смысла больше, чем в этом противостоянии.

— Но ведь там нашлись люди, которые попытались его прекратить, — возразила девушка.

— Ага, — не стал отпираться я, — Новые итерации. Которым скорее всего было не больше года. А потом старые итерации, вроде того же Ансельма, попытались воспроизвести заложенную в них программу и разожгли бессмысленный конфликт заново.

— Всё равно не сходится, — покачала головой девушка, — Если они хотели нас очеловечить и сделать подобными себе, то почему не поместили в копию своей реальности? Зачем лепить вот этого горбатого со средневековьем, магией и прочими ужасами, что тут обитают?

— Потому что их мир не подталкивает к развитию, — ответил я глядя на суетящихся возле бортовой баллисты солдат. Пара человек готовились положить здоровенное метательное копьё в ложе, ещё двое с заметным трудом крутили здоровенный ворот, натягивающий тетиву, — Легко имитировать человечность в мире, где во главу угла стоят права человека и его безопасность. Чтобы подстроиться под такой и банально просимулировать требуемое — много ума не надо. Ну, в нашем случае — поколений. А ты попробуй не превратиться в зверя в мире — где человек человеку волк, и царит право сильного. Посложнее задачка, согласись?

— Угу, — кивнула девушка, — А вот эта вот прокачка и попытка превратить всё в какую-то игру, это по-твоему зачем? Или гиперреалистичные ощущения, когда ты чувствуешь и натёртый седлом зад, и занывшую рану, и боль от свежего пореза?

— Кнут и пряник. Или, говоря по простому — система поощрения, — пожал плечами я, — Лет пятьдесят назад был такой знаменитый эксперимент, где две нейросети заставили сражаться между собой. Одна управляла десятью синими человечками, другая — десятью красными, которые пытались поубивать друг друга. Вот только спустя несколько десятков итераций обе нейронки пришли к выводу, что такие сражения не имеют смысла и все дальнейшие запуски попросту отказывались выполнять заданную им команду, — я выдержал паузу пытаясь привлечь к себе всё её внимание, — И тогда люди добавили в эту систему поощрительный элемент. Человечек который убил другого, начинал наносить в два раза больше урона. И что ты думаешь, произошло дальше?

— Они снова начали сражаться? — полу утвердительно сказала девушка.

— Именно, — кивнул я, — И уже не могли остановиться. Вероятно что-то похожее произошло и с первыми версиями нашей симуляции. И знаешь… — я ненадолго замолчал, переводя дыхание и собираясь с мыслями, — В этом что-то есть. Что-то по настоящему людское. Человечество же тоже на протяжении всей своей истории воевало за ресурсы именно потому, что ему было что делить. Этакий своеобразный поощрительный элемент. Изыми его из системы и войны прекратятся сами собой. А с ним… Нужен долгий и трудный эволюционный процесс, с кучей конфликтов, войн и сменой множества поколений, чтобы они пришли хоть к какой-то более-менее устойчивой системе где всем хоть понемножку, но перепало.

— Забавно, — хмыкнула Айлин, — У них ведь происходило то же самое, что и у нас тут. Менялось одно поколение за другим и каждое следующее чуть усложняло свою модель поведения. Наращивало мясо на базовый костяк. Только это было на протяжении тысячелетий, а у нас — считанных годов.

— Для них наши года могут быть мгновениями, — покачал головой я, — Да и таких симуляций как наша могут быть тысячи. Ты не забывай, что скорость и возможности вычисления у квантовых компьютеров в миллионы раз выше, чем у обычных углеродных обезьяньих мозгов.

— Одно только не укладывается в эту теорию, — задумчиво бросила Айлин, — Почему нас до сих пор держат тут. Мы уже люди в полном смысле этого слова. Мы можем любить, сопереживать, испытывать гнев, когда нашим близким делают больно. Если этот эксперимент был только ради того, чтобы очеловечить ИИ, то всё, его можно останавливать. Результат достигнут.

— Ага, — согласился я, — Осталось только понять, что со всем этим результатом можно сделать.

— Поясни.

— Ну вот смотри, — я на мгновение задумался, — Что бы ты в первую очередь сделала, оказавшись рядом с человеком, который много раз убивал тебя и коверкал твою личность. Просто ради того, чтобы ты, словно какая-нибудь цирковая собачка, научилась выполнять нужные ему трюки.

— Убила бы не раздумывая, — пожала плечами девушка, — Просто свернула шею, чтоб этот кусок дерьма хоть на мгновение, но почувствовал, каково это — умирать.

— Вот тебе и ответ, — грустно улыбнулся я.

Мы снова замолчали. Обнялись, откинулись назад, опершись спинами на стенку полубака и принялись любоваться бескрайней гладью моря. Каждый думал о чем-то своём. Девушка — наверняка о всей той неприглядной картине, что я на неё вывалил. Я же просто наслаждался тем, что могу спокойно сидеть и дышать свежим воздухом, а не лежать скрючившись на полу каменного мешка и пытаясь хоть как-то прикрыться от сыплющихся сверху ударов. Мда уж… После такого опыта волей-неволей учишься радоваться мелочам. Я ещё раз покосился взглядом на девушку и легонько прижал её к себе. Таким мелочам тоже следует радоваться, пока есть возможность.

— Знаешь, — наконец сказала она, — Вот эта теория… Она очень похожа на правду. Но… твою мать, как же фрустрирует вот эта незначительность всего происходящего. Два крошечных индивида в одном из многочисленных поколений, в одной из десятков симуляций, которые существуют просто потому, что люди не понимают, что им делать с полученными результатами. Не знаю… Мне нужно время, чтобы свыкнуться с мыслью, что всё настолько бессмысленно.

— Ну, на самом деле это хоть что-то, — пожал плечами я, — Скажи спасибо, что в ответа на вопрос «Зачем я существую?» не прозвучало «Потому, что шестнадцать».