Выбор по Тьюрингу - Мински Марвин. Страница 64

– Я хочу, чтобы для начала все было попроще. Позже мы попробуем проделать то же самое с машинами и людьми, – пояснил Брайан. – Свен, можешь сойти с тротуара?

– Да.

– Хорошо. Пошли.

Бен с Брайаном начали переходить улицу.

– Нет, – внезапно сказал Свен. Брайан остановился и оглянулся на его фигуру, застывшую на месте.

– Пойдем, сейчас можно.

– Ты объяснял, что я могу переходить улицу, только если уверен, что не приближается ни одной машины.

– Ну правильно, посмотри в обе стороны, машин не видно. Пошли.

Свен не двигался.

– Я все еще не уверен.

– Но ты же посмотрел.

– Да, тогда машин не было. Но сейчас – это сейчас.

Бен рассмеялся:

– Ты слишком буквально все понимаешь, Свен. На самом деле это очень легко. Отсюда видимость в обе стороны не меньше километра. Даже если бы из-за угла выскочила машина и поехала со скоростью сто километров в час, мы бы все равно успели перейти.

– Если бы ее скорость была пятьсот километров в час, она могла бы нас задавить.

– Ну ладно, Свен, на сегодня хватит, – сказал Брайан. – Отключаемся.

Экран потемнел, улица исчезла. Спины скафандров распахнулись.

– Ну и в чем дело? – спросил Бен, вылезая задом из скафандра и нагибаясь за своими туфлями.

– Проблема, с которой мы сталкивались и раньше. Свен все еще не знает, когда надо перестать рассуждать, демонстрируя свою безупречную логику. В реальном мире мы ни в чем не можем быть уверены на все сто процентов, так что приходится исходить из тех знаний и рассуждений, какие уместны в данной ситуации. А чтобы принять решение, в какой-то момент нужно перестать рассуждать. Но для этого нужно уметь вовремя остановиться. Я думаю, Свена как раз потому и заело, что его новое «суперэго» ингибирует эту самую способность вовремя остановиться.

– То есть отключает тот самый процесс, ради которого оно в нем и установлено? Что-то это подозрительно напоминает парадокс. И скоро вы думаете его починить?

– Я надеюсь, что чинить его вообще не понадобится. Свен должен справиться сам.

– Самообучение?

– Конечно. В конце концов, на первых порах чрезмерная осторожность не мешает. Чтобы обучиться, нужно прежде всего остаться в живых. Это может занять некоторое время, но, обучаясь, Свен сможет приобрести прочный навык обучения, который в будущем все намного ускорит. Но сейчас у меня для вас есть кое-что важнее прогулок. Несколько дней назад Шелли соединила Дика Трейси с Робином. Они неплохо совместились и уже работают вместе. Свен, скажи-ка, добавил что-нибудь Дик Трейси к твоему списку промышленных изделий?

– Да.

– Давай-ка распечатку.

Зажужжал лазерный принтер, и из него поползли лист за листом. Брайан взял первый и протянул Бену. Список был, разумеется, алфавитный.

– Абак, абака, абзетцер, аблятор, абразив, абсорбер, абс-пластик… ну и так далее, – прочитал Бен, взглянул на растущую стопку листов и в недоумении тряхнул головой. – А ты не можешь сказать, зачем все это понадобилось?

– Мне казалось, это очевидно. Ваше расследование преступления, по-видимому, окончательно застопорилось.

– Мне жаль, если это так выглядит, но над ним работает столько людей…

– Знаю, Бен! Я вас ни в чем не виню. Это крепкий орешек, и мы хотим всего лишь помочь – хотя бы из чисто личных, шкурных соображений. Программа Дика Трейси у Шелли все еще работает, но и она, похоже, топчется на месте. И вот появляется Свен, который раскрывает тайну!

– Я не могу появиться, я уже здесь.

– Это образное выражение, Свен. Потом объясню. Можешь прекратить распечатку.

– Я дошел только до буквы В. Вам не нужна вся распечатка?

– Нет, только начало – для примера. Отправь то, что напечатано, обратно в подающее устройство.

Зашелестев своими конечностями, Свен быстро пересек комнату, подошел к принтеру и взял стопку листов вечной бумаги из приемного лотка. Но не так, как это сделал бы человек, – всю стопку сразу: вместо этого он перенес свою тяжесть на одну из древовидных конструкций, служивших ему ногами, поднял другую и быстрым движением множества крохотных пальчиков взял каждый листок по отдельности. Поднеся их к другой стороне принтера, он отпустил их, и они соскользнули в подающее устройство, словно колода карт из рук фокусника.

– Эта распечатка, – сказал Брайан, – понадобилась только для того, чтобы дать вам представление о базе данных, которую мы собираем. Идея состоит в том, чтобы составить список всех возможных изделий, выпускаемых промышленностью, потом посмотреть, как можно их усовершенствовать с помощью искусственного интеллекта, и отбросить наименее вероятное. А когда список будет сокращен до приемлемого размера, Свен обследует все существующие базы данных в поисках возможных нитей. Он будет отыскивать новые технологические процессы, программные системы и любую другую продукцию, которую можно получить только с помощью нового, усовершенствованного искусственного интеллекта.

– Но все эти изделия, которые были в списке, не имеют никакого отношения к делу. Я даже не знаю, что такое абзетцер.

– Конечно, многие из них нам ни к чему. Но искусственный интеллект рассуждает не так, как мы, – пока еще не так. У нас есть интуиция, а она возникает в ходе обучения, а не запоминания. Пока Свену легче составить список всего, что можно производить с помощью искусственного интеллекта. Когда список будет составлен, он начнет вычеркивать все, что не имеет отношения к делу. А когда список сократится до таких размеров, что с ним удобно будет работать, Свен начнет искать возможные нити.

– Ничего себе работа!

– А Свен – ничего себе машина! – гордо заметила Шелли. – Вместе с Диком Трейси это ему вполне под силу. Если украденный искусственный интеллект где-нибудь работает, мы выследим его, узнав, что именно он делает.

– Не сомневаюсь, – сказал Бен. – И немедленно дадите мне знать, как только нащупаете какой-нибудь след.

– Это может оказаться просто намек, тут ничего нельзя будет сказать наверняка.

– Еще как можно будет! Я все их прослежу. У меня там огромная команда, которая пока ничего толком не добилась. Я посажу их за эту работу. Честно говоря, я думаю, что только Свен в состоянии помочь нам разыскать людей, которые это сделали.

Глава 28

4 сентября 2024 года

Беникоф был уверен, что совещание не займет много времени. Все подготовленные бумаги он просмотрел, пока летел до Сиэтла, а последние заметки сделал по дороге из аэропорта в Такому. Это было первое новое задание, которое он получил за долгие месяцы с тех пор, как ушел с головой в дело «Мегалоуб», и никакого повода отказаться у него не было. Перед самым началом совещания зажужжал его телефон. Он взял трубку.

– Бен, это Брайан. Свен как будто обнаружил кое-какие нити.

– Быстро работает этот твой электронный мудрец.

– Как только список был закончен и все лишнее из него вычеркнуто, Свен занялся тем, что наиболее вероятно. Пока что он видит три возможных варианта. Один – это некий подозрительный пакет программ, который пишет немыслимо эффективные коды. Потом есть одна машина для ремонта обуви – возможно, там работает искусственный интеллект, потому что она может заменить любую подметку на любой модели. И есть еще одна сельскохозяйственная машина, к которой искусственный интеллект почти наверняка приложил руку.

– Возможно? Почти наверняка? А не может твоя машина дать прямой и честный ответ – да, или нет, или пятьдесят на пятьдесят?

– Нет, не может. Свен работает с программой, основанной на понятии качественной возможности. Он вообще не пользуется числами. Я уже просил его о том же, и он отказался.

– Кто там у вас командует – ты или машина? Ну и что он сообщил?

– Эта машина называется «Смерть букашкам», можете себе представить?

– Могу – и сегодня же свяжусь с ФБР и начну действовать. Я тут должен был провести одно короткое совещание, так оно только что стало еще короче – я его совсем отменил. Сейчас же возвращаюсь к вам.