Мегабитовая бомба - Лем Станислав. Страница 17

Единственное объяснение причин отсутствия интеллекта, перемещенного из живого мозга в машины, отсутствия малейшего следа одушевления машин (не Deus exmachina [Бог из машины (лат.)], а хотя бы Animus ex machina [Душа из машины (лат.)]) звучит следующим образом.

НЕТ ОДНОГО ЕДИНСТВЕННОГО РАЗУМА. Нет также единственного вида интеллекта. Если будет создан Artificial Intelligence, а не какой-нибудь заменитель, более или менее удачно имитирующий интеллект, то уже тем самым, хотим мы того или нет, люди как конструкторы AI вступят в царство многообразия. Интеллектуальная система будет послушна — или не захочет быть послушной. А так как она будет понимать приказы, просьбы, воздействия, пожелания, то может послушаться или воспротивиться. Если такая система всегда и во всем будет готова слушаться, то тем самым продемонстрирует, что является безвольной и «не может иметь собственного мнения». То, что одни и те же научные, художественные, литературные и т. д. тексты разные люди, по-разному образованные, талантливые, то есть не конченые идиоты (о них не говорю здесь вообще), способны трактовать по-разному, интерпретировать, по-своему признавать важными или мелкими, взволноваться ими или разозлиться, чувствовать возмущение, безразличие или восторг, — все это, что я перечислил, и то, чего краткости ради приводить не стану, показывает множество реальных проявлений разумности, существование которой мы склонны признать. Если бы это было не так, то не смогли бы возникнуть исторические (или диахронические) и современные (или синхронические) разнообразные стили мышления в религиях, в философии и last but not least даже в инженерно-промышленном создании оружия или спасительных лекарств и терапевтических методов. Ибо, например, любая из существующих сейчас экспертных программ не придумает для нас нового метода лечения любого заболевания, так как программы совершенно не мыслят, а если б начали думать, то должны были бы думать разнообразно. Иными словами: создать искусственный интеллект — значит создать и поле свободы для интерпретации. Так называемая лингвистическая перформативность означает: любой человек, который способен пользоваться языком (понимая его, а также разговаривая на нем), вообще не должен и даже не может идеально однозначным способом артикулировать мысли, возникающие у него в мозгу. В таких малых масштабах «перформативность» просто означает, что мы говорим в меру свободно, а не только цитируем исключительно то, что выучили наизусть. Наизусть говорит граммофонная пластинка, или магнитофонная лента, или дискета. Мы можем изменять «направление бега мыслей, словами отображаемых». Чем лучше кто-либо знает данный язык, тем большая свобода артикулярного разнообразия преобладает в его разговорах, в иностранном же языке мы сильно ограничены. К чему я клоню этим будто бы развлекательным разговором? Единственно к тому, что, высекая интеллект из неживых устройств, мы окажемся в окружении множества проблем. О некоторых напомню.

В настоящее время устройствам передачи данных не хватает самоконтроля. Модемам все равно, что они передают на весь сетевой мир: изображения святых, или изображения голых задов, или формулы производства взрывчатых веществ. Им все равно, и от этого мы сейчас страдаем, так как люди имеют неприятную привычку пробовать фрукты, заказанные исключительно из-за их необычности либо вредные, даже убийственные. Но прошу взвесить: если в сетях возникнет блуждающий «искусственный интеллект», тем самым появится способность фильтрования, сдерживания, отсева и уничтожения информации, так как интеллектуальность, которая единокровна с разумностью, может и даже обязана быть также способной к введению цензуры для установления преград прохождению определенного рода информации. При этом окажется, что есть много различных интеллектов, и тем самым разные государства, разные режимы, разные веры, разные миропонимания, разные точки зрения начнут пользоваться способностью «нейтрализации или уничтожения» такой информации, на которую наложено табу и поступления или доступности которой для тех или иных адресатов они не желают. Сейчас, чтобы оградить детей от возможности просмотра электронно пересылаемых изображений (например, по TV), отец или мать могут установить «электронный намордник» на телевизор, исходя из того, что они (отец с матерью) узнают о программе, которая должна появиться. Если эту «приставку» не установят, то телевизор сам по себе какой-либо «добропорядочной цензуры» не создаст. Таким образом, окончательно «цензурируют» изображения или тексты отец с матерью, или дядя с тетей, или воспитатель, но не электронные устройства. Электроны ничто не шокирует. В то же время искусственный интеллект должен, а не только может, проявлять активность и избирательность. Его можно развратить, ему можно то или это отсоветовать, можно его дезориентировать, обмануть, отуманить или научить и объяснить ему что-нибудь. Фундаменталисты безмерно бы обрадовались, если б овладели AI! Тогда не надо было бы, как в Иране, запрещать установку спутниковых тарелок и приемников… Не так уж много прошло с того времени, когда Советы признавали запуск глобально вещающих спутниковых ретрансляторов как casus belli [Повод к войне (лат.)]. Я не придумал это специально для данного эссе. Уже нет Советов и еще нет искусственного интеллекта, но уверяю читателей, что вместе с его появлением наступит новая эра, насыщенная новыми, неизвестными опасностями. Не всех увлекает идея ГЛОБАЛЬНЫХ ВАРИАНТОВ ЦЕНЗУРЫ. Кроме того, я не говорю, что искусственный интеллект может нас взять за горло, но вводить в заблуждение, обманывать, сбивать с пути сможет. Это во-первых. Во-вторых, как нет одинакового у всех людей разума, так не может быть одинакового до тождественности интеллекта. Как существуют двигатели разной мощности, так же могут быть разной силы искусственные интеллекты. Не сразу же начнется построение машинных Эйнштейнов или — как в моем произведении — големов. Может быть, возникнут разные виды интеллекта, основанные на разных типах «характеров». Я лично считаю, что понятия «разумность» и «личность» потенциально разделены. Но такая потенциальная разделенность тоже не может обратиться добром и только добром.

Хочу заметить, что я все еще очень далек от примитивных мифоподобных сказок об «античеловеческом злобном интеллекте», таком, который будет загружать «роботов» человекоубийственными или бунтарскими намерениями. Не нужно сразу же все видеть в крайностях, которые мы легко умеем себе вообразить. Искусственный интеллект может принести и пользу, и вред. Таковой была и остается перспективная судьба любого технологического новшества, которое люди смогли разработать и пустить в действие.

От себя добавлю на полях (однако в соответствии с главным существом моего вывода), что сегодня в мире наблюдается увеличение количества чисто технологических достижений, которые сильно скоррелированы прогрессом увядания свободного творческого воображения. Это происходит не только на телевидении, но и в пластическом искусстве. Недавно увидел по телевидению (спутниковому) какие-то обугленные останки человеческих тел, но это не были жертвы пожара или человекоубийства, а «произведение современного искусства», как я услышал в динамике. Модной является визуализация science fiction, но, к сожалению, убожество воображения авторов сильно контрастирует с богатством техническо-визуальных приспособлений. С интеллектом внетехнологическим и вненаучным дело обстоит очень и очень плохо. Я сам когда-то писал SF и старался свести к минимуму нарушения основных и хорошо известных нам законов природы. Нельзя писать, что замужняя женщина откладывает яйца, а ее муж их высиживает. Но в фильме «Independence Day» во имя кинематографической кассы растоптано и разрушено колоссальное количество законов природы. Большинство событий в этом фильме противоречит очевидному. Например, огромные корабли extraterrestials [Инопланетяне (англ.)] не могут зависнуть над Манхэттеном потому, что при таком приближении к Земле окажется пройденной так называемая граница Роше, ниже которой неизбежен разрыв каждого достаточно большого тела гравитационными силами планеты. Не стоит и добавлять, что не может быть речи о какой-либо совместимости компьютеров с другой планеты из далекого созвездия с земными компьютерами. Уж скорее можно признать правдоподобными разговоры с коровой или жирафом без посредничества каких-либо компьютеров. Как говорится, кинематографисты пудрят нам мозги. А вспомнил я об этом потому, что человеческий интеллект возник, дабы мы могли познавать ИСТИНУ, что, впрочем, в конечном счете означает, что он тоже может ошибаться, может ЛГАТЬ либо быть обманут — иначе его не удастся развить. Интеллект является продуктом (сущностью) естественной эволюции, взбирающимся по ступеням «лестницы прогресса» (на Земле) до такого уровня языкотворчества, когда он способен родить математику. Тогда возникают противоречия между истиной и ложью, возникает логика, возникает царство новой, надживотной свободы и надживотных предубеждений, суеверий, мифов, бредней, с астрологией и сайентологией или иным сектантством во главе. Это все побочные эффекты развития интеллекта, и не думаю, что компьютерная безошибочность может как неотъемлемая часть сопутствовать искусственному интеллекту. Мир может существовать вообще без интеллекта, естественного или искусственного. В то же время надо осознать, что огромное разнообразие серверно-провайдерно-компьютерно-программно-дисковых приспособлений умножается и развивается прежде всего ради прибыли, ради продажи того, что сегодня рекламируется как самое совершенное, а завтра уступит место чему-то новому и будто бы лучшему. Отсюда же — прогрессирующая микроминиатюризация и развитие нанотехнологий производства процессоров. Но не хочу углубляться в технику. Конечно, погоня за прибылью вызвана необходимостью получения материальных благ. Но человеческий интеллект все еще не создает внечеловеческий интеллект («нечеловеческий» — звучало бы плохо). Интеллектуализация, интеллект, разум, сообразительность, мудрость — это понятия, потенциально великолепные и одновременно опасные. Именно это и только это я хотел сказать.