Алгоритмы разума - Амосов Николай Михайлович. Страница 45

Относительно недавно для большинства людей главным объектом приложения их деятельности была природа. Жизнь состояла из непосредственного добывания пищи и защиты от врагов — холода, зверей. Правда, люди уже давно объединились для борьбы с природой, но общение между ними играло подсобную роль. Теперь все изменилось совершенно. Главным объектом деятельности большинства людей в высокоразвитых странах являются сами люди и созданная ими техника. Непосредственно с природой общается только несколько процентов населения, но и те — чаще при помощи техники, чем прибегая к собственной мышечной силе. Содержанием жизни большинства стали общественные отношения. Если самый глубокий смысл жизни — в его модельном выражении — остался таким же: стремление к максимуму уровня душевного комфорта, то компоненты, его составляющие, стали иными. Подавляющая часть потребностей теперь удовлетворяется через отношения людей. Мы даже мыслим больше словами, чем образами.

Все это я говорю для того, чтобы подойти к смыслу жизни искусственных интеллектов как членов общества. Пока они будут вкраплены в человеческое общество, они будут жить смыслом человеческой жизни. Представьте себе общество бесполых людей — это совсем не так трудно вообразить. Людям было бы достаточно занятий, развлечений и удовольствий и за пределами инстинкта размножения. По условиям возрастным и социальным многие живут такой «бесполой» жизнью. Так же, теми же стимулами будут жить среди нас искусственные интеллекты. Будут ли они счастливее нас, людей, зависит от того, как их спроектировать. Уже говорилось о том, что есть некоторые непреложные законы деятельности интеллекта, обязательный набор потребностей, свойств, в том числе скука и адаптация, без которых ИИ невозможен, но которые не позволят ему быть безоблачно счастливым.

Предположим, поставлена задача создать роботов с интеллектом, которыми нужно заселить планету, причем так, чтобы колония могла жить самостоятельно и развиваться без связи с людьми и Землей. Основное требование одно — прогресс, возрастание и развитие общества в целом. Другое требование (сомнительное и спорное) — члены общества должны быть по возможности счастливы: с некоторым достаточным УДК, со сравнительно небольшим его разбросом среди групп «населения».

Как для таких ИИ спроектировать интеллект — вопрос не главный. Он может действовать только по одним законам, если говорить о развитом интеллекте, с третьим уровнем сознания. Эти законы были обсуждены выше. Вопрос — в потребностях и чувствах, которые будут двигать интеллектом, в качествах, которые нужно ему придать, чтобы общество удовлетворяло требованию прогресса и устойчивости.

Вернемся к смыслу жизни — уже для членов колонии ИИ. Борьба с природой. Да, борьба останется. Нужны энергия и материалы для того, чтобы воспроизводить самих роботов, огромную техносферу, обеспечивающую получение этих материалов и энергии. Прогресс общества — в науке, а она материальна. Уж ктокто, а ученые знают, что наука может поглотить сколь угодно техники и энергии. Следовательно, будет большая и очень разносторонняя «материальная» в буквальном смысле слова деятельность. Ей обязательно сопутствует или даже предваряет ее информационная индустрия, тоже требующая материальных средств.

Другие точки приложения сил для ИИ будут примерно такими же, как и у нас. Общение. Искусство воспитания новых поколений. Поглощение информации. Сопротивление старению и болезням. Впрочем, последняя проблема будет выглядеть иначе, чем у людей, хотя и не исчезнет совсем. Вот и все аспекты смысла жизни.

Все это возможно только в очень развитом технологическом обществе. Сложность его, если включить науку, будет очень велика. Можно ли рассчитывать, что эта сложность вместится в интеллект каждого члена колонии роботов. Думаю, что нельзя. Внешняя память — библиотеки информации и программ — будет доступна всем, а вот собственная память не может содержать всех моделей. Общество в целом должно быть гораздо умнее своих членов. Еще одно условие, вытекающее из разнообразия и сложности,— технологическое неравенство членов общества. Одни должны будут выполнять одну работу, другие — другую. Если невозможно вместить все модели в интеллект каждого, то потребуются «специалисты».

Другой вытекающий из этого вопрос: может быть, следует проектировать разных роботов —- «элиту», «рабов»... Не думаю. «Рабами» должны быть машины с элементарным интеллектом без всяких признаков самоорганизации, но, возможно, с некоторым самым низким уровнем сознания. Такое же положение, как теперь с рабочим скотом. Машины будут даже еще гораздо ниже — просто умные автоматы. (Уверен, что уровень сознания высших млекопитающих, к примеру, собак, лошадей, живущих с людьми, не так уж низок и мы повседневно нарушаем их «права»).

Но как только создадут ИИ, способный к обучению, уже невозможно будет удержать его на уровне «раба». Поэтому самое разумное для удовлетворения второго требования (обеспечить достаточный УДК членов колонии) — это «врожденное равенство» интеллекта. Может быть, полная идентичность. Не думаю. Нужно разнообразие, обеспечивающее различия в интеллектуальной деятельности, но не более. Нельзя примирить большое неравенство, способность к сопереживанию, высокий уровень сознания и высокий УДК!

Попытаемся представить себе необходимый набор потребностей-чувств, который будет достаточен, чтобы обеспечить прогресс, высокий УДК членов колонии и устойчивость системы. Одно условие уже высказано — набор чувств одинаков у всех, а значимость их различается у индивидов в некоторых допустимых пределах. Эти пределы еще требуют проработки на моделях.

Потребность самосохранения несомненно останется, как уже доказывалось применительно к искусственным интеллектам, назначение которых — служба людям. Нужен «страх» и нужен «голод», так как возможна трудная жизнь, с опасностями. Нужны эмоции с некоторыми ограничениями пределов.

Рабочие потребности уже несколько раз перечислялись. Вот они еще раз: любознательность и потребность поиска, потребность действовать и доводить ФА до конца — «рефлекс цели», «рефлекс свободы». Потребность в отдыхе и расслаблении как реакция на напряжение и однообразие.

Интегральные чувства Пр — НПр обязательны. Именно по ним интеллект оптимизирует свою деятельность.

Такие качества, как адаптация и способность моделей и связей к тренировке, предопределяющие самоорганизацию, являются непременной принадлежностью всякого развитого интеллекта.

Самый спорный вопрос — это общественные чувства и потребности. Как было бы хорошо представить себе благополучное общество, в котором «граждане» с искусственным интеллектом лишены всех пороков, портящих людям жизнь. Однако будет ли состоящее из таких «граждан» общество удовлетворять требованиям прогресса, «счастья» и устойчивости — в условиях исключительной сложности среды и структуры самого общества.

Рассмотрим вопрос о лидерстве и подчиненности. Несомненно, деятельность будет коллективной, поскольку сложность среды во много раз превысит моделирующие возможности каждого из ИИ. Следовательно, моделирование будет осуществляться с упрощениями, а значит, и с искажениями, вызванными субъективностью. Субъективность, ограниченность ведут к разногласиям в оценках. При этих условиях эффективная деятельность коллектива возможна только при наличии руководителя, лидера. Назначение его из числа равных не решает проблемы: нужен авторитет, только тогда коллектив работоспособен. Как ни рассуждай, но без потребности руководить и подчиняться, выраженной в разной степени у членов любого сообщества, работоспособный коллектив невозможен. Итак, эти потребности необходимы. Лидерство должно сочетаться с повышенными способностями, подчиненность — со способностями поскромнее. Тогда все станет на свои места.

Однако — при одном условии: лидерство должно быть ограничено. Нужно задать такие характеристики и так лимитировать тренируемость центров, то есть способность изменяться в результате самовоспитания, чтобы не развился диктатор.