Алгоритмы разума - Амосов Николай Михайлович. Страница 43

Общеизвестно крайнее разнообразие отношений между людьми, не только чужими, но даже внутри семьи. То же касается и животных — даже сука по-разному относится к своим щенкам. Чем определяются эти различия. Можно предположить несколько факторов:

1. Биологическая близость. Она особенно выражается в близости семейной, в которой играет большую роль инстинкт продолжения рода.

2. Принадлежность к одному рабочему коллективу и к одной социальной группе.

3. Соотношение величины лидерства у вступивших в отношения людей. То же касается и подчиненности.

4. «Набор чувств», структура личности, и в частности — общительность.

5. Общность убеждений.

6. И наконец — обратная связь, самоорганизация.

Пунктов перечислено много, что показывает, сколь сложны отношения между людьми.

Как же быть с искусственным интеллектом. Увы, если он предназначается для человеческого общества, нет другого выхода, как моделировать в нем всю сложность исходных чувств. В частности, необходимо заложить в него «чувство справедливости», должны формироваться симпатии и антипатии, определяющие разницу в «коэффициенте доброты», разницу в значимости сопереживания близким и чужим. Другое дело, что все это при проектировании ИИ проще «дозировать» и можно задавать благоприятные характеристики. Однако и здесь не все однозначно. Осуществить азимовский главный «закон робототехники» — не вредить людям — не так просто. Он упирается в качество воспитуемости: задавать ли возможность изменения «врожденной» характеристики чувств в процессе деятельности или нет, а если да, то в какой степени. Видимо, на этот вопрос нельзя ответить однозначно, потому что возможны разные сферы деятельности ИИ в человеческой среде. Несомненно одно — нельзя допускать излишнюю самоорганизацию искусственного интеллекта, иначе он может выйти из-под контроля людей.

Врожденные потребности-чувства значат для человека много, но не все. Речь и обучение создали возможность приобретать «искусственные чувства», являющиеся выражением потребностей более высокой разумной системы — общества. Как уже говорилось, убеждения — это словесные формулировки, их модели, обладающие значительной активностью и имеющие сильные связи с центрами интегральных чувств Пр — НПр. Они определяют, что можно, что должно, чего нельзя делать, что хорошо и что плохо. Содержание убеждения может быть крайне различным — от запрещения ругаться до отвлеченных идей, побуждающих их приверженцев к самоистязанию или преступлениям против общества.

Рис. 41. Схема формирования отношений и убеждений.

Формирование убеждений, их изменение в течение жизни в связи с условиями существования трудно формализовать. Тем не менее я сделал такую попытку применительно к некоторому условному интеллекту. Общая схема формирования отношений и убеждений показана на рис. 41.

Социальная среда условно представлена тремя источниками идей. Любых идей, которые выражаются словесными формулами, обращающимися к чувствам. Обычно источниками идей являются окружающие люди — вначале члены семьи, товарищи, учителя, потом — общественные организации, рабочие коллективы, наконец — книги. Но в данном случае не в этом дело, нас интересует схема. Понятие «воспитатель» и «воспитуемый» в равной степени относится и к ИИ.

Каждый из представителей среды, человек или группа людей, имеет свои симпатии и антипатии, свое отношение к носителю интеллекта. Это отношение он высказывает словами и поступками. Пока ограничим наше рассмотрение словами. Правда, наказания «голодом» и «болью» не исключены, учитывая, что «телесные чувства» будут представлены в ИИ обязательно.

На рис. 41 показаны притязания со стороны интеллекта в адрес своих оппонентов и воспитателей. Понятие это было уже дано. Повторяю: притязания подразумевают величину «платы», которую хотел бы получить интеллект от среды в ответ на свою деятельность с целью максимального удовлетворения своих потребностей. Притязания всегда превышают реальную «плату», потому что если они полностью удовлетворяются, то наступает адаптация чувства и для достижения их максимума нужно увеличивать «плату». Человек живет в условиях компромисса — его притязания всегда превышают «плату», не позволяя адаптироваться к счастью.

Притязания вызывают реакцию на них со стороны адресатов, которая тоже выражается словами и поступками (представьте пример из практики воспитания детей). Первый компонент отношения интеллекта к адресату зависит от этой реакции на его притязания.

Второй компонент — пожалуй, главный — определяется сравнением положения носителя интеллекта с положением соответствующих групп или лиц (снова — адресатами) с поправкой на его лидерство. Отношение высказывается, в ответ на него следует реакция, служащая обратной связью и воздействующая на отношение.

Так формируется система отношений (симпатия либо антипатия) к разным источникам идей —лицам, социальным группам в зависимости от результата сравнения положений, лидерства и обратной связи.

Отношения не исчерпываются только симпатиями и антипатиями, это еще и авторитеты, и их уровень. Именно они и определяют формирование убеждений.

На рис. 41 все источники идей объединены «полем идей». Оно включает в себя набор словесных формул, их «адрес» (источник) и интенсивность их повторения. Иначе говоря, «поле идей» — это содержание различных убеждений, которые циркулируют в общественной среде, окружающей интеллект. Какие формулы и в какой степени усваиваются — зависит от так называемой установки. Этот термин введен психологами для обозначения изначального отношения к высказыванию (слушать ли его, воспринимать ли, либо пропускать мимо ушей, как не стоящее внимания или заведомо ложное). Установка зависит от авторитета источника и от степени совпадения содержания идеи с уже имеющимся убеждением, созданным в предшествовавшие периоды жизни интеллекта.

В памяти развитого интеллекта (а мы говорим именно о таком, когда имеем дело с третьим уровнем сознания) имеется достаточный набор словесных формул, претендующих на роль убеждений,— это и есть все «поле идей» с указанием их адресатов. Некоторые из них уже стали своими убеждениями с определенной значимостью, то есть активностью и связями с чувствами. Внешнее воспитание изменяет эти убеждения на некоторую величину ∆Уб, зависящую от установки и от интенсивности воздействий (например, от частоты повторения фраз и образов в средствах массовой информации).

Так осуществляется постепенный «дрейф» убеждений: в зависимости от авторитета тех, кто их проповедует, и от содержания уже достигнутых ранее убеждений.

Следует различать содержание убеждений и их значимость, то есть активность по сравнению с врожденными для человека или изначально заданными для ИИ чувствами. Например, можно принимать заповеди религии, но не придавать им особенного значения, и тогда они не могут конкурировать с потребностями, производными от инстинктов.

Убеждения и заданные чувства соединены прямыми и обратными связями: убеждения могут усиливать или тормозить чувства, а те в свою очередь участвуют в формировании убеждений. Проще всего внедрить в сознание те словесные формулы, которые совпадают с насущными потребностями. И наоборот, чем абстрактнее формулы, тем труднее их сделать значимыми убеждениями.

Очень сложно формализировать «поле идей», что необходимо при создании ИИ. В самом деле, существует огромное множество словесных формул, приобретающих значимость чувств, их трудно вместить в модель. Мне кажется, что нужно установить основные направления идей, сопоставить им специальные шкалы, выбрать на каждой шкале противоположные точки и приписать им численные значения со знаками + и —. Тогда промежуточную точку можно определять как координату по данному убеждению. Число таких шкал в первом приближении должно соответствовать основным чувствам: жадности, страху, общению, доброте, стремлению к лидерству, любознательности, лени. Люди тоже создают идеи по всем этим чувствам, и общество внушает их своим гражданам, формируя у них убеждения. Не буду разбирать особенности построения шкал по каждому убеждению, это относится к задаче моделирования общественных систем. В качестве примера можно сослаться на «шкалу жадности».