Лягушка в кипятке и еще 300 популярных инструментов мышления, которые сделают вас умнее - Макканн Лорен. Страница 16
Эту проблему прекрасно описывает закон Гудхарта. «Когда мера становится целью, она перестает быть хорошей мерой» – эта более распространенная формулировка появилась в статье кембриджского антрополога Мерилин Стратерн «Повышение рейтингов: аудит в системе Британского университета»[37] в 1997 году. «Закон» назван в честь английского экономиста Чарльза Гудхарта, который впервые сформулировал его в докладе Резервному банку Австралии в 1975 году: «Любая наблюдаемая статистическая закономерность будет снижаться, как только на нее надавят с целью контроля».
Социальный психолог Дональд Т. Кэмпбелл сформулировал похожий «закон» (известный как закон Кэмпбелла) в исследовании 1979 года «Оценка воздействия запланированных социальных изменений». Он описал эту идею несколько точнее: «Чем больше некий количественный социальный индикатор будут использовать для принятия общественных решений, тем сильнее он будет подвержен давлению коррупции, и тем вероятнее он будет искажать и разрушать социальные процессы, которые призван контролировать».
Оба описывают одно и то же простое явление: когда вы пытаетесь стимулировать поведение людей с помощью измеримой цели, они концентрируются только на достижении этой меры и часто не так, как вы планировали.
Более того, их поведение будет совсем не похоже на то, которое вы пытались стимулировать.
Культура высоких оценок – будь то школьные экзамены, собеседования на работу или профессиональное лицензирование – создает порочные стимулы типа «обучения по материалам теста» или, хуже того, списывания. В 2011 году в Атланте 178 преподавателей были вовлечены в масштабный скандал, связанный с исправлением ответов учеников в стандартизированных тестах. Дело кончилось одиннадцатью приговорами и осуждениями на срок до двадцати лет по обвинениям в вымогательстве. Точно так же больницы и колледжи все чаще подвергаются критике за то, что пытаются поднять свой рейтинг ценой качественного лечения и образования, то есть того, что рейтинг должен измерять.
В «Краткой истории почти всего на свете» Билл Брайсон описывает ситуацию, в которой палеонтолог Густав Генрих Ральф фон Кенигсвальд случайно создал порочный стимул во время экспедиции:
Открытия Кенигсвальда могли быть куда более впечатляющими, если бы не тактическая ошибка, из-за которой все поняли слишком поздно. Он предложил местным жителям по десять центов за каждый кусочек кости гоминид, который они найдут, а потом, к своему ужасу, обнаружил, что они с энтузиазмом разбивали крупные фрагменты костей на куски поменьше, чтобы получить доход побольше.
Так же поступают джинны из сказок, когда истолковывают желание буквально, делая человеку только хуже. На самом деле для этой ситуации есть ментальная модель, которая называется эффектом кобры и описывает попытку решения проблемы, только усугубляющей ситуацию.
Эта модель берет свое название от происшествия с участием настоящих кобр. Когда британцы правили Индией, их беспокоило количество этих смертоносных змей, поэтому они стали предлагать вознаграждение за каждую змею, которую им принесут. Вначале правило работало хорошо, и численность кобр упала. Но вскоре местные предприниматели занялись разведением кобр чисто ради наживы. Когда правительство это обнаружило и отменило свое правило, всех разведенных кобр выпустили на волю, и их стало еще больше.
Похожая вещь случилась, когда французы управляли Вьетнамом. В Ханое местное правительство платило вознаграждение за убитых крыс, когда им предъявляли крысиные хвосты. Но предприимчивые крысоловы ловили и выпускали крыс на волю, отрезая им только хвост: так крысы могли свободно размножаться. Всякий раз, придумывая стимул, учитывайте закон Гудхарта и успевайте перехватить порочные стимулы, пока все вокруг не заполонили кобры и крысы!
Эффект Стрейзанд применяется к еще более конкретной ситуации, когда вы нечаянно привлекаете больше внимания к чему-то, что пытаетесь скрыть. Он назван в честь певицы и актрисы Барбры Стрейзанд, подавшей в 2003 году в суд на фотографа и сайт за публикацию аэрофотосъемки ее особняка, который она не хотела подвергать огласке. До суда изображение с сайта скачали всего шесть раз. Но после того, как люди увидели новости о судебном процессе, сайт посетили сотни тысяч раз, и теперь фото общедоступно и висит у всех на виду в «Википедии» и во многих других местах. Как говорили об Уотергейтском скандале[38]: дело не в преступлении, а в попытке его скрыть.
Эффект Стрейзанд
© 2002 Кеннет и Габриэль Адельман, Калифорнийский проект записи побережья, www.californiacoastline.org.
Родственная модель, на которую надо обратить внимание, – это эффект гидры. Он назван в честь лернейской гидры – монстра из греческой мифологии, у которого на месте каждой отрубленной головы вырастают две. Когда арестовывают одного наркоторговца, его быстро сменяет другой в ответ на покупательский спрос. Когда закрывают сайт с пиратскими фильмами или музыкой, на его месте возникает сразу несколько. Смена режима в стране может привести к еще худшему режиму.
Про такое говорят: «Не пинай осиное гнездо» – то есть не трогай то, что создаст еще больше проблем. Запомните эти ловушки: закон Гудхарта и эффекты кобры, гидры и Стрейзанд. Если вам придется задуматься об изменении системы или ситуации, вы должны учитывать человеческую хитрость и быстро на нее реагировать. Скорее всего, отдельные личности попробуют обойти систему или как-то еще вам подгадить ради личной выгоды или развлечения.
Если вы все-таки решитесь действовать, нужно опасаться еще одной ловушки – эффекта наблюдателя, где эффект от действия зависит от того, как вы за ним наблюдаете, или даже от того, кто наблюдает. Вот пример из повседневной жизни – нужно измерить давление в автомобильной шине. Для этого вам придется выпустить немного воздуха, и в процессе давление в шине уменьшится. Или с визитом большого босса все прилично ведут себя и опрятно одеваются.
Эффект наблюдателя, безусловно, нужно учитывать при проведении реальных измерений, но также нужно помнить, что люди косвенно меняют свое поведение, когда перестают быть анонимами.
Вспомните, как трудно откровенничать на камеру. Или какие разные отзывы вы оставите о работе коллеги в анонимном опросе и в отчете, подписанном вашем именем.
В книге «Эффект запугивания: онлайн-наблюдение и использование “Википедии”» оксфордский исследователь Джонатан Пенни изучил паттерны трафика «Википедии» до и после того, как Эдвард Сноуден в 2013 году разоблачил тактики интернет-шпионажа Агентства национальной безопасности США. Он обнаружил, что количество просмотров статей о терроризме с такими терминами, как Аль-Каида, Талибан и автомобильная бомба, снизилось на 20 %. Подразумевается, что люди узнали о правительственной слежке и перестали читать статьи, из-за которых у них могут быть проблемы. Эта концепция называется эффектом запугивания.
Эффект запугивания в «Википедии»
Джонатан У. Пенни «Эффект запугивания: онлайн-наблюдение и использование “Википедии”». Berkeley Technology Law Journal 31, № 1 (8 сентября 2016 года): С.148.
В правовом контексте, откуда взят термин эффект запугивания, он относится к случаям, когда люди запуганы или лишены возможности свободно пользоваться своими правами из-за страха судебных исков или судебного преследования. В более общем смысле эффект запугивания – это вид эффекта наблюдателя, где угроза возмездия влияет на поведение.
Иногда эффект запугивания создается специально, например, когда кому-то нарочно демонстрируют, как будут обращаться с нарушителями. Допустим, компания агрессивно судится с другой компанией за свои патенты, чтобы другие и не подумали соперничать с ними.