Бесполезные определения

В vk-сообществе «Рационалист» был опрос про уровень амбиций, с вариантами «Просто быть счастливым», «Стать миллионером», «Быть бессмертным», и т.п.

Я написал в комментариях там, что осуждаю опрос за bias в пользу эгоизма: разумные агенты могут иметь цели во внешнем мире, а не только оптимизировать свое собственное благополучие.

Другой человек ответил, что «это тоже все эгоизм», имея в виду, что «люди делают все в своих интересах, чтобы им было хорошо».

Но, ответил я,

полезно задумываться, какое значение в слово вкладывал человек, который его использовал.
Когда я сказал «bias в пользу эгоизма», я имел в виду, что все предложенные варианты направлены вовнутрь: имеют целью достижение человеком некоего состояния, а не изменения окружающего мира. Это возможное определение хорошо тем, что разграничивает цели на два класса.
Когда вы сказали про остальные цели «это тоже эгоизм», то использовали определение, которое не разграничивает цели на классы. Это возможное определение мне кажется плохим своей тавтологичностью, высказывание «эта цель эгоистична» не несет информации.

Другими словами, можно, конечно, назвать эгоистичным любое действие, которое человек совершает намеренно: это действие приближает человека к его целям, реализует его функцию полезности, а не чью-то ещё. Это определение не будет похоже на общепринятое (я ожидаю, что большинство людей не станут называть эгоистичными любые действия вообще), и этим оно плохо (лучше использовать слова в близких к общепринятым смыслах, иначе люди не поймут, что вы имеете в виду), но есть и другая проблема:

Термин, который описывает подмножество явлений, тождественное всему классу явлений, бесполезен по сравнению с термином, который описывает нетривиальное подмножество явлений.

Иногда можно услышать: вот этот стол на самом деле не существует. Мир состоит из элементарных частиц, а идея стола есть только у тебя в голове, на самом деле не существует ничего из тех вещей, которые ты видишь.

Или: что значит «ты не имеешь права»? У людей есть право делать что угодно.

Или: если ты не делаешь что-то, значит, на самом деле ты этого не хочешь. Если бы ты хотел, ты бы это сделал. Люди всегда делают то и только то, чего хотят.

Все эти тезисы включают в себя верные и ценные (для тех, кто с ними ещё не сталкивался) идеи:

  • вещи (группы элементарных частиц) не являются воплощениями идеальных сущностей, и вопрос про корабль Тесея не имеет смысла;
  • люди могут делать что угодно, вопрос только в последствиях, законы общества и этики не являются законами физики, и, в отличие от законов физики, могут быть нарушены;
  • бездействие человека в ситуации, когда физическая возможность для совершения действия есть, является свидетельством, что у человека есть скрытые предпочтения, которые противоречат высказанному «хочу».

Но. Если мы определим слова «существование», «право» и «желание» таким образом, то нам придется отказаться от этих слов вообще. Мы потеряем возможность сказать «дракон не существует, а гараж существует». Мы потеряем возможность сказать «у людей есть право на жизнь, но нет права на убийство», и «я не хочу выполнять свою работу, но хочу продолжать работать с моим начальником».

Опыт показывает, что люди, которые предлагают такие радикальные значения слов, обычно строят либо Полностью Универсальный Контраргумент (чтобы сделать вопрос бессмысленным, потому что он им не нравится), либо просто хотят казаться глубокомысленными.

Принцип доверия предлагает нам выбирать из возможных нам интерпретаций суждения наиболее разумную. Если одно из возможных определений слова делает высказывание бессмысленным, задумайтесь, нет ли другого способа понять высказывание, такого, в котором вам не получится так просто проигнорировать суть.

Как менять людей и сообщества

Эпистемический статус (via): конкретные предложения по улучшению LW-сообщества, про которые я пока что не стараюсь детально обосновать, почему я считаю, что они работают и полезны.

Главная страница сайта tinyhabits.com утверждает, что всего три вещи могут изменить поведение человека в долгосрочной перспективе:

  • epiphany, внезапное прозрение
  • change of environment, изменение среды
  • baby steps, маленькие шаги

Внезапное прозрение по определению недостижимо осознанным усилием. Оно приходит само и случайно. Изменение среды формализовать уже проще: можно перейти к советам «наведите дома порядок», «организуйте себе рабочее место», и дальше ещё к большей детализации и конкретным планам. Маленькие шаги можно воплотить, взяв вместо привычки «каждый день делать зарядку» (если вы никогда этого не делали и не имеете привычки, а все прошлые попытки провалились) привычку «делать одно отжимание каждый день», и установив себе метакогнитивный навык «каждый раз, когда я пытаюсь установить себе привычку, про которую ожидаю, что она будет сложной, я ищу переформулировку меньших масштабов, и начинаю с неё».

В любом случае, конкретные планы лучше общих. Структурированное решение, особенно в форме implementation intention, практически полезнее, чем совет «просто возьми и сделай» или «надо просто больше стараться».

Что делать, если у нас есть сообщество, и мы хотим достичь изменений в нём? Что делать, если в сообществе уже сложились какие-то нормы, и нельзя просто так заставить всех принять новую культуру? Что конкретно мы можем сделать, чтобы поменять нормы поведения, когда многие вокруг говорят, что все могло бы быть лучше, но все остается по-прежнему?

Я много думал над этими вопросами в последнее время: про сообщество lesswrong.ru, про то, как оно отличается от культуры lesswrong.com, про то, как культура lesswrong.com мне нравится существенно больше, и про то, что отличия достаточно значимы в смысле последствий, а не только восприятия.

Если мы хотим какую-то другую культуру, то недостаточно просто сказать «текущая культура плохая». Нужно описать механизм её сдвига в новом направлении.

Я когда-нибудь потом подробнее напишу, почему я верю то, во что я верю. А пока про средства сдвига и логику их выбора.

Распространение common knowledge через карму и лайки.

Common knowledge, «общее знание» — знание не только о своих оценках, но и об оценках других участников, и о мнении модераторов. Знание всеми того, что все другие это знают. (TODO на ближайшие посты: объяснить мою модель того, как через common knowledge формируется культура, этика и нормы поведения.) Тред на форуме, где ожесточённо спорят друг с другом два тролля, и есть два комментария от более разумных людей с аргументами, выглядит существенно иначе, чем тред на facebook’е с таким же содержанием, но где у двух комментариев есть множество лайков, а у троллей нет. И еще существенно иначе, чем такой же тред на lesswrong.com, где тролли, вдобавок, заминусованы.

Тред, в котором (в среднем достаточно разумные) участники расставили свои оценки, даже если они не нашли энергии или достаточного интереса к дискуссии, чтобы написать какой-то текст, сообщает всем остальным читателям, какой позиции придерживается сообщество.

Площадка, на которой оценок нет, предвзята по умолчанию в пользу тех людей, которые любят спорить и придираться к мелочам, тех людей, которые вызывают особо эмоциональные реакции (и желание возразить), и тех людей, которые задают особо глупые и провокационные вопросы.

Площадка с оценками тоже от всего этого не защищена, но дает механизм дешёвой обратной связи для читателей.

Как это может быть реализовано:

  • к форуму lesswrong.ru можно прикрутить движок для рейтингов постов (скоро появится);
  • в slack-чате можно чаще пользоваться реакциями, и придумать общеизвестные нормы оценок: проявления КИ, логических ошибок, осуждения агрессии.

Модерация по (по возможности) явно оглашённым правилам.

Сообщества без средств для соблюдения желаемых норм уязвимо к троллям и глупцам, и если я не доверяю текущей культуре в соблюдении желаемых норм, то без средств для вытягивания культуры до более строгих этических и эпистемических стандартов (которые совсем не присущи людям по умолчанию) оно никуда не сдвинется.

Зачем нужны правила, и почему модераторам следует публично объяснять свои решения? Потому что это тоже common knowledge. Потому что социальное обучение — важный механизм усваивания людьми допустимых норм. И потому что правило, сформулированное хорошим модератором — это интуиция, переведённая в форму, годную для переиспользования, а это главное, чего мы тут хотим добиться: чтобы люди, которые «понимают», научили тех, кто пока ещё не понимает.

Как это может быть реализовано:

  • модераторы могли бы редактировать посты на форуме и дописывать к ним специальным цветом свои комментарии с замечаниями для слабых нарушений, или складывать в публично доступный (но, вероятно, закрытый для обсуждений) тред удаленные сообщения с объяснениями;
  • модераторы в slack’е уже складывают удалённые сообщения в отдельный канал.

Ну и проработать список правил, которые мы считаем желательными, похвальными, или недопустимыми в общении, тоже было бы очень полезно. Но про это следующий пункт.

Серия текстов.

Вот с этого поста я собираюсь начать длинную серию текстов с объяснениями конкретных методов ведения коммуникации, почему я считаю их важными и полезными, и как сделать их практически применимыми.

Мы знаем, что цепочки были важны для формирования lesswrong’а. Хорошо написанные тексты явно могут влиять на культуру, особенно на такую, которая сложилась вокруг набора текстов.

Я пока не знаю, смогу ли я объяснить то, что хочу объяснить, с достаточной степенью детализации и обоснованностью, читаемым языком и понятной структурой. Но я точно хочу попробовать.