Психотронная тюрьма риторики: история о том, что мешает нам мыслить здраво
Аристотель придумал, что в риторике есть четыре главных способа убеждения. Пафос — через эмоции и повествование. Логос — через факты и логику. Этос — через авторитет того, что убеждает. Есть еще кайрос, фактор контекста: того, когда вас пытаются убедить и при каких условиях.
Познакомился я с ними, когда работал академконсультантом в США: помогал получать высшее образование так, чтобы иметь хорошие оценки и не тратить слишком много денег. В колледжах США риторику изучают все гуманитарии на первом курсе, иногда даже технари. И так как всю риторику сводили именно к способам убеждения, мои клиенты из Ближнего Востока и Китая часто этим возмущались. И спрашивали меня, какой скрытый смысл в том, чтобы изучать такие очевидные вещи.
Что же, ответ у меня есть. Я считаю, что этос — это бич мыслящего человека. Кайрос — кандалы, который выковал информационный век. А понимание того, как работает риторика — базовый инструмент критического мышления. Особенно для IT-специалиста.
Я так много рассказывал об этом на кухнях и в чатах, что решил написать статью. А получился лонгрид с научными исследованиями, разбором влияния алгоритмических новостных лент, и безумным комиксом из мемов, который я делал 4 часа в Фигме. Поехали!
UPD Большое спасибо всем тем людям, что помогли мне исправить ошибки и очепятки! Только на Хабре так стремятся помочь, и это неоценимо.
1]. Чтобы выжить, нашим предкам пришлось брать на веру слова опытных и знаменитых сородичей. Те, кто слушал на охоте Праславика, который когда-то убил мамонта, выжили и родили детей. Те же, кто верил Правиталику, который поймал в бороде блоху, на охоте не выжили, и гены их не пошли в народ. Чем больше развивалось человечество, тем меньше эмпирического опыта мог получить отдельный человек, и тем важнее ему было учиться у более опытных сородичей. Так мы и дожили до того, что верим авторитетам.
А те, кто убил и скушал мамонта лишь потому, что Праславик описал его очень вкусным, проходили отбор по пафосу. Но там в деле замешаны еще сострадание, эмпатия, и всё куда сложнее.
Что же тогда не так в том, чтобы слушать прогнозы трейдеров и знаменитостей, а не троллей из интернета и ноунеймов? Подвох в том, что утверждения об экспертах выше верны только касательно _эмпирического опыта_. Это значит, что в повторяющихся ситуациях и в анализе прошлого эксперты справляются лучше, чем люди с улицы. По крайней мере, иногда.
А вот в прогнозировании будущего, эксперты справляются хуже. И это не шутки: исследования Филиппа Тетлока показали, что среднестатистический эксперт-политолог справляется хуже, чем статистический анализ[
2]. И что «шимпанзе, мечущий дротики в мишень», справился лучше, чем специалисты и статистический инструментарий. А в случае с предсказаниями котировок фондового рынка, усредненный диванный эксперт из интернета справляется лучше, чем профессиональный аналитик из банка[
3][
4]. Об этом Нассим Талеб рассказывает половину своей книги «Черный Лебедь», повторяя на всякий лад.
Важный момент: эксперты действительно существуют, и разница между человеком из улицы и профессором есть[
2]. Но настоящих экспертов больше там, где можно легко получить эмпирический опыт и поставить эксперимент. И там, где для работы требуется открытость мышления и готовность к неожиданностям.
Потому врачи, водители, инженеры, пилоты и физики справляются со своей работой лучше, чем случайный человек с улицы, посади его лечить людей или пилотировать. Но все они могут делать катастрофические ошибки, вне зависимости от именитости и опыта.
В итоге, единственный рабочий способ ориентироваться в мире — это сравнение мнений, собственный анализ, эксперименты или хотя бы критическое мышление. Но постоянно мыслить критически очень сложно. Мозг — очень экономный механизм, и он максимально пытается использовать дешевые обученные нейросети, а не дорогие аналитические. Это имеет смысл: чем больше ты калорий сэкономил в живой природе, тем реже ты выходишь из логова в поисках еды, и тем меньше твой шанс стать едой самому.
▍Этос: мастер-класс на пальцах
Эксперты и исследования Тетлока как-то далековато находятся к нам, чтобы восприниматься серьезно. Поэтому у меня есть два примера: один из повседневной жизни, а другой повлиял в прошлом году на всех нас.
Как состоявшийся спорщик, но писатель неизвестный и начинающий, я влияние этоса испытал на себе сполна. Когда у меня в
Психотронке 30 подписчиков не считая собаки, а у блогера-политолога их 300 тысяч, его этоса хватит, чтобы при встрече в чате, толпа стала на его сторону вне зависимости от темы спора. В моем случае блогер доказывал, что совершенно невозможно получить Ph.D. в США, цитируя Библию как источник в научной работе. Тем более, в медицинской специальности. Ведь в цивилизованном мире так дела не делаются.
Я не осуждаю людей. Логичнее доверять экспертному блогеру, ведь человеку есть что сказать. Однако исследования показывают, что с ростом авторитетности и известности эксперта растет только его уверенность в собственных предсказаниях, но никак не точность этих предсказаний[
2]. В той истории с Библией к блогеру прилетел черный лебедь, ведь соискатель Ph.D. с Библией был моим клиентом. И моим клиентом он стал потому, что его куратор цитирование Библии требовал. Но меня все равно признали фантазером и забанили.
Этос в интернете, где авторитет измеряется цифрами, вообще творит страшные вещи. Например Tomas Pueyo, автор
той самой статьи о коронавирусе, перевод которой набрал на Хабре рекордное количество просмотров, не врач. И даже не статистик, хотя всю статью украсил графиками. Конечно, у Томаса есть степень магистра инженерного дела и MBA, и он самостоятельно провел анализ данных из открытых источников, пусть методами своих расчетов не поделился.
Но подвох в том, что до марта 2020 года, Томас писал только о инфобизнесе (которым сейчас и занимается), личном успехе и позитивном мышлении. И его лучшие статьи назывались "
Как написать смешную речь?" или "
Как умерить ожидания CEO". Но с марта 2020-го, естественно, Томас писал только о коронавирусе, ведь по его же словам
[20], он получил в тысячи раз больше просмотров, чем обычно.
Через год этого человека будут цитировать министры и общественные деятели, обосновывая необходимость жесткого карантина
Итак, вопрос. Хотели ли бы вы, чтобы Томас был министром здравоохранения в вашей стране и принимал решения по борьбе с эпидемией? Последние три абзаца, в сочетании с картинкой выше, заставляли бета-тестеров этого текста говорить «нет». Именно так работает риторика, ведь этос Томаса к этому моменту серьезно пострадал.
Правильный ответ другой. По крайней мере, британцы бы предпочли Томаса своим министрам. В апреле 2020, Томас в гостях у MIT Technology Review упоминает о том, что Британия поздно последовала его совету превентивных карантинов, и поплатится за это жизнями[
20]. В январе 2021, Борис Джонсон, премьер-министр Британии, будет
просить прощения за 100,000 смертей от коронавируса — в том числе, из-за промедления с карантином.
Прогнозы развития пандемии, которые Томас сделал, оказались очень похожими на то, что произошло на самом деле. Но его нельзя было предсказать, судя из его биографии и предыдущих заслуг. Этос оказался бесполезным дважды: он сперва заставил поверить неспециалисту, а потом отринул то, что неспециалист может сделать правильные выводы.
В итоге, чтобы есть досыта и не стать едой самому, приходится думать самостоятельно. И думает каждый по своему карману. Мыслители при деньгах, вроде основателя Амазона Безоса, нанимают штат разноплановых экспертов. Их заставляют работать в команде и пользоваться проверенными методами; это увеличивает точность предсказаний[
2]. В итоге, Безос хвастается тем, что его работа — думать о проблемах на 2-3 года в будущем, а сегодняшние беды разгребают мальчики на побегушках[
5]. Судя по всему, пока его подход работает.
Но у начинающего критического мыслителя, как правило, нет ни денег, ни влияния Безоса, не говоря уже о карманной корпорации. Поэтому новичок начинает с того, что учат еще в школе: сравнивает разные точки зрения. И попадает во вторую ловушку — в пасть прирученного кайроса.
▍Прирученный алгоритмами кайрос
Кайрос — то есть влияние контекста и своевременности подачи на убедительность информации — тоже известен со времен греков[
6], но менее известен, чем его три брата. Настолько менее известен, что на русскоязычной вики о нем нет статьи, а в риторику его включают только самые хорошие (читай: «самые дорогие») колледжи. Так случилось потому, что кайрос до ХХІ века был вещью очень очевидной. В летнюю жару предложение искупаться соблазнительнее, чем во вьюгу. Бедный охотнее выступит за налоги для богатых, чем богатый. В общем, банальности.
Разумеется, манипулировать контекстом додумались тоже давно. Революции происходили тогда, когда было много голодных и недовольных. Газеты почти с самого своего появления занялись рекламой, а потом — борьбой за то, чтобы быть главным источником новостей[
7]. А зачем это им было нужно, догадаться несложно.
Даже сайты до появления адблока продолжали многовековые традиции.
Но в эпоху газет, большую часть времени люди проводили в реальном мире. Опровергнуть откровенную чушь можно было выглянув в окно, или поговорив с соседями. Потому журналисты практиковали миротворчество в отношении к заморским странам. События там проверить обычный человек не мог и не сильно хотел.
Но в ХХІ веке случилась перемена. Первое — что большую часть своей познавательной деятельности человек стал проводить в интернете. Второе — что информационную среду человека перестал определять его выбор, будь то выбор газеты, бара или места жительства. На сцену вышли контентные алгоритмы, со временем потеснив прежнего лидера распространения информации — соседей[
8]. То, что показывает Фейсбук в ленте, Ютуб и Яндекс Новости, формируется специально исходя из предпочтений пользователя и его поведения. Эдакой личный тайный советник для каждого.
Как человек, который постоянно работает с рекламой, я уверяю вас (поняли подвох, да?), что считаются не только лайки. Длительность чтения, внимательность, соответствие переписке, которую тоже анализируют роботы — всё это учитывается для того, чтобы показать вам правильный набор постов. На Хабре и в рунете есть профессионалы по таргетингу рекламы и те, кто делает контентные алгоритмы, так что микрофон тут передаю им. Вот
тут можно почитать, например, сколько всего Фейсбук знает о пользователе (но куда сильнее впечатляет
официальная документация рекламного кабинета Фейсбука), а
тут — небольшой обзор алгоритмов Ютуба.
При этом, цель контентных алгоритмов не в том, чтобы пользователь стал умнее, сильнее, или хотя бы счастливее. Их цель — увеличить время пользователей за просмотром контента, а вместе с этим — количество взаимодействий с рекламой. Взаимодействия важны: пассивные зрители менее ценны чем те, который лайкают (или дизлайкают) и комментируют. А лучше всего, когда в контент вовлечены другие и друзья: тогда зависнуть можно надолго[
9].
Моя попытка проиллюстрировать работу контентных алгоритмов. Полный размер
Таким образом, людям показывается не только то, с чем они согласны и что им нравится, но и то, что вызывает у них эмоциональный ответ. Например, группы единомышленников, где можно пообщаться с другими людьми. Или противоречащие их взглядам посты, но вызывающие эмоциональный ответ. Ведь там можно побить врага комментами вместе с единомышленниками, которых алгоритм тоже подвезет.
▍Самоисполняющиеся пророчества
И когда я рисовал картинку выше, то понял, что контентные алгоритмы влияют не только на потребителей, но и на производителей контента. Алгоритм пессимизирует то, что не вызывает ответа у пользователей, и продвигает то, что заставляет читателей реагировать. И дальше включаются правила рыночной экономики.
Контент с риторикой логоса, вроде «Итоги личного опыта пользования Linux на разных платформах», вызывает меньше реакции чем риторика пафоса: «10 причин ненавидеть Linux: исповедь бородатого юзера» [
10]. Это мотивирует производителей контента сменять разумные доводы эмоциональными ради больших охватов. Второй факт: адаптация контента под конкретную аудиторию и тему приводит к большему росту популярности, чем нейтральность, объективность и широкий обзор.
Журналисты и опытные в вопросе люди скажут, что так было всегда. Но раньше, «адаптация» контента под пользователей происходила в прямом контакте между читателями и продюсерами. Теперь же, продюсеры контактируют не с пользователями, а алгоритмами. И уже они распределяют контент между пользователями, согласно своему тайному пониманию темы и аудитории.
Получается самовыполняющееся пророчество. Пользователи группируются алгоритмами в аудитории по критерию поведения и интересов. Им показывается определенный контент, и отфильтровывается тот, который алгоритм считает вредным для вовлеченности. Ну а создатели контента, с целью повысить популярность своего творчества, вслепую «нащупывают» алгоритмические понятия о прекрасном. И начинают производить таргетированный контент, который алгоритмы подхватывают на ура.
Я коллекционирую мемы про кликбейт, который тоже является попыткой оптимизировать алгоритмы.
Истории получаются едва не библейские. Например, книжный блогер 5 лет обозревает хорошую литературу и не получает ни гроша. А знаменитостью становится, как только начинает обозревать треш для подростков[
11]. Без слез смотреть нельзя.
Ранее, контентные алгоритмы замечались в еще более грязной игре. Например, женщинам показывались их более успешные знакомые, потому что наблюдение за ними затягивает. Но психиатры обнаружили вредный эффект такого «социального сравнения» и забили тревогу[
12], и Фейсбук лавочку прикрыл. Из-за похожего давления, Фейсбук в 2018 году перекрутил алгоритмы, уведя трафик рекомендаций от брендовых страниц к страницам реальных людей[
13]. История, где Фейсбук «вдруг» осознает, как плохо он поступал, и перекраивает все алгоритмы, продолжается до сих пор.
Но до сих пор мне Фейсбук советует одних политиков, а моей маме других. Мой брат живет в совершенно ином Ютубе, чем я. Каждый может эмпирически увидеть существование контентных алгоритмов. И мы возвращаемся к основной теме — чем же риторика кайроса так вредна?
▍Война воображаемых миров
Главная беда алгоритмических лент в том, что они приводят к сильному сужению разнообразия точек зрений, доступных человеку. В свою очередь, у нас есть встроенное когнитивное искажение,
эвристика доступности, из-за которой события кажутся более вероятными, правдивыми или частыми, если легче вспоминаются. Соединение алгоритмической ленты и эвристики доступности создает ситуацию, где человек постепенно убеждается, что его картина мира является единственно возможной. Этот феномен стал известен как информационный пузырь, по-английски Filter Bubble[
14].
Ученые считают алгоритмические пузыри причиной поляризации политических и социальных движений в последнее время – например, в США[
15]. Те же ненавидимые всеми в рунете SJW просто варятся Твиттером, Фейсбуком и Ютубом в сообществе согласных между собой людей. Оно существует по четким для них правилам, в нем происходят события по определенным сообществом причинам; это де-факто отдельный мир со своими физическими законами. И когда большой инфо-повод или ошибка алгоритма вкидывает к ним события из другого «пузыря» — например, объективированных женщин с громадной грудью из «пузыря» геймеров — SJW испытывают культурный шок.
Та самая политическая поляризация и радикализация в США. Источник с большими размерами и анимацией
Такой же шок, как если бы вдруг на улицах появились римляне и стали требовать эвокации доллара как бога в Пантеон. Так как мы теперь потребляем информацию и удовлетворяем любопытство не из окружения, а интернета, то разрушение «пузыря» — это буквальное вторжение из другого мира. Оттуда радикализация между политическими партиями, потакание лутингу ради социальной справедливости, и прочие дикие для нас, но совершенно естественные для обитателей соседнего «пузыря» вещи.
И это работает во все стороны. Мы на Хабре – непонятные пришельцы для мира открыток из Одноклассников. Когда Джавараш переводили свои курсы для англоязычной аудитории, англоязычные возмущались, что робот удивляется цветным волосам женщины[
16]. А теперь и дня не проходит без вскрытия очередного информационного пузыря.
Журнал «Рабдно» тому пример: если хотите увидеть, как выглядит культурный шок, покажите тимлиду из Москвы интервью с воспитателем детского сада, который питается объедками, или моряком, который неделями может ходить на горящем корабле.
Я лично считаю, что общество уже стало приспосабливаться к среде алгоритмов и создавать специфичные для проживания в информационных пузырях феномены. Например, канцелинг — исключение из информационной повестки — это имитация людьми работы информационных алгоритмов, стражей их мировоззренческого порядка.
Да, остракизм, изгнание из общества, существовал еще в Древних Афинах, и в них же считался смерти подобным[
17]. Но редко когда остракизм ограничивался одним выдавливанием из информационной повестки, как это случилось недавно с Трампом. Раньше, все же, предпочитали выдавливать из физической реальности.
В итоге, кайрос препятствует тем, кто прошел первый уровень квеста к критическому мышлению и поборол власть этоса. Когда точки зрения выдаются строго под момент, а их разнообразие дозировано, чтобы вы не удалились из Фейсбука, нельзя прийти к нестандартному выводу. Когда в Гугле сайты, на которых стоит больше всего обратных ссылок (читай: вложено больше денег), показываются выше других[
18], нестандартные выводы даже не нагуглить.
И это если вам повезет понять, что ваша картина мира не соответствует действительности.
Вот мы и пришли к тому, что бытовой рациональности для хорошей жизни недостаточно. Доверять авторитетам и ссылаться на них — это наше врожденное свойство. Но даже если удается начать мыслить критически и приступить к самому простому, сравнению точек зрения, в ногу стреляет намеренная «узость» информационного пузыря современного человека.
Выводы простые. Во-первых, как бы не было это больно, свобода мышления требует открытости к чужим мирам и мировоззрениям. Даже если чужие миры выглядят, как ад из Doom, а вы в том аду Думгай.
Во-вторых, стоит перехватить себе контроль над потребляемой информацией. Это сложнее: усилиями Гугла, RSS уже не так популярен, и мало где остались места, где хитрый робот не пытается сделать выбор для вас. Отказ от новостной ленты как лишенной практического смысла вещи, и подбор каналов, изданий и блогов под свои интересы и цели — хороший шаг.
И главное: не забывайте о рациональности. Новости и информационные пузыри довели уже до того, что американские бедняки голосуют за Республиканцев, в большинстве своем крупных и наследственных богачей[
19]. Действуйте в первую очередь в интересах своих и своей семьи. И только потом — в интересах государства, народа, и прочих воображаемых персонажей
https://m.habr.com/ru/company/ruvds/blog/559664/
Линейный вид
