Как устроена пропаганда: управление реальностью через слова, эмоции и смыслы

Можно ли солгать, не сказав неправды

Классическая модель проста: манипулятор лжёт, а проверка фактов его разоблачает. Реальность хитрее: большая часть влияния на картину мира происходит не на уровне отдельных утверждений, а на уровне их отбора, порядка, названия и эмоциональной окраски.

Философы языка различают сказанное и подразумеваемое. В заголовке «Мэр встречался с бизнесменом, позже арестованным за мошенничество» каждое слово может быть точным, но читатель достраивает связь: мэр причастен. Тот же приём работает в рекламе («ни один другой крем не увлажняет лучше» — то есть все примерно одинаковы), в корпоративных отчётах («выручка выросла» — при падающей прибыли) и в быту («я ничего не хочу сказать, но он опять задержался на работе»).

Сравните, как одни и те же события звучат в нейтральной и в нагруженной подаче:

Здесь нужна оговорка: пары в правом столбце не всегда эквивалентны левому. Иногда сильное слово точнее нейтрального — если людей действительно уволили без выплат, «выбросили на улицу» может быть честной оценкой, а «оптимизировали» — эвфемизмом. Нейтральность не равна истине, а эмоциональность не равна лжи. Вопрос в другом: заменяет ли оценка факты или следует из них, и показывает ли автор, на чём она основана.

Манипуляция работает в обе стороны: «сопутствующий ущерб» смягчает, «варварский удар» усиливает. Тот, кто видит пропаганду только в чужих формулировках, а свои считает «называнием вещей своими именами», уже попал в ловушку.

Проверка фактов необходима, но недостаточна: сообщение может пройти фактчекинг полностью и всё равно искажать картину. Поэтому разбор нужно вести по слоям — что утверждается, на чём основано, что подразумевается и что опущено. Подробно этот метод описан в материале про слои утверждений и доказательств.

Что такое пропаганда и чем она отличается от информирования

Слово «пропаганда» пришло из церковной латыни: в 1622 году папа Григорий XV учредил Конгрегацию распространения веры (de Propaganda Fide). Негативный оттенок слово приобрело в XX веке, после кампаний Первой мировой войны и тоталитарных режимов. Эдвард Бернейс в 1928 году назвал свою книгу просто «Пропаганда» и считал её неизбежным инструментом управления демократией. Когда слово стало ругательным, ту же деятельность переименовали в «связи с общественностью» — неплохой пример фрейминга.

Рабочее определение для этого текста: пропаганда — систематическая попытка сформировать восприятие, отношение и поведение аудитории в интересах источника, при которой цель важнее точности, а эмоциональное и социальное воздействие важнее проверяемого аргумента. В этом определении нет слова «ложь». Ключевые признаки — систематичность, заранее заданный вывод и асимметрия: источник знает, куда ведёт, аудитория — нет.

Полезно отличать пропаганду от соседних явлений:

• Информирование стремится дать аудитории материал для самостоятельного вывода. Хороший информационный текст показывает неопределённость, альтернативные объяснения и ограничения данных. Он не боится, что читатель придёт к «неправильному» выводу.
• Убеждение открыто аргументирует позицию. Автор колонки говорит: «Я считаю так, и вот почему». Читатель понимает, что перед ним мнение, и может оценить доводы. Убеждение превращается в пропаганду, когда скрывает свою цель или подменяет доводы давлением.
• Реклама — тоже открытое влияние: все понимают, что продавец хвалит товар. Но реклама активно использует пропагандистские техники — эмоциональные ассоциации, социальное доказательство, создание дефицита, — и граница размывается, когда реклама маскируется под независимый обзор или новость.
• Агитация — призыв к конкретному действию здесь и сейчас: проголосовать, выйти, подписать, купить. Агитация ведёт к действию, пропаганда готовит для него почву.

Французский социолог Жак Эллюль в книге «Пропаганда» (1962) добавил важное различие. Помимо явной, «политической» пропаганды существует пропаганда интеграционная или социологическая — диффузное, часто никем не управляемое давление образа жизни, норм и стандартов, которое транслируют кино, реклама, школа и массовая культура. Она не говорит «голосуй за Х», она говорит «нормальные люди живут вот так». Её почти невозможно заметить, потому что она совпадает с ощущением нормальности.

Отсюда следует, что пропаганда — не только политика. Табачная индустрия середины XX века, по данным историко‑документальных расследований, сознательно культивировала «сомнение в науке» как стратегию. Велнес‑блогер, который подаёт любую медицину как заговор, а свои курсы — как спасение, использует те же приёмы, что и государственный телеканал. Активист любой стороны, который публикует только удобные факты, а противников изображает идиотами или злодеями, делает то же самое. И родитель, который рассказывает ребёнку о бывшем супруге только плохое, ведёт маленькую пропагандистскую кампанию.

Это не значит, что всякое влияние одинаково вредно: государственная монополия на информацию и семейная обида — не одно и то же. Но механизмы общие, и навык их распознавания универсален.

Фрейминг: как слова выбирают реальность

Фрейминг (framing, «рамирование») — выбор того, в какой рамке подать информацию: какие аспекты подчеркнуть, какие слова использовать, с чем сравнить и какую проблему назвать главной. Рамка не меняет факт, но меняет то, что в нём видно.

Самый известный пример — исследования Амоса Тверски и Даниэля Канемана начала 1980‑х. В задаче «азиатской болезни» людям предлагали выбрать программу борьбы с эпидемией. Когда исходы описывались через спасённые жизни, большинство выбирало надёжный вариант; когда те же исходы описывались через погибших — большинство склонялось к рискованному. Математически варианты были идентичны. В похожем исследовании Барбары Макнил и коллег (1982) пациентам, студентам и даже врачам описывали выбор между операцией и лучевой терапией. Формулировка «90% выживают в первый месяц после операции» делала хирургию заметно привлекательнее, чем «10% умирают в первый месяц», — хотя это одна и та же цифра. Размер эффекта в разных воспроизведениях различается, но сам эффект рамки — одно из наиболее устойчивых наблюдений поведенческой науки.

Лингвист Джордж Лакофф перенёс эту идею в политику. Его книга «Не думай о слоне» (2004) построена на простом наблюдении: нельзя опровергнуть рамку, повторяя её. Если вас попросить не думать о слоне, вы подумаете о слоне. Если политик говорит «налоговое бремя», а оппонент отвечает «налоговое бремя не так уж тяжело», он уже согласился, что налоги — это бремя, а не, скажем, взнос за инфраструктуру. Работы Лакоффа многие исследователи критикуют за слишком сильные утверждения о когнитивных механизмах, но его практическое наблюдение о том, что словарь задаёт поле спора, подтверждается повседневным опытом.

Фрейминг работает через несколько рычагов:

1. Выбор слова. «Беженцы», «мигранты», «нелегалы» и «приезжие» описывают пересекающиеся группы людей, но включают разные ассоциации — сочувствие, нейтральность, угрозу, бытовую чуждость.
2. Выбор точки отсчёта. Рост на 5% выглядит успехом по сравнению с прошлым годом и провалом по сравнению с обещанными 10%.
3. Выбор масштаба. «Миллион долларов на программу» звучит огромно; «три цента на человека в год» — ничтожно. Это одна сумма.
4. Выбор героя и жертвы. История о закрытии завода может быть рассказана глазами уволенного рабочего, акционера, эколога или жителя соседнего города, у которого очистилась река.
5. Выбор метафоры. Преступность как «вирус» требует лечения причин; преступность как «хищник» требует клетки. В исследовании Пола Тибодо и Леры Бородицки (2011) одна метафора сдвигала предпочтения читателей между профилактикой и наказанием, хотя позднее эффект оказался скромнее.

Рамка неизбежна. Любой текст что‑то подчёркивает и что‑то оставляет в тени. Нейтральной подачи в абсолютном смысле не существует. Задача не в том, чтобы найти текст без рамки, а в том, чтобы заметить рамку и спросить, какие ещё рамки возможны.

Один факт — несколько реальностей

Попробуйте взять один и тот же факт и пропустить его через противоположные рамки. Это одно из лучших упражнений против пропаганды, потому что оно показывает, насколько много интерпретации прячется в «просто новостях».

Демография. Факт: рождаемость в стране снижается десятый год подряд. Рамка угрозы: «Нация вымирает, нас заменят». Рамка прогресса: «Люди получили доступ к образованию и контрацепции и сами решают, когда заводить детей». Рамка экономики: «Рынок труда сожмётся, пенсионная система не выдержит». Каждая рамка опирается на реальные данные и предлагает разные решения — от запрета абортов до реформы пенсий.

Технологии. Факт: системы ИИ автоматизируют часть задач в офисной работе. Рамка угрозы: «Машины отнимут работу у миллионов». Рамка освобождения: «Люди избавятся от рутины и займутся творческим трудом». Рамка власти: «Выгоду получат несколько корпораций». Все три рамки находят подтверждающие примеры, и никакая не описывает будущее целиком.

Контроль и безопасность. Факт: в городе установили камеры с распознаванием лиц. Рамка безопасности: «Найдены десятки разыскиваемых преступников». Рамка свободы: «Каждый шаг граждан теперь отслеживается». Рамка эффективности: «Система ошибается, и цена ошибки — задержание невиновного». Спор о камерах часто оказывается спором о том, какая из рамок «правильная», хотя на деле каждая освещает свою реальную сторону.

Экономика. Факт: годовая инфляция составила 8%, а год назад была 12%. Рамка провала: «Цены продолжают расти, жизнь дорожает». Рамка успеха: «Инфляция замедлилась на треть». Обе фразы верны. Какая из них попадёт в заголовок, часто зависит от того, кто у власти и кому симпатизирует редакция.

Образование. Факт: школа отменила обязательные оценки в младших классах. Рамка деградации: «Детей больше ничему не учат и не спрашивают». Рамка гуманизации: «Дети перестали бояться ошибок и учатся с интересом». Рамка неравенства: «Родители без ресурсов потеряли понятный способ отслеживать успехи».

Оговорка, без которой упражнение превращается в релятивизм: множественность рамок не означает, что все они одинаково обоснованы. Иногда данные сильно поддерживают одну интерпретацию и слабо — другую. Смысл упражнения не в том, чтобы сказать «всё субъективно», а в том, чтобы увидеть выбор там, где раньше казалось, что есть только «как есть». После этого можно задавать содержательные вопросы: какие данные подтверждают каждую рамку, что она упускает и кому выгодна.

Эмоции вместо аргументов

Эмоции — не враг мышления. Они помогают быстро оценить важность события, мотивируют действовать и сообщают о ценностях. Проблема возникает, когда эмоция подменяет проверку, а не дополняет её. Пропаганда целенаправленно использует эту подмену.

Даниэль Канеман популяризировал различие между быстрым, интуитивным мышлением («Система 1») и медленным, аналитическим («Система 2») — это метафора, а не два отдела мозга, но полезная. Сильная эмоция поддерживает быстрый режим: человек реагирует, а не взвешивает. Пол Словик описал «аффективную эвристику»: то, что вызывает приятное чувство, кажется одновременно более полезным и менее рискованным, хотя логически эти оценки независимы.

Основные эмоциональные рычаги пропаганды:

• Страх. Сообщения об угрозе получают приоритет внимания: эволюционно дешевле десять раз испугаться тени, чем один раз пропустить хищника. Страх повышает готовность принять жёсткие меры и сильного лидера. Им пользуются политики («если не мы, то хаос»), страховщики, продавцы БАДов и авторы панических постов о еде.
• Гнев. Гнев мобилизует и делает людей увереннее в своих суждениях. Исследования указывают, что сообщения с моральным возмущением распространяются в соцсетях активнее, хотя размер эффекта обсуждается.
• Отвращение. Его легко перенести с предметов на людей: дегуманизирующие кампании описывали целые группы как «паразитов» и «заразу». Отвращение отключает эмпатию быстрее любого аргумента.
• Гордость и принадлежность. «Мы — великий народ», «только настоящие профессионалы выбирают…» — приятный образ себя в обмен на согласие.
• Надежда и вина. Обещание, что один лидер, продукт или реформа решит все проблемы, и упрёк «если не поделишься, значит, тебе всё равно». Человек соглашается, чтобы получить облегчение или избавиться от неприятного чувства.

Отдельный инструмент — история вместо статистики. Одна фотография страдающего ребёнка мобилизует больше сочувствия, чем данные о тысячах пострадавших («эффект идентифицируемой жертвы»). История сама по себе не манипуляция; манипуляцией она становится, когда яркий случай подаётся как типичный вопреки статистике.

Признак эмоциональной манипуляции — не сама эмоция, а её несоразмерность и срочность. Если сообщение требует немедленной реакции («поделись, пока не удалили», «осталось два часа»), если интенсивность чувства не соответствует масштабу события, если после прочтения хочется действовать, а не узнать больше, — это повод остановиться.

Создание врага: «мы» и «они»

Ни один приём не сплачивает группу так быстро, как общий враг. Психолог Анри Тэшфел в экспериментах с «минимальными группами» начала 1970‑х показал, что людям достаточно случайного, почти бессмысленного деления — например, по предпочтению одной из двух абстрактных картин, — чтобы начать распределять ресурсы в пользу «своих». Последующие исследования уточнили картину: фаворитизм к своим проявляется надёжнее, чем враждебность к чужим. Но и фаворитизма хватает, чтобы пропаганде было на что опереться.

Образ врага выполняет несколько функций одновременно:

1. Объясняет неудачи. Если экономика буксует, виноваты не решения, а саботажники, иностранцы, олигархи, бюрократы, мигранты или «глобалисты» — в зависимости от того, кто рассказывает. Механизм козла отпущения (scapegoat) снимает ответственность с источника и даёт аудитории простое объяснение сложной проблемы.
2. Сплачивает. Внутренние разногласия отходят на второй план перед общей угрозой. Критика «своих» начинает выглядеть как помощь врагу.
3. Оправдывает меры. Против врага допустимо то, что недопустимо в мирной жизни: ограничения, слежка, насилие, нарушение правил.
4. Дегуманизирует. Враг постепенно перестаёт быть человеком с мотивами, страхами и разнообразием мнений. Он становится однородной массой, у которой есть только злой умысел.

Типичная лестница: ярлык, затем негативные истории, затем интерпретация любых действий через злой умысел, затем «с такими нельзя договориться» и наконец — «с ними нужно что‑то делать». Историки массовых преследований описывают её в очень разных обществах.

Образ врага особенно убедителен, когда у него есть реальные основания: у любой группы находятся настоящие негодяи. Пропаганда обобщает реальные эпизоды до характеристики всей группы и закрывает доступ к контрпримерам, а проступки «своих» объявляет единичными случаями или провокацией.

Деление на «нас» и «их» используют все. Политики разных лагерей изображают оппонентов угрозой существованию страны. Корпорации строят маркетинг против конкурентов или против воображаемого врага потребителя («химия», «большая фарма»). На работе отдел продаж и отдел разработки годами рассказывают друг о друге анекдоты, которые постепенно становятся «правдой». Подробнее о том, как групповая принадлежность встраивается в убеждения, — в разделе про группу и идентичность в гиде по архитектуре убеждений.

Полезный тест: попробуйте описать позицию «противника» так, чтобы её сторонник согласился, что вы поняли её верно. Если это не получается — вероятно, вы знаете не саму позицию, а её пропагандистский образ.

Повторение и иллюзия правды

В 1977 году Линн Хашер, Дэвид Голдштейн и Томас Топпино провели эксперимент: участники несколько раз с интервалом оценивали правдоподобность утверждений, часть которых повторялась. Повторённые утверждения со временем казались более правдивыми — независимо от того, были ли они истинными. Так был описан эффект иллюзорной правды (illusory truth effect).

Механизм связан с беглостью обработки: знакомое утверждение легче понять, а лёгкость мозг ошибочно принимает за признак истинности. Это разумная эвристика в обычной жизни — часто повторяемое действительно чаще бывает правдой, — но она легко взламывается. Самое неприятное открытие сделали Лиза Фацио и коллеги в 2015 году: эффект работает даже для утверждений, противоречащих знаниям самих участников. Человек, который знает правильный ответ, после повторения ложного варианта оценивает его как чуть более правдоподобный. Знание ослабляет эффект, но не отменяет его. Гордон Пенникук с соавторами (2018) показали, что даже однократное предъявление фальшивого новостного заголовка повышало его воспринимаемую достоверность при следующей встрече — хотя для совсем абсурдных утверждений эффект слабел.

Отсюда несколько практических следствий:

• Объём важнее качества. Сотня слабых повторений может перевесить один сильный аргумент. Именно поэтому кампании строятся на лозунгах и коротких формулах, а не на развёрнутых доказательствах.
• Разные источники усиливают эффект. Если одно и то же утверждение звучит от «разных» людей, оно кажется подтверждённым независимо. На деле источники могут повторять друг друга или один исходный пресс‑релиз. Социологи называют это ложным консенсусом, а журналисты — эхом.
• Опровержение может невольно повторять ложь. Заголовок «Нет, вакцины не вызывают Х» повторяет связку «вакцины — Х». Поэтому специалисты по коррекции дезинформации рекомендуют начинать с правды, кратко упоминать миф, объяснять, почему он ошибочен, и заканчивать снова правдой — так называемый «сэндвич истины».
• Мем побеждает отчёт. Краткая, ритмичная формулировка распространяется лучше длинной и точной.

Повторение используют не только политики. Рекламный слоган кажется «правдой» о продукте. Корпоративная мантра «мы — одна семья» звучит как описание реальности, даже если компания увольняет людей по почте. Семейная легенда о «безответственном дяде» становится фактом просто от частоты.

Защита здесь не в силе воли, а в процедуре. Ощущение «я это где‑то слышал, значит, наверное, правда» стоит превратить в вопрос: «где именно и на чём это основано?». Если ответа нет, знакомость — не аргумент.

Полуправда, умолчание и выборочная статистика

Если ложь можно поймать, то полуправду почти невозможно опровергнуть, не вдаваясь в детали, которые аудитория уже не слушает. Поэтому опытные манипуляторы предпочитают не выдумывать, а отбирать.

Умолчание. Самый простой и самый мощный приём. Сообщить о росте преступности в районе, но не сказать, что одновременно изменилась методика учёта. Рассказать о побочных эффектах лекарства, но не упомянуть, каков риск без лечения. Показать протест, но не сказать, сколько было участников. Вопрос «что здесь не сказано?» — один из самых продуктивных в критическом чтении. В статье «Видеть дырку, а не бублик» подробно разобрано, как тренировать внимание к отсутствующему.

Вишнёвый отбор (cherry picking). Из множества данных выбираются те, что подтверждают тезис. Из двадцати исследований цитируются три. Из десяти лет графика показываются два удобных. Из интервью берётся одна фраза. Каждый отдельный элемент достоверен, общая картина — нет.

Удобная точка сравнения. «Безработица снизилась вдвое» — по сравнению с пиком кризиса. «Расходы на оборону выросли на 40%» — по сравнению с годом аномально низкого финансирования. Выбор базы сравнения способен превратить любой тренд в успех или провал.

Относительные и абсолютные числа. «Риск вырос на 50%» звучит пугающе. Если риск вырос с 2 на 10 000 до 3 на 10 000, абсолютное изменение — один случай на десять тысяч. Медицинские и фармацевтические сообщения — как рекламные, так и паникёрские — особенно часто пользуются этим разрывом. Хорошее правило: на любое «в N раз» спрашивать «а сколько было в абсолютных числах?».

Средние, скрывающие распределение. «Средняя зарплата выросла» может означать, что выросли доходы небольшой верхней группы, а у большинства ничего не изменилось. Медиана и распределение часто рассказывают совсем другую историю, чем среднее арифметическое.

Корреляция как причина. «В регионах с большим числом X выше уровень Y». Связь может объясняться третьим фактором или обратной причинностью, но подаётся как доказательство вины или заслуги.

Вырванная цитата, обрезанное видео, графики. Фраза «я не говорю, что он вор» превращается в «он вор», если обрезать начало. Видео конфликта начинается с ответного удара. Обрезанная ось Y превращает рост на 2% в обрыв.

Ложная балансировка. Позиция подавляющего большинства специалистов и позиция маргинального меньшинства подаются как равноценные «две стороны», и зритель выносит впечатление, что «учёные спорят», хотя спора по существу нет.

Важно не превратить эти знания в оружие только против оппонентов. Каждый, кто спорит в интернете, склонен приносить в спор удобную статистику и не замечать неудобную. Тест на честность простой: применяю ли я тот же уровень скепсиса к цифрам, которые мне нравятся?

Идеология: когда пропаганде уже не нужно убеждать

Самая эффективная пропаганда — та, которой больше не приходится работать. Когда у человека сложилась устойчивая картина мира, новые сообщения не нужно доказывать: достаточно, чтобы они в эту картину вписывались. Идеология выполняет роль готового фильтра, который сам отбирает подходящие факты и отбрасывает неподходящие.

Идеология сама по себе не синоним лжи: это система ценностей и объяснений, которая помогает ориентироваться в сложном мире, и у каждого есть какая‑то её форма. Проблема начинается, когда система становится нефальсифицируемой: любое опровержение заранее объявлено происками врагов, а любое подтверждение — доказательством истины. В большом гиде по архитектуре убеждений этот переход описан подробно — от защитного пояса вспомогательных объяснений до момента, когда фактам больше некуда войти.

Связь идеологии и пропаганды двусторонняя. Пропаганда формирует идеологию, постепенно наполняя картину мира нужными рамками, врагами и ценностями. А сформированная идеология делает человека восприимчивым к пропаганде «своей» стороны и почти глухим к сообщениям «чужой». Исследователи политической психологии описывают это через мотивированное рассуждение: человек строже проверяет неудобные доводы и мягче — удобные. Он не выдумывает факты, но меняет планку доказательства в зависимости от вывода.

Несколько признаков того, что идеология начинает работать как фильтр, а не как инструмент:

• Вы заранее знаете, что думаете о новости, ещё до того, как прочитали её, — по одному источнику или упоминанию.
• Любые ошибки своей стороны кажутся исключением, а любые ошибки другой — проявлением её сути.
• Вы не можете назвать данные, которые заставили бы вас пересмотреть позицию.
• Люди с другими взглядами кажутся вам не ошибающимися, а глупыми или злонамеренными.
• Сомнение внутри вашей группы воспринимается как предательство.

Эти признаки не принадлежат одной стороне спектра: они встречаются у сторонников любых политических взглядов, у приверженцев диет и методик воспитания, у фанатов технологических брендов.

Идеологическая готовность объясняет, почему пропаганда так часто «проповедует обращённым»: значительная часть политической коммуникации направлена не на переубеждение противников, а на мобилизацию сторонников. Её эффект не в изменении взглядов, а в их укреплении и превращении в действие.

Социальное давление и спираль молчания

Человек — социальное существо, и многие его убеждения держатся не на доказательствах, а на согласии окружающих. Пропаганда это использует: если создать впечатление, что «все так думают», значительная часть людей присоединится или как минимум перестанет возражать.

Эксперименты Аша. В 1950‑х годах Соломон Аш просил участников сравнить длину линий — задачу, в которой ошибиться почти невозможно. Но в группе были подставные участники, которые единодушно давали неправильный ответ. Около трети ответов настоящих участников совпадали с ошибочным мнением группы, хотя большинство хотя бы раз оставались при своём, а один союзник, говорящий правду, резко снижал конформизм. Воспроизведения давали разный уровень эффекта, и интерпретации расходятся: одни участники, видимо, сомневались в своём восприятии, другие просто не хотели выделяться.

Социальное доказательство. Роберт Чалдини в «Психологии влияния» описал этот принцип: в неопределённой ситуации мы смотрим, что делают другие. Отзывы, счётчики покупок, лайки, «миллионы уже выбрали» используют одно правило — а сигнал «все так делают» легко подделать.

Спираль молчания. Немецкий социолог Элизабет Ноэль‑Нойман в 1970‑х предложила теорию, объясняющую, как мнение меньшинства может казаться мнением большинства. Люди постоянно оценивают «климат мнений» и, если считают свою позицию непопулярной, склонны молчать из страха изоляции. Молчание делает эту позицию ещё менее заметной, другие её сторонники тоже решают молчать — и спираль закручивается. Громкое меньшинство начинает выглядеть как большинство, а реальное большинство может не знать, что оно большинство.

Эмпирическая поддержка теории неоднородна: метаанализы находят связь между воспринимаемой поддержкой мнения и готовностью его высказывать, но в среднем небольшую и зависящую от культуры и темы. Тем не менее сама идея — видимость консенсуса меняет реальное поведение — полезна для понимания пропаганды. Близкое явление — плюралистическое невежество: большинство втайне не согласно с нормой, но каждый думает, что остальные её поддерживают.

Пропаганда строит иллюзию консенсуса разными способами: опросами с наводящими формулировками, показом только одной реакции в эфире, сетями ботов, «народными» движениями, профинансированными одной структурой (astroturfing — от названия искусственного газона). Корпорации заказывают фальшивые отзывы, активисты всех направлений координируют атаки в комментариях, а в рабочем чате один напористый человек может создать ощущение, что «все так считают».

Защита начинается с простого вопроса: «Откуда я знаю, что большинство думает именно так?». Часто ответ — «так говорят в моей ленте» или «так сказали по телевизору», и это не одно и то же, что реальное распределение мнений.

Современная пропаганда: алгоритмы, пузыри и ИИ

Механизмы, описанные выше, известны десятилетиями и даже веками. Что изменилось — так это инфраструктура. Раньше для массового влияния нужен был доступ к газетам, радио и телевидению. Теперь любой может производить контент, а распределение внимания всё сильнее зависит от алгоритмов рекомендаций.

Алгоритмы вовлечённости. Платформы оптимизируют ленты под время просмотра, клики, комментарии и репосты. Алгоритм не имеет политических взглядов, но он «узнаёт», что лучше всего удерживает внимание: возмущение, страх, конфликт, сенсация. Получается структурный перекос в пользу эмоционально заряженного контента. Это не заговор платформ, а побочный эффект бизнес‑модели — но для пропагандиста он работает как бесплатный усилитель.

Пузыри фильтров и эхо‑камеры. Идея Илая Паризера (2011) о том, что персонализация запирает людей в информационных пузырях, стала популярной метафорой, но эмпирическая картина сложнее. Многие пользователи видят больше разнообразных источников, чем принято думать; плотные эхо‑камеры характерны прежде всего для небольшой, но очень активной части аудитории, и создаются они часто собственным выбором подписок, а не алгоритмом. Встреча с противоположными взглядами тоже не всегда смягчает: в части исследований контакт с «чужим» контентом лишь усиливал поляризацию. Проблема не только в том, что мы не видим других, но и в том, что видим их в худшем, самом возмутительном исполнении.

Микротаргетинг. История Cambridge Analytica сделала популярной мысль, что персональные данные позволяют «взломать» избирателей. Реальная эффективность психографического таргетинга спорна: исследования находят небольшие эффекты персонализации, а доказательств массового изменения взглядов гораздо меньше, чем громких заявлений — включая заявления компаний, продававших такие услуги. Но точечная доставка позволяет разным группам видеть разные версии кампании, которые никто не видит целиком, и это затрудняет публичную проверку.

Генеративный ИИ. Языковые модели и генераторы изображений резко удешевили производство правдоподобного текста, голосов и видео: тысячи «разных» комментариев, фальшивая запись речи, фото несуществующего события. Второй риск тоньше — «дивиденд лжеца»: когда подделать можно всё, удобно объявлять подделкой всё неудобное. Насколько сильно ИИ‑контент меняет реальное поведение, пока недостаточно данных; разумно не преувеличивать и не преуменьшать. ИИ влияет и на потребление: пересказы и ответы чат‑ботов становятся новой рамкой между человеком и источником, способной сгладить неопределённость или перепутать атрибуцию. Как читать их с поправкой на ограничения, разобрано в материале про критическое мышление и ИИ‑саммари.

Инфлюенсеры и скорость. Пропаганда всё чаще выглядит как личное мнение симпатичного человека, которому заплатили — компания, партия или государство. А ложное сообщение набирает миллионы просмотров за часы, пока проверка занимает дни. Исследование Соруша Восуги и коллег (2018) на данных Twitter показало, что ложные новости в среднем распространялись быстрее и шире правдивых, причём основной вклад вносили люди, а не боты; методология обсуждается, но вывод о преимуществе новизны и эмоциональности согласуется с другими данными.

Почему умные люди тоже уязвимы

Распространённое утешение звучит так: пропаганда действует на необразованных и легковерных, а умный человек её распознает. Исследования и история этого не подтверждают.

Жак Эллюль выдвинул провокационный тезис: образованные люди особенно восприимчивы к пропаганде, потому что потребляют больше информации, считают себя обязанными иметь мнение обо всём и уверены в своей независимости. Тезис строго не проверялся, но указывает на реальную проблему: уверенность в своей неуязвимости — сама по себе уязвимость. Психологи описывают «слепое пятно предвзятости»: искажения легко видны у других и плохо — у себя.

Мотивированное рассуждение. Зива Кунда (1990) описала, как желаемый вывод влияет на то, какие доводы человек ищет и как строго их проверяет. Интеллект здесь работает как адвокат, а не как судья. Работы Дэна Кахана указывали, что люди с лучшими навыками работы с числами в отдельных экспериментах сильнее расходились в интерпретации политически заряженных данных; однако эти результаты обсуждаются, а исследования Пенникука и Рэнда показывают, что аналитическое мышление в среднем помогает отличать ложные заголовки от правдивых независимо от взглядов. Честный итог: аналитичность скорее помогает, но не гарантирует защиты, особенно когда тема касается идентичности.

Обратный эффект (backfire effect). В 2010 году Брендан Найхан и Джейсон Райфлер описали случаи, когда коррекция усиливала веру в ложное утверждение. Идея стала популярной, но последующие работы — в том числе Томаса Вуда и Итана Портера — показали, что обратный эффект встречается редко. Чаще коррекция немного сдвигает фактические убеждения в верную сторону, хотя не обязательно меняет позицию, которая на них держалась.

Экспертиза вне своей области и сложность как камуфляж. Специалист переносит уверенность на области, где его знания не лучше среднего, а аудитория доверяет ему по авторитету. Для образованных пропаганда упаковывается в графики, ссылки и тон «независимого аналитика»: ссылки реальны, но интерпретация в них не заложена, и ощущение обоснованности подменяет проверку.

Что действительно помогает — не уровень интеллекта, а стиль мышления: готовность искать доводы против своей позиции, отделять вопрос «что верно» от вопроса «что выгодно моей группе», формулировать условия, при которых вы изменили бы мнение. Джулия Галеф называет это мышлением разведчика в противовес мышлению солдата — подробнее в конспекте книги «Мышление разведчика».

Как распознавать пропаганду: алгоритм проверки

Ни один чек‑лист не даёт гарантии, но последовательность вопросов снижает вероятность попасться. Ниже — алгоритм, который можно применять к новости, посту, рекламе, видео или разговору. Не обязательно проходить все шаги каждый раз; чем сильнее реакция и выше ставки, тем больше шагов стоит сделать.

1. Заметьте свою реакцию. Что вы чувствуете — страх, гнев, злорадство, восторг? Насколько сильно? Хочется ли немедленно поделиться или действовать? Сильная эмоция — не доказательство манипуляции, но сигнал замедлиться.
2. Определите источник. Кто это говорит? Первоисточник или пересказ пересказа? Какие у источника интересы — финансовые, политические, репутационные? Профессиональные фактчекеры используют «латеральное чтение» (lateral reading): вместо того чтобы долго изучать сам сайт, они открывают новые вкладки и смотрят, что о нём пишут другие. Исследования Стэнфордской группы Сэма Вайнбурга показали, что этот приём работает лучше, чем внимательное чтение исходной страницы.
3. Отделите факт от интерпретации. Что именно утверждается как проверяемый факт? Что — оценка, прогноз, вывод? Перепишите сообщение нейтральными словами и посмотрите, что останется.
4. Найдите рамку. Какие слова выбраны и какие можно было выбрать вместо них? Кто герой, кто жертва, кто враг? Попробуйте пересказать тот же факт в противоположной рамке.
5. Проверьте числа. Абсолютные или относительные? С чем сравнивают и почему с этим? Какой период выбран? Показано среднее или распределение? Откуда данные?
6. Спросите, что опущено. Какой контекст отсутствует? Что сказала бы другая сторона? Какие данные были бы неудобны для этого вывода — и упомянуты ли они?
7. Проверьте консенсус. Это мнение одного человека, позиция группы или согласие специалистов? «Все говорят» — это реальный опрос или ваша лента? Совпадает ли сообщение с выводами независимых источников, которые не повторяют друг друга?
8. Ищите образ врага и срочность. Есть ли «они», которые во всём виноваты? Требуется ли немедленное действие? Предлагается ли единственное простое решение сложной проблемы?
9. Проверьте себя на симметрию. Если бы такое же сообщение с такими же доказательствами было в пользу противоположной стороны, поверили бы вы ему? Это главный тест, и он самый неприятный.
10. Отложите вывод. Если проверить не получается, честный ответ — «не знаю» или «пока неясно». Не обязательно иметь мнение обо всём сразу.

Алгоритм лучше работает как привычка, чем как разовое усилие; встроить его помогают привычки ежедневного чтения. А разбор по слоям — факт, источник, интерпретация, вывод — можно отрабатывать в ThinkLens, который раскладывает текст на утверждения и доказательства.

Отдельно о «прививке» (prebunking, inoculation). Исследования Сандера ван дер Линдена, Йона Рузенбека и коллег показывают: если заранее показать людям типичные приёмы — ложную дихотомию, апелляцию к эмоциям, поиск козла отпущения — на ослабленных примерах, позже они несколько лучше распознают их в реальном контенте. Эффекты умеренные, со временем ослабевают и, по данным части работ, сопровождаются небольшим ростом скептицизма и к достоверным сообщениям. Но подход перспективнее, чем опровержение каждой лжи по отдельности, — и этот текст тоже попытка такой прививки.

Можно ли полностью защититься

Нет. И это не пессимизм, а условие разумной стратегии.

Полная защита потребовала бы лично проверять каждое утверждение — климатические данные, безопасность лекарств, историю, — а это невозможно. Знание о мире во многом опирается на доверие к учёным, журналистам, институтам, друзьям, и пропаганда паразитирует именно на этой необходимости.

Опасность есть и с другой стороны. Человек, решивший, что «все врут», не становится свободным — он становится уязвимым для тех, кто предлагает «альтернативную правду». Если ничему нельзя верить, то не нужно ничего проверять, достаточно выбрать то, что нравится. Ханна Арендт в работах о тоталитаризме писала о людях, которые одновременно верят во всё и ни во что и считают, что всё возможно и ничто не истинно. Такая аудитория идеальна для манипуляции.

Реалистичная цель — не иммунитет, а калиброванное доверие:

• Доверять больше тем источникам, которые показывают методы, признают ошибки и исправляют их публично.
• Доверять меньше тем, кто никогда не ошибается, всегда на одной стороне и требует немедленного действия.
• Держать уверенность соразмерной доказательствам: «скорее да», «скорее нет», «не знаю» — нормальные ответы.
• Разнообразить источники не ради «баланса», а чтобы видеть, где они расходятся и почему.
• Регулярно спрашивать себя, что могло бы изменить мнение, — и если ответа нет, это повод насторожиться.

Внимание ограничено, и не обязательно иметь мнение о каждом событии. Иногда честнее сказать «я не разбирался», чем повторить первую попавшуюся рамку.

FAQ

Научная опора

Этот текст опирается на несколько исследовательских традиций. Ниже — карта для дальнейшего чтения. Это ориентиры, а не замена первоисточникам; отдельные знаменитые эффекты стоит читать с поправкой на дискуссии о воспроизводимости.

Классики пропаганды. Уолтер Липпман, «Общественное мнение» (1922) — о «картинках в голове». Эдвард Бернейс, «Пропаганда» (1928) — взгляд практика на управление массовым мнением. Жак Эллюль, «Пропаганда» (1962) — о социологической пропаганде. Эдвард Херман и Ноам Хомский, «Фабрикация согласия» (1988) — влиятельная и оспариваемая модель медийных «фильтров».

Психология решений и влияния. Даниэль Канеман, «Думай медленно… решай быстро» — эвристики и эффект рамки (часть глав, особенно о социальном прайминге, автор позже признал опирающейся на слабые данные). Пол Словик — аффективная эвристика. Роберт Чалдини, «Психология влияния» — социальное доказательство, авторитет, дефицит и другие принципы. Соломон Аш — конформизм. Элизабет Ноэль‑Нойман, «Спираль молчания» — теория климата мнений с неоднородной поддержкой. Анри Тэшфел — социальная идентичность. Джордж Лакофф, «Не думай о слоне» — рамки и метафоры в политике.

Дезинформация и коррекция. Хашер, Голдштейн и Топпино, Фацио и коллеги — эффект иллюзорной правды. Найхан и Райфлер, Вуд и Портер — дискуссия об обратном эффекте. Пенникук и Рэнд — аналитическое мышление и распознавание фальшивых заголовков. Ван дер Линден и Рузенбек — прививка против манипуляций. Вайнбург и Стэнфордская группа — латеральное чтение.

Связанные материалы HiddenLogic: гид по критическому мышлению, что человек делает с информацией, архитектура убеждений и идеология, «Мышление разведчика», видеть дырку, а не бублик, слои утверждений и доказательств, ИИ‑саммари и привычки ежедневного чтения.

Заключение

Пропаганда не обязательно громкая, лживая и чужая. Чаще она тихая, формально точная и звучит как здравый смысл. Она выбирает слово «вымирание» вместо «снижения рождаемости» или «оптимизацию» вместо «увольнения», показывает одну историю вместо распределения, повторяет формулу, пока она не станет знакомой, и находит, кого назначить виноватым. Она работает через те же механизмы, которые помогают нам жить: быстрые оценки, эмоции, доверие к своим, экономию сил.

Поэтому защита не может быть разовым разоблачением. Это привычка: замечать собственную реакцию, спрашивать об источнике и умолчаниях, перебирать альтернативные рамки, проверять числа и — самое трудное — применять к удобным сообщениям тот же скепсис, что и к неудобным. Если после прочтения этого текста вам захотелось найти пропаганду прежде всего у оппонентов, это нормальная первая реакция. Следующий шаг — найти её в собственной ленте и в собственных формулировках.

Трава может быть и зелёной, и острой. Вопрос не в том, какая формулировка правдива, а в том, почему вам показали именно эту — и что вы видели бы, если бы вам показали другую. Если хочется превратить этот вопрос в рабочий инструмент, попробуйте разобрать следующий текст, который вызовет у вас сильную реакцию, по слоям — вручную или с помощью ThinkLens.