От пропаганды до алгоритмов: как цифровые технологии подрывают критическое мышление и свободу выражения

Введение

Способность к критическому и аналитическому мышлению является не только индивидуальной интеллектуальной ценностью, но и общественным ресурсом, от которого во многом зависит способ разрешения конфликтов. Общество, члены которого понимают сложность проблем и многообразие взглядов, располагает действенным набором механизмов согласования интересов: публичной дискуссией, компромиссом, правовой процедурой. Сужение интеллектуального горизонта, напротив, порождает запрос на простые решения сложных проблем: поиск внешнего или внутреннего врага, силовое устранение разногласий, передачу ответственности «сильной руке».

Эту связь подтверждают исследования в различных дисциплинах. Анализ международных кризисов показывает, что снижение способности политических лидеров учитывать разные точки зрения предшествовало перерастанию кризисов в вооруженный конфликт [1]. Уровень образования населения устойчиво связан со стабильностью демократических институтов [2]. Следовательно, торможение интеллектуального развития ведет к деградации культуры общественной дискуссии и создает предпосылки для войн, переворотов, утверждения тирании и преследования инакомыслящих.

Интеллектуальное развитие, в свою очередь, невозможно без свободы убеждений и их выражения. На универсальном уровне это право закрепляют статья 19 Всеобщей декларации прав человека и статья 19 Международного пакта о гражданских и политических правах, которая отдельно гарантирует абсолютную свободу придерживаться своих мнений. Комитет ООН по правам человека в Замечании общего порядка № 34 подчеркивает, что эта свобода является необходимым условием всестороннего развития личности и основой любого свободного и демократического общества. Для Украины и Европы определяющей является статья 10 Конвенции о защите прав человека и основных свобод 1950 года. Европейский суд по правам человека еще в деле «Хэндисайд против Соединенного Королевства» (1976) подчеркнул, что свобода выражения является одной из основ демократического общества и одним из базовых условий его прогресса и развития каждого человека. Впоследствии Суд применил эти принципы к цифровой среде, в частности в отношении блокировки веб-сайтов («Ахмет Йылдырым против Турции», 2012) и массовой слежки («Big Brother Watch и другие против Соединенного Королевства», 2021). Хартия основных прав ЕС, получившая обязательную силу со вступлением в силу Лиссабонского договора 1 декабря 2009 года, в статье 11 дополнительно требует уважать свободу и плюрализм СМИ, а в статье 13 гарантирует свободу искусства и научных исследований. Поэтому контроль над информационными потоками затрагивает не отдельный аспект свободы слова, а саму основу независимого мышления.

Проблематика

В последние десятилетия угрозы этому праву приобрели глобальный и системный характер. По данным Freedom House, глобальная свобода интернета снижалась пятнадцать лет подряд, причем наиболее последовательное ухудшение показал индикатор манипулирования онлайн-источниками со стороны правительств и других влиятельных субъектов. Согласно докладу V-Dem 2026 года, свобода выражения пострадала больше всех прочих составляющих демократии и в 2025 году снижалась в 44 странах.

Современные угрозы действуют в двух взаимодополняющих формах. Первая форма — ограничение доступа к информации, то есть цензура, блокировки, отключения интернета, преследование за высказывания. Вторая форма — искажение информации, то есть организованные кампании дезинформации, которые исследователи Оксфордского интернет-института зафиксировали в 81 стране, алгоритмическое ранжирование контента [3] и персонализированное воздействие на основе собранных данных [4]. Ограничение лишает человека доступа к информации, а манипуляция подменяет ее содержание и тем самым затрагивает свободу убеждений, которую защищает статья 19(1) МПГПП.

Субъектами ограничения и манипулирования выступают не только государства, но и транснациональные цифровые платформы, чья ответственность в международном праве прав человека остается недостаточно определенной.

Новейшие методы манипулирования сознанием

О механизмах ограничения доступа к информации мы писали ранее. А сейчас рассмотрим новейшие методы манипулирования массовым сознанием. Сегодня аналитики выделяют несколько таких тенденций.

1. Психологическое профилирование и микротаргетинг

Цифровые следы (лайки, поисковые запросы, история покупок, геолокация) позволяют с высокой точностью определять черты личности, политические взгляды, сексуальную ориентацию и другие чувствительные характеристики человека, даже если он никогда их не раскрывал [5]. На основе таких профилей аудиторию делят на узкие сегменты, и каждый сегмент получает сообщения, подобранные под его психологические особенности. Эксперименты показали, что реклама, адаптированная к личностному профилю, заметно эффективнее стандартной [6].

2. Алгоритмическое ранжирование и курирование информации

Поисковые системы и ленты социальных сетей определяют, какая информация попадает в поле зрения пользователя и в какой очередности. Эксперименты показали, что изменение порядка поисковой выдачи способно смещать предпочтения колеблющихся избирателей, причем большинство участников не замечает манипуляций [3]. Исследование на данных Twitter выявило, что алгоритмическая лента неравномерно усиливает политический контент разных партий [7], а эксперимент Facebook продемонстрировал возможность влиять на эмоциональное состояние сотен тысяч пользователей посредством подбора публикаций в ленте [8].

Проблема состоит в том, что решения о видимости информации принимают непрозрачные частные системы, не подотчетные обществу и оптимизированные под удержание внимания, а не под качество информации.

3. Эксплуатация эмоций и вирусного распространения

Архитектура социальных сетей вознаграждает контент, вызывающий сильные эмоции. Каждое морально-эмоциональное слово в сообщении увеличивает вероятность его распространения [9]. Ложные новости, к сожалению, распространяются в социальных сетях быстрее, дальше и шире правдивых, прежде всего потому, что вызывают удивление и отвращение [10]. Манипуляторы целенаправленно используют эту особенность: сообщения, вызывающие страх, гнев и ощущение угрозы, подавляют аналитическое мышление и подталкивают к быстрым реакциям. В результате общественная дискуссия поляризуется, а сложные проблемы сводятся к эмоционально окрашенным противопоставлениям «мы или они».

4. Боты, тролли и скоординированное неаутентичное поведение

Автоматизированные аккаунты (боты) и организованные группы пользователей («фермы троллей») создают иллюзию массовой поддержки или массового неприятия, то есть формируют искусственное общественное мнение. Боты особенно активны на ранних стадиях распространения недостоверного контента и помогают ему стать «вирусным» [11]. Оксфордский интернет-институт зафиксировал организованные кампании манипулирования в социальных сетях в 81 стране, причем их все чаще проводят по заказу частные компании (отчет «Industrialized Disinformation»). Государственные кампании не всегда направлены на прямое убеждение. Анализ китайских правительственных публикаций, которые создаются сотнями миллионов в год, показал, что их главная цель — отвлечение внимания от острых тем, а не участие в дискуссии [12]. Здесь используется эффект социального доказательства: человек склонен считать правильным то, что, по его впечатлению, разделяет большинство.

5. Информационная перегрузка (цензура через шум)

В условиях информационного изобилия цензуру дополняет новая стратегия: вместо запрета нежелательной информации ее «топят» в потоке другого контента, повышая затраты на поиск достоверных сведений [13]. Модель российской пропаганды исследователи корпорации RAND описывают как «пожарный шланг лжи»: большой объем, многоканальность, скорость, повторяемость и безразличие к последовательности и правдивости. Цель такой стратегии состоит не столько в том, чтобы убедить в определенной версии событий, сколько в том, чтобы создать ощущение, что правду установить невозможно. Это порождает цинизм, апатию и отказ от попыток разобраться, то есть подрывает саму основу критического мышления.

6. Дипфейки и синтетический медиаконтент

Технологии искусственного интеллекта позволяют создавать реалистичные поддельные видео, аудио и изображения реальных людей. Такие материалы использовались в избирательных кампаниях и вооруженных конфликтах. Примером служит поддельное видео с обращением Президента Украины о капитуляции, распространенное в марте 2022 года через взломанный сайт телеканала. Опасность дипфейков для частной жизни, демократии и национальной безопасности подробно проанализирована в юридической литературе [14]. Не менее важен обратный эффект, получивший название «дивиденд лжеца»: само существование дипфейков позволяет объявлять подлинный компромат подделкой [14]. В итоге подрывается доверие к любым аудиовизуальным свидетельствам, а это ослабляет и журналистику, и правосудие.

7. Генеративный ИИ и персонализированное убеждение

Большие языковые модели снижают стоимость производства убедительных текстов почти до нуля. Эксперименты показали, что пропагандистские тексты, созданные ИИ, почти так же убедительны, как написанные людьми [15]. В дискуссиях с людьми GPT-4, получив базовые сведения о собеседнике, переубеждал оппонента чаще, чем человек [16]. Диалоги с ИИ способны устойчиво менять даже глубоко укоренившиеся убеждения человека [17]. Следовательно, те, кто контролирует алгоритмы ИИ, получают потенциальный инструмент манипуляции: персонализированный диалог в масштабе миллионов пользователей качественно отличается от массовой пропаганды прошлого. Не случайно Регламент ЕС об искусственном интеллекте (ст. 5) запрещает системы ИИ, применяющие подсознательные или целенаправленно манипулятивные техники, которые существенно искажают поведение человека.

8. Цифровая слежка и самоцензура

Массовая слежка действует не только через прямые репрессии, но и через «сдерживающий эффект»: люди, знающие о слежке, меняют свое поведение. После разоблачений Э. Сноудена в 2013 году заметно сократилось количество просмотров статей Википедии на «чувствительные» темы [18]. Осознание правительственного мониторинга также снижает готовность высказывать мнения, расходящиеся с мнением большинства [19]. Таким образом, слежка влияет на мышление опосредованно: человек перестает искать определенную информацию и обсуждать определенные темы, то есть сам сужает свое интеллектуальное пространство. В сочетании с технологиями распознавания лиц и анализа больших данных это создает условия для внутренней цензуры без явных запретов.

Выгодоприобретатели и пострадавшие от цифровых манипуляций

Цифровые манипуляции не безобидны: они перераспределяют власть, ресурсы и влияние в пользу узкого круга, а издержки ложатся на все общество. Поэтому для правового анализа важно ответить на вопрос cui bono: кому это выгодно.

Выгодоприобретатели

1. Политики, стремящиеся сохранить или захватить власть. Современные авторитарные режимы все реже опираются на массовое насилие и все чаще удерживают власть, управляя информацией: создают видимость компетентности и народной поддержки, дискредитируют альтернативы [20]. Цифровые технологии делают эту стратегию дешевой и масштабируемой. Ее ключевые элементы — компрометация оппонентов (утечки, сфабрикованные материалы, дипфейки, кампании травли) и изображение политического соперника не как оппонента, а как врага и предателя, что исследователи считают одним из главных признаков разрушения демократии [21]. Технологии компрометации доступны не только авторитарным режимам. Международное журналистское расследование Pegasus Project показало, что шпионское программное обеспечение Pegasus применялось против журналистов, правозащитников и оппозиционеров во многих странах, в том числе в государствах ЕС (см. также доклад Специального докладчика ООН Д. Кея о слежке и правах человека).

Другая стратегия заключается в искусственном разжигании вражды внутри общества, поскольку расколотое общество неспособно к коллективным действиям, а ненависть к «внутреннему врагу» оправдывает концентрацию власти и ограничение свобод. Хорошо задокументированный пример — деятельность российского «Агентства интернет-исследований», которое одновременно создавало сообщества противоположных политических лагерей в США, разжигая конфликты на расовой, миграционной и религиозной почве (доклад Комитета по разведке Сената США; [22]). Самый трагический пример — Мьянма, где кампании ненависти в Facebook против народа рохинджа, в том числе организованные военными, предшествовали массовому насилию (доклад Международной независимой миссии ООН по установлению фактов). По выводам Amnesty International, алгоритмы платформы активно усиливали такой контент.

2. Цифровые платформы. Основная доля доходов крупнейших платформ поступает от рекламы, а значит, от продажи внимания пользователей и прогнозов их поведения [23; 4]. Отсюда заинтересованность в контенте, который дольше удерживает внимание. Таковым оказывается прежде всего контент, вызывающий вражду: публикации о политических оппонентах получают значительно больше реакций и репостов, чем публикации о нейтральных, но важных событиях [24]. Таким образом, раскол общества становится не только политическим инструментом, но и коммерчески выгодным продуктом.

3. Индустрия манипуляций. Сформировался рынок услуг по воздействию на общественное мнение: частные PR- и маркетинговые компании, брокеры данных, «фермы троллей», разработчики шпионского программного обеспечения. Оксфордский интернет-институт зафиксировал, что коммерческие фирмы проводили кампании политических манипуляций по заказу правительств и партий в 48 странах (отчет 2020 года). Эта индустрия заинтересована в сохранении слабого регулирования и работает на любого платежеспособного заказчика.

Пострадавшие

1. Человеческая личность. Главный вред состоит в утрате когнитивной автономии. Человек превращается из субъекта, принимающего решения, в источник поведенческих данных и объект прогнозирования и управления [4]. Еще до цифровой эпохи Н. Постман предупреждал, что угроза свободному мышлению может исходить не от запретов, а от потока развлечений, вытесняющих серьезные размышления [25]. Цифровая среда усиливает эту тенденцию: клиповое потребление информации, импульсивные реакции и подталкивание к покупкам формируют модель поведения потребителя, а не гражданина. Влияние соцсетей на психическое здоровье, особенно подростков, активно обсуждается, хотя масштаб этого влияния в научной литературе остается предметом дискуссии [26; 27].

2. Оппозиция, журналисты, правозащитники, инакомыслящие подвергаются слежке, компрометации, травле и преследованиям. Это наносит вред не только им лично: общество теряет альтернативные источники информации и голоса, способные критиковать власть.

3. Меньшинства и уязвимые группы. Именно против них в первую очередь направлены кампании ненависти, и именно они первыми становятся «образом врага».

4. Общество и демократические институты. Поляризация общества разрушает доверие между гражданами, а также к институтам: выборам, суду, СМИ, науке. Люди теряют опору на общую совокупность фактов, без которой невозможны рациональная дискуссия и мирное разрешение конфликтов. Это замыкает круг, описанный во введении: подавление критического мышления создает запрос на простые и силовые решения.

Уроки истории

Манипулирование массовым сознанием не является изобретением цифровой эпохи. Тоталитарные режимы XX века показали, к чему приводит монополия на информацию: сначала государство присваивает право определять, что является правдой, затем формирует «образ врага», а впоследствии переходит к массовому насилию [28].

Большевистская власть уже в 1918 году провозгласила «красный террор», а пропаганда превратила целые социальные группы («буржуев», «кулаков», «врагов народа») в объекты ненависти, которых можно уничтожать без суда. Сталинский режим довел эту модель до совершенства: тотальная цензура, государственные пресса и радио, показательные судебные процессы, культ доносительства. Пропаганда скрывала Голодомор 1932–1933 годов в Украине, а во время Большого террора 1937–1938 годов было расстреляно более 680 тысяч человек, которых обществу представляли как шпионов и предателей [29].

Нацистская Германия уже в марте 1933 года создала Министерство народного просвещения и пропаганды во главе с Й. Геббельсом. Режим массово распространял дешевые радиоприемники, сжигал «вредные» книги и систематически дегуманизировал евреев в прессе, кино и школьных учебниках (Энциклопедия Холокоста, USHMM). Исследования показывают, что нацистское радиовещание усиливало антисемитские действия в местностях с давними антисемитскими настроениями [30], а люди, учившиеся в школе при нацистах, и спустя десятилетия чаще разделяли антисемитские взгляды [31]. Дегуманизация стала подготовительным этапом Холокоста, в ходе которого было убито около шести миллионов евреев. Тот же механизм действовал и позже: в Руанде в 1994 году радиостанция, призывавшая к насилию против тутси, заметно усилила участие в геноциде в районах своего вещания [32].

Масштабы манипуляций: тогда и сейчас

Для массовой манипуляции тоталитарным режимам требовался огромный аппарат: цензоры, типографии, государственные радиостанции, сеть информаторов. Их пропаганда была одинаковой для всех, однонаправленной и открытой. Люди в большинстве своем знали, что имеют дело с пропагандой, и научились «читать между строк», а самиздат и иностранное радио оставляли лазейки для альтернативной информации.

Цифровые технологии снимают большинство этих ограничений. Сообщения персонализируются под каждого человека, а не под массу. Воздействие становится невидимым, поскольку встроено в поисковую выдачу, ленту или диалог с ИИ. Обратная связь позволяет мгновенно измерять реакцию и корректировать сообщения, затраты падают почти до нуля, а государственные границы перестают быть препятствием. Возможности слежки, которых не имели ни НКВД, ни гестапо, теперь обеспечивают сами пользователи, добровольно оставляя цифровые следы. К тому же манипулировать могут не только государства, но и частные компании и нанятые подрядчики.

В то же время технология сама по себе не порождает террор: преступления XX века стали возможны благодаря сочетанию пропаганды с политической волей к насилию и отсутствию независимых институтов. Главный урок истории состоит в том, что массовое насилие всякий раз начиналось с монополии на «правду» и дегуманизации других. Именно поэтому защита свободы мысли и ее выражения в цифровой среде является не абстрактной правовой нормой, а предохранителем от повторения катастроф прошлого.

Вывод

Между выгодоприобретателями и пострадавшими существует глубокая асимметрия. Выгоды сосредоточены в руках немногих (правящих элит, корпораций и подрядчиков), а издержки распределены между миллионами людей, которые часто даже не осознают, что стали объектами манипуляции. Именно эта асимметрия, а также невидимость нематериального вреда объясняют, почему защита от цифровых манипуляций требует правового, а не только технического или образовательного ответа.

Список литературы

1. Suedfeld P., Tetlock P. E. Integrative complexity of communications in international crises // Journal of Conflict Resolution. 1977. Vol. 21, No. 1. P. 169–184.
2. Glaeser E. L., Ponzetto G. A. M., Shleifer A. Why does democracy need education? // Journal of Economic Growth. 2007. Vol. 12, No. 2. P. 77–99.
3. Epstein R., Robertson R. E. The search engine manipulation effect (SEME) and its possible impact on the outcomes of elections // PNAS. 2015. Vol. 112, No. 33. P. E4512–E4521.
4. Zuboff S. The Age of Surveillance Capitalism. New York: PublicAffairs, 2019.
5. Kosinski M., Stillwell D., Graepel T. Private traits and attributes are predictable from digital records of human behavior // PNAS. 2013. Vol. 110, No. 15. P. 5802–5805.
6. Matz S. C., Kosinski M., Nave G., Stillwell D. J. Psychological targeting as an effective approach to digital mass persuasion // PNAS. 2017. Vol. 114, No. 48. P. 12714–12719.
7. Huszár F. et al. Algorithmic amplification of politics on Twitter // PNAS. 2022. Vol. 119, No. 1. e2025334119.
8. Kramer A. D. I., Guillory J. E., Hancock J. T. Experimental evidence of massive-scale emotional contagion through social networks // PNAS. 2014. Vol. 111, No. 24. P. 8788–8790.
9. Brady W. J. et al. Emotion shapes the diffusion of moralized content in social networks // PNAS. 2017. Vol. 114, No. 28. P. 7313–7318.
10. Vosoughi S., Roy D., Aral S. The spread of true and false news online // Science. 2018. Vol. 359, No. 6380. P. 1146–1151.
11. Shao C. et al. The spread of low-credibility content by social bots // Nature Communications. 2018. Vol. 9. Article 4787.
12. King G., Pan J., Roberts M. E. How the Chinese government fabricates social media posts for strategic distraction, not engaged argument // American Political Science Review. 2017. Vol. 111, No. 3. P. 484–501.
13. Roberts M. E. Censored: Distraction and Diversion Inside China's Great Firewall. Princeton: Princeton University Press, 2018.
14. Chesney R., Citron D. Deep fakes: A looming challenge for privacy, democracy, and national security // California Law Review. 2019. Vol. 107, No. 6. P. 1753–1820.
15. Goldstein J. A. et al. How persuasive is AI-generated propaganda? // PNAS Nexus. 2024. Vol. 3, No. 2. pgae034.
16. Salvi F., Horta Ribeiro M., Gallotti R., West R. On the conversational persuasiveness of GPT-4 // Nature Human Behaviour. 2025.
17. Costello T. H., Pennycook G., Rand D. G. Durably reducing conspiracy beliefs through dialogues with AI // Science. 2024. Vol. 385, No. 6714. eadq1814.
18. Penney J. W. Chilling effects: Online surveillance and Wikipedia use // Berkeley Technology Law Journal. 2016. Vol. 31, No. 1. P. 117–182.
19. Stoycheff E. Under surveillance: Examining Facebook's spiral of silence effects in the wake of NSA internet monitoring // Journalism & Mass Communication Quarterly. 2016. Vol. 93, No. 2. P. 296–311.
20. Guriev S., Treisman D. Spin Dictators: The Changing Face of Tyranny in the 21st Century. Princeton: Princeton University Press, 2022.
21. Levitsky S., Ziblatt D. How Democracies Die. New York: Crown, 2018.
22. DiResta R. et al. The Tactics & Tropes of the Internet Research Agency. New Knowledge, 2018.
23. Wu T. The Attention Merchants: The Epic Scramble to Get Inside Our Heads. New York: Knopf, 2016.
24. Rathje S., Van Bavel J. J., van der Linden S. Out-group animosity drives engagement on social media // PNAS. 2021. Vol. 118, No. 26. e2024292118.
25. Postman N. Amusing Ourselves to Death: Public Discourse in the Age of Show Business. New York: Viking, 1985.
26. Haidt J. The Anxious Generation. New York: Penguin Press, 2024.
27. Orben A., Przybylski A. K. The association between adolescent well-being and digital technology use // Nature Human Behaviour. 2019. Vol. 3. P. 173–182.
28. Arendt H. The Origins of Totalitarianism. New York: Harcourt, Brace and Co., 1951.
29. Snyder T. Bloodlands: Europe Between Hitler and Stalin. New York: Basic Books, 2010.
30. Adena M., Enikolopov R., Petrova M., Santarosa V., Zhuravskaya E. Radio and the rise of the Nazis in prewar Germany // The Quarterly Journal of Economics. 2015. Vol. 130, No. 4. P. 1885–1939.
31. Voigtländer N., Voth H.-J. Nazi indoctrination and anti-Semitic beliefs in Germany // PNAS. 2015. Vol. 112, No. 26. P. 7931–7936.
32. Yanagizawa-Drott D. Propaganda and conflict: Evidence from the Rwandan genocide // The Quarterly Journal of Economics. 2014. Vol. 129, No. 4. P. 1947–1994.