Від пропаганди до алгоритмів: як цифрові технології руйнують критичне мислення та свободу вираження

Вступ

Здатність до критичного й аналітичного мислення є не лише індивідуальною інтелектуальною цінністю, а й суспільним ресурсом, від якого значною мірою залежить спосіб розв'язання конфліктів. Суспільство, члени якого розуміють складність проблем і різноманітність поглядів, має дієвий набір механізмів узгодження інтересів: публічну дискусію, компроміс, правову процедуру. Звуження інтелектуального горизонту, навпаки, породжує запит на прості рішення складних проблем: пошук зовнішнього чи внутрішнього ворога, силове усунення розбіжностей, передачу відповідальності «сильній руці».

Цей зв'язок підтверджують дослідження в різних дисциплінах. З аналізу міжнародних криз видно, що зниження здатності політичних лідерів ураховувати різні погляди передувало переростанню криз у збройний конфлікт [1]. Рівень освіти населення стійко пов'язаний зі стабільністю демократичних інститутів [2]. Отже, гальмування інтелектуального розвитку призводить до деградації культури суспільної дискусії та створює передумови для війни, переворотів, утвердження тиранії й переслідування інакодумців.

Інтелектуальний розвиток, своєю чергою, неможливий без свободи поглядів і їх вираження. На універсальному рівні це право закріплюють стаття 19 Загальної декларації прав людини та стаття 19 Міжнародного пакту про громадянські і політичні права, яка окремо гарантує абсолютну свободу дотримуватися своїх поглядів. Комітет ООН з прав людини у Зауваженні загального порядку № 34 наголошує, що ця свобода є необхідною умовою всебічного розвитку особистості та підґрунтям будь-якого вільного й демократичного суспільства. Для України та Європи визначальною є стаття 10 Конвенції про захист прав людини і основоположних свобод 1950 року. Європейський суд з прав людини ще у справі «Гендісайд проти Сполученого Королівства» (1976) наголосив, що свобода вираження є однією з основних засад демократичного суспільства та однією з базових умов його прогресу й розвитку кожної людини. Згодом Суд застосував ці принципи до цифрового середовища, зокрема щодо блокування вебсайтів («Ахмет Їлдирим проти Туреччини», 2012) і масового стеження («Big Brother Watch та інші проти Сполученого Королівства», 2021). Хартія основних прав ЄС, що набула обов'язкової сили з набранням чинності Лісабонським договором 1 грудня 2009 року, у статті 11 додатково вимагає поважати свободу та плюралізм медіа, а у статті 13 гарантує свободу мистецтва й наукових досліджень. Тому контроль над інформаційними потоками зачіпає не окремий аспект свободи слова, а саму основу незалежного мислення.

Проблематика

Останніми десятиліттями загрози цьому праву набули глобального й системного характеру. За даними Freedom House, глобальна свобода інтернету знижувалася п'ятнадцять років поспіль, причому найпослідовніше погіршення показав індикатор маніпулювання онлайн-джерелами з боку урядів та інших впливових суб'єктів. Згідно з доповіддю V-Dem 2026 року, свобода вираження постраждала найбільше з усіх складників демократії і у 2025 році знижувалася в 44 країнах.

Сучасні загрози діють у двох взаємодоповнювальних формах. Перша форма: обмеження доступу до інформації, тобто цензура, блокування, відключення інтернету, переслідування за висловлювання. Друга форма: спотворення інформації, тобто організовані кампанії дезінформації, які дослідники Оксфордського інтернет-інституту зафіксували у 81 країні, алгоритмічне ранжування контенту [3] і персоналізований вплив на основі зібраних даних [4]. Обмеження позбавляє людину доступу до інформації, а маніпуляція підміняє її зміст і тим самим зачіпає свободу поглядів, яку захищає стаття 19(1) МПГПП.

Суб'єктами обмеження й маніпулювання виступають не лише держави, а й транснаціональні цифрові платформи, чия відповідальність у міжнародному праві прав людини залишається недостатньо визначеною.

Новітні методи маніпулювання свідомістю

Про механізми обмеження доступу до інформації ми писали раніше. А зараз розглянемо новітні методи маніпулювання масовою свідомістю. Сьогодні аналітики виділяють кілька таких тенденцій.

1. Психологічне профілювання та мікротаргетинг

Цифрові сліди (вподобання, пошукові запити, історія покупок, геолокація) дають змогу з високою точністю визначати риси особистості, політичні погляди, сексуальну орієнтацію та інші чутливі характеристики людини, навіть якщо вона ніколи їх не розкривала [5]. На основі таких профілів аудиторію поділяють на вузькі сегменти, і кожен сегмент отримує повідомлення, підібрані під його психологічні особливості. Експерименти показали, що реклама, адаптована до особистісного профілю, помітно ефективніша за стандартну [6].

2. Алгоритмічне ранжування й курування інформації

Пошукові системи та стрічки соціальних мереж визначають, яка інформація потрапляє в поле зору користувача та в яку чергу. Експерименти показали, що зміна порядку пошукової видачі здатна зміщувати вподобання виборців, які ще вагаються, причому більшість учасників не помічає маніпуляцій [3]. Дослідження на даних Twitter виявило, що алгоритмічна стрічка нерівномірно посилює політичний контент різних партій [7], а експеримент Facebook продемонстрував можливість впливати на емоційний стан сотень тисяч користувачів через добір дописів у стрічці [8].

Проблема полягає в тому, що рішення про видимість інформації ухвалюють непрозорі приватні системи, не підзвітні суспільству й оптимізовані під утримання уваги, а не під якість інформації.

3. Експлуатація емоцій і вірусного поширення

Архітектура соціальних мереж винагороджує контент, що викликає сильні емоції. Кожне морально-емоційне слово в повідомленні збільшує ймовірність його поширення [9]. Неправдиві новини, нажаль, поширюються в соціальних мережах швидше, далі й ширше за правдиві, насамперед тому, що вони викликають здивування та огиду [10]. Маніпулятори цілеспрямовано використовують цю особливість: повідомлення, що викликають страх, гнів і відчуття загрози, пригнічують аналітичне мислення та підштовхують до швидких реакцій. У результаті суспільна дискусія поляризується, а складні проблеми зводяться до емоційно забарвлених протиставлень «ми чи вони».

4. Боти, тролі та скоординована неавтентична поведінка

Автоматизовані акаунти (боти) та організовані групи користувачів («ферми тролів») створюють ілюзію масової підтримки або масового несприйняття, тобто формують штучну громадську думку. Боти особливо активні на ранніх стадіях поширення недостовірного контенту й допомагають йому стати «вірусним» [11]. Оксфордський інтернет-інститут зафіксував організовані кампанії маніпулювання в соціальних мережах у 81 країні, причому їх дедалі частіше виконують на замовлення приватні компанії (звіт «Industrialized Disinformation»). Державні кампанії не завжди спрямовані на пряме переконання. Аналіз китайських урядових публікацій, які створюються сотнями мільйонів на рік, показав, що їхня головна мета полягає у відволіканні уваги від гострих тем, а не в участі в дискусії [12]. Тут використовується ефект соціального доказу: людина схильна вважати правильним те, що, на її враження, поділяє більшість.

5. Інформаційний надлишок (цензура через шум)

В умовах інформаційного достатку цензуру доповнює нова стратегія: замість заборони небажаної інформації її «топлять» у потоці іншого контенту, підвищуючи витрати на пошук достовірних відомостей [13]. Модель російської пропаганди дослідники корпорації RAND описують як «пожежний шланг брехні»: великий обсяг, багатоканальність, швидкість, повторюваність і байдужість до послідовності та правдивості. Мета такої стратегії полягає не стільки в тому, щоб переконати в певній версії подій, скільки в тому, щоб створити відчуття, що правду встановити неможливо. Це породжує цинізм, апатію та відмову від спроб розібратися, тобто підриває саму основу критичного мислення.

6. Діпфейки та синтетичний медіаконтент

Технології штучного інтелекту дають змогу створювати реалістичні підроблені відео, аудіо та зображення реальних людей. Такі матеріали використовували у виборчих кампаніях і збройних конфліктах. Прикладом є підроблене відео зі зверненням Президента України про капітуляцію, поширене в березні 2022 року через зламаний сайт телеканалу. Небезпеку діпфейків для приватного життя, демократії та національної безпеки докладно проаналізовано в юридичній літературі [14]. Не менш важливий зворотний ефект, що дістав назву «дивіденд брехуна»: саме існування діпфейків дає змогу оголошувати справжній компромат підробкою [14]. У підсумку підривається довіра до будь-яких аудіовізуальних свідчень, а це послаблює і журналістику, і правосуддя.

7. Генеративний ШІ та персоналізоване переконання

Великі мовні моделі знижують вартість виробництва переконливих текстів майже до нуля. Експерименти показали, що пропагандистські тексти, створені ШІ, майже такі ж переконливі, як написані людьми [15]. У дискусіях з людьми GPT-4, отримавши базові відомості про співрозмовника, переконував опонента частіше, ніж людина [16]. Діалоги з ШІ здатні стійко змінювати навіть глибоко вкорінені переконання людини [17]. Отже, ті, хто контролює алгоритми ШІ, отримують потенційний інструмент маніпуляції: персоналізований діалог у масштабі мільйонів користувачів якісно відрізняється від масової пропаганди минулого. Не випадково Регламент ЄС про штучний інтелект (ст. 5) забороняє системи ШІ, що застосовують підсвідомі або цілеспрямовано маніпулятивні техніки, які істотно спотворюють поведінку людини.

8. Цифрове стеження та самоцензура

Масове стеження діє не лише через прямі репресії, а ще й через «стримувальний ефект»: люди, які знають про стеження, змінюють свою поведінку. Після викриттів Е. Сноудена у 2013 році помітно зменшилася кількість переглядів статей Вікіпедії на «чутливі» теми [18]. Усвідомлення урядового моніторингу також знижує готовність висловлювати думки, що розходяться з думкою більшості [19]. Таким чином, стеження впливає на мислення опосередковано: людина перестає шукати певну інформацію й обговорювати певні теми, тобто сама звужує свій інтелектуальний простір. У поєднанні з технологіями розпізнавання облич та аналізу великих даних це створює умови для внутрішньої цензури без явних заборон.

Вигодонабувачі та постраждалі від цифрових маніпуляцій

Цифрові маніпуляції не є нешкідливими: вони перерозподіляють владу, ресурси й вплив на користь обмеженого кола, а витрати розподіляються на все суспільство. Тому для правового аналізу важливо відповісти на питання cui bono: кому це вигідно.

Вигодонабувачі

1. Політики, які прагнуть зберегти або захопити владу. Сучасні авторитарні режими дедалі рідше спираються на масове насильство й дедалі частіше утримують владу, керуючи інформацією: створюють видимість компетентності та народної підтримки, дискредитують альтернативи [20]. Цифрові технології роблять цю стратегію дешевою й масштабованою. Її ключові елементи: компрометація опонентів (витоки, сфабриковані матеріали, діпфейки, кампанії цькування) і зображення політичного суперника не як опонента, а як ворога й зрадника, що дослідники вважають однією з головних ознак руйнування демократії [21]. Технології компрометації доступні не лише авторитарним режимам. Міжнародне журналістське розслідування Pegasus Project показало, що шпигунське програмне забезпечення Pegasus застосовували проти журналістів, правозахисників та опозиціонерів у багатьох країнах, зокрема в державах ЄС (див. також доповідь Спецдоповідача ООН Д. Кея про стеження та права людини).

Інша стратегія полягає у штучному розпалюванні ворожнечі всередині суспільства, оскільки розколоте суспільство нездатне до колективних дій, а ненависть до «внутрішнього ворога» виправдовує концентрацію влади й обмеження свобод. Добре задокументований приклад: діяльність російського «Агентства інтернет-досліджень», яке одночасно створювало спільноти протилежних політичних таборів у США, розпалюючи конфлікти на расовому, міграційному та релігійному ґрунті (доповідь Комітету з розвідки Сенату США; [22]). Найтрагічніший приклад: М'янма, де кампанії ненависті у Facebook проти народу рохінджа, зокрема організовані військовими, передували масовому насильству (доповідь Міжнародної незалежної місії ООН зі встановлення фактів). За висновками Amnesty International, алгоритми платформи активно посилювали такий контент.

2. Цифрові платформи. Основна частка доходів найбільших платформ надходить від реклами, а отже від продажу уваги користувачів і прогнозів їхньої поведінки [23; 4]. Звідси зацікавленість у контенті, що довше утримує увагу. Ним виявляється насамперед контент, який викликає ворожнечу: дописи про політичних опонентів отримують значно більше реакцій і поширень, ніж дописи про нейтральні, але важливі події [24]. Таким чином, розкол суспільства стає не лише політичним інструментом, а й комерційно вигідним продуктом.

3. Індустрія маніпуляцій. Сформувався ринок послуг із впливу на громадську думку: приватні PR- і маркетингові компанії, брокери даних, «ферми тролів», розробники шпигунського програмного забезпечення. Оксфордський інтернет-інститут зафіксував, що комерційні фірми проводили кампанії політичних маніпуляцій на замовлення урядів і партій у 48 країнах (звіт 2020 року). Ця індустрія зацікавлена в збереженні слабкого регулювання й працює на будь-якого платоспроможного замовника.

Постраждалі

1. Людська особистість. Головна шкода полягає у втраті когнітивної автономії. Людина перетворюється із суб'єкта, що ухвалює рішення, на джерело поведінкових даних та об'єкт прогнозування й управління [4]. Ще до цифрової доби Н. Постман попереджав, що загроза вільному мисленню може походити не від заборон, а від потоку розваг, які витісняють серйозні роздуми [25]. Цифрове середовище посилює цю тенденцію: кліпове споживання інформації, імпульсивні реакції та підштовхування до покупок формують модель поведінки споживача, а не громадянина. Вплив соцмереж на психічне здоров'я, особливо підлітків, активно обговорюється, хоча масштаб цього впливу в науковій літературі залишається предметом дискусії [26; 27].

2. Опозиція, журналісти, правозахисники, інакодумці зазнають стеження, компрометації, цькування й переслідування. Це завдає шкоди не лише їм особисто: суспільство втрачає альтернативні джерела інформації та голоси, здатні критикувати владу.

3. Меншини та вразливі групи. Саме проти них насамперед спрямовані кампанії ненависті, і вони першими стають «образом ворога».

4. Суспільство та демократичні інститути. Поляризація суспільства руйнує довіру між громадянами, а також до інститутів: виборів, суду, ЗМІ, науки. Люди втрачають опору на спільну сукупність фактів, без якої неможливі раціональна дискусія та мирне розв'язання конфліктів. Це замикає коло, описане у вступі: придушення критичного мислення створює запит на прості й силові рішення.

Уроки історії

Маніпулювання масовою свідомістю не є винаходом цифрової доби. Тоталітарні режими ХХ століття показали, до чого призводить монополія на інформацію: спершу держава привласнює право визначати, що є правдою, потім формує «образ ворога», а згодом переходить до масового насильства [28].

Більшовицька влада вже у 1918 році проголосила «червоний терор», а пропаганда перетворила цілі соціальні групи («буржуїв», «куркулів», «ворогів народу») на об'єкти ненависті, яких можна знищувати без суду. Сталінський режим довів цю модель до досконалості: тотальна цензура, державні преса й радіо, показові судові процеси, культ доносительства. Пропаганда приховувала Голодомор 1932–1933 років в Україні, а під час Великого терору 1937–1938 років було розстріляно понад 680 тисяч людей, яких суспільству подавали як шпигунів і зрадників [29].

Нацистська Німеччина вже в березні 1933 року створила Міністерство народної освіти й пропаганди на чолі з Й. Геббельсом. Режим масово поширював дешеві радіоприймачі, спалював «шкідливі» книжки й систематично дегуманізував євреїв у пресі, кіно та шкільних підручниках (Енциклопедія Голокосту, USHMM). Дослідження показують, що нацистське радіомовлення посилювало антисемітські дії в місцевостях із давніми антисемітськими настроями [30], а люди, які навчалися в школі за нацистів, і через десятиліття частіше поділяли антисемітські погляди [31]. Дегуманізація стала підготовчим етапом Голокосту, під час якого було вбито близько шести мільйонів євреїв. Той самий механізм діяв і пізніше: у Руанді 1994 року радіостанція, що закликала до насильства проти тутсі, помітно посилила участь у геноциді в районах свого покриття [32].

Масштаби маніпуляцій: тоді й тепер

Для масової маніпуляції тоталітарні режими потребували величезного апарату: цензорів, друкарень, державних радіостанцій, мережі інформаторів. Їхня пропаганда була однаковою для всіх, односпрямованою й відкритою. Люди здебільшого знали, що мають справу з пропагандою, і навчилися «читати між рядками», а самвидав та іноземне радіо залишали шпарини для альтернативної інформації.

Цифрові технології знімають більшість цих обмежень. Повідомлення персоналізуються під кожну людину, а не під масу. Вплив стає невидимим, бо вбудований у пошукову видачу, стрічку чи діалог з ШІ. Зворотний зв'язок дає змогу миттєво вимірювати реакцію й коригувати повідомлення, витрати падають майже до нуля, а державні кордони перестають бути перешкодою. Можливості стеження, яких не мали ні НКВС, ні гестапо, тепер забезпечують самі користувачі, добровільно залишаючи цифрові сліди. До того ж маніпулювати можуть не лише держави, а й приватні компанії та найняті підрядники.

Водночас технологія сама по собі не породжує терор: злочини ХХ століття стали можливими через поєднання пропаганди з політичною волею до насильства та відсутністю незалежних інститутів. Головний урок історії полягає в тому, що масове насильство щоразу починалося з монополії на «правду» й дегуманізації інших. Саме тому захист свободи думки та її вираження в цифровому середовищі є не абстрактною правовою нормою, а запобіжником проти повторення катастроф минулого.

Висновок

Між вигодонабувачами та постраждалими існує глибока асиметрія. Вигоди зосереджені в небагатьох (правлячих еліт, корпорацій і підрядників), а витрати розподілені між мільйонами людей, які часто навіть не усвідомлюють, що стали об'єктами маніпуляції. Саме ця асиметрія, а також невидимість нематеріальної шкоди пояснюють, чому захист від цифрових маніпуляцій потребує правової, а не лише технічної чи освітньої відповіді.

Список літератури

1. Suedfeld P., Tetlock P. E. Integrative complexity of communications in international crises // Journal of Conflict Resolution. 1977. Vol. 21, No. 1. P. 169–184.
2. Glaeser E. L., Ponzetto G. A. M., Shleifer A. Why does democracy need education? // Journal of Economic Growth. 2007. Vol. 12, No. 2. P. 77–99.
3. Epstein R., Robertson R. E. The search engine manipulation effect (SEME) and its possible impact on the outcomes of elections // PNAS. 2015. Vol. 112, No. 33. P. E4512–E4521.
4. Zuboff S. The Age of Surveillance Capitalism. New York: PublicAffairs, 2019.
5. Kosinski M., Stillwell D., Graepel T. Private traits and attributes are predictable from digital records of human behavior // PNAS. 2013. Vol. 110, No. 15. P. 5802–5805.
6. Matz S. C., Kosinski M., Nave G., Stillwell D. J. Psychological targeting as an effective approach to digital mass persuasion // PNAS. 2017. Vol. 114, No. 48. P. 12714–12719.
7. Huszár F. et al. Algorithmic amplification of politics on Twitter // PNAS. 2022. Vol. 119, No. 1. e2025334119.
8. Kramer A. D. I., Guillory J. E., Hancock J. T. Experimental evidence of massive-scale emotional contagion through social networks // PNAS. 2014. Vol. 111, No. 24. P. 8788–8790.
9. Brady W. J. et al. Emotion shapes the diffusion of moralized content in social networks // PNAS. 2017. Vol. 114, No. 28. P. 7313–7318.
10. Vosoughi S., Roy D., Aral S. The spread of true and false news online // Science. 2018. Vol. 359, No. 6380. P. 1146–1151.
11. Shao C. et al. The spread of low-credibility content by social bots // Nature Communications. 2018. Vol. 9. Article 4787.
12. King G., Pan J., Roberts M. E. How the Chinese government fabricates social media posts for strategic distraction, not engaged argument // American Political Science Review. 2017. Vol. 111, No. 3. P. 484–501.
13. Roberts M. E. Censored: Distraction and Diversion Inside China's Great Firewall. Princeton: Princeton University Press, 2018.
14. Chesney R., Citron D. Deep fakes: A looming challenge for privacy, democracy, and national security // California Law Review. 2019. Vol. 107, No. 6. P. 1753–1820.
15. Goldstein J. A. et al. How persuasive is AI-generated propaganda? // PNAS Nexus. 2024. Vol. 3, No. 2. pgae034.
16. Salvi F., Horta Ribeiro M., Gallotti R., West R. On the conversational persuasiveness of GPT-4 // Nature Human Behaviour. 2025.
17. Costello T. H., Pennycook G., Rand D. G. Durably reducing conspiracy beliefs through dialogues with AI // Science. 2024. Vol. 385, No. 6714. eadq1814.
18. Penney J. W. Chilling effects: Online surveillance and Wikipedia use // Berkeley Technology Law Journal. 2016. Vol. 31, No. 1. P. 117–182.
19. Stoycheff E. Under surveillance: Examining Facebook's spiral of silence effects in the wake of NSA internet monitoring // Journalism & Mass Communication Quarterly. 2016. Vol. 93, No. 2. P. 296–311.
20. Guriev S., Treisman D. Spin Dictators: The Changing Face of Tyranny in the 21st Century. Princeton: Princeton University Press, 2022.
21. Levitsky S., Ziblatt D. How Democracies Die. New York: Crown, 2018.
22. DiResta R. et al. The Tactics & Tropes of the Internet Research Agency. New Knowledge, 2018.
23. Wu T. The Attention Merchants: The Epic Scramble to Get Inside Our Heads. New York: Knopf, 2016.
24. Rathje S., Van Bavel J. J., van der Linden S. Out-group animosity drives engagement on social media // PNAS. 2021. Vol. 118, No. 26. e2024292118.
25. Postman N. Amusing Ourselves to Death: Public Discourse in the Age of Show Business. New York: Viking, 1985.
26. Haidt J. The Anxious Generation. New York: Penguin Press, 2024.
27. Orben A., Przybylski A. K. The association between adolescent well-being and digital technology use // Nature Human Behaviour. 2019. Vol. 3. P. 173–182.
28. Arendt H. The Origins of Totalitarianism. New York: Harcourt, Brace and Co., 1951.
29. Snyder T. Bloodlands: Europe Between Hitler and Stalin. New York: Basic Books, 2010.
30. Adena M., Enikolopov R., Petrova M., Santarosa V., Zhuravskaya E. Radio and the rise of the Nazis in prewar Germany // The Quarterly Journal of Economics. 2015. Vol. 130, No. 4. P. 1885–1939.
31. Voigtländer N., Voth H.-J. Nazi indoctrination and anti-Semitic beliefs in Germany // PNAS. 2015. Vol. 112, No. 26. P. 7931–7936.
32. Yanagizawa-Drott D. Propaganda and conflict: Evidence from the Rwandan genocide // The Quarterly Journal of Economics. 2014. Vol. 129, No. 4. P. 1947–1994.