Індржых Карасэк працуе ў Чэхіі на амэрыканска-японскую кампанію Trend Micro. Ён займаецца кібэрбясьпекай і інфармацыйнымі пагрозамі. У інтэрвію Свабодзе Карасэк патлумачыў, як працуюць кампаніі дэзынфармацыі, чым дэзынфармацыя падобная да кампутарнага вірусу і як расейцы выкарыстоўваюць мясцовыя праблемы для апэрацый уплыву. Ён таксама раіць, што рабіць, калі нейкая інфармацыя выклікае ў вас моцныя эмоцыі.
Індржых Карасэк
Сьцісла:
- Калі вы хочаце зрабіць моцны вірус, вам трэба мець інфармацыю пра слабыя месцы патэнцыйных ахвяраў, каб пашырыць зламысны код. Тое ж самае адбываецца з дэзынфармацыяй і прапагандай.
- Я напісаў скрыпт, з дапамогай якога да выявы любой жывёліны можна дадаць інфармацыю. Выява будзе выглядаць падобна, але для альгарытму распазнаваньня гэта будзе ўжо іншая жывёліна. З нашымі розумамі адбываецца нешта падобнае.
- Расейцы робяць акцэнт на распальваньні нянавісьці, на палярызацыі людзей. А кітайцы ў значнай ступені прасоўваюць наратыў захапленьня Кітаем і кітайскай культурай.
- Звычайна кампанія дэзынфармацыі грунтуецца на нейкай моцнай эмоцыі — вы нечага баіцеся ці некаму зайздросьціце.
- Сайты, якія пашыраюць прапаганду і дэзынфармацыю, атрымліваюць добрае месца ў пошукавых сыстэмах. Людзі схільныя націскаць на такія спасылкі, нават калі яны ня вераць такой інфармацыі.
- Вера ў рэптылій ва ўладзе і чаканьне іншаплянэтнікаў, якія нас уратуюць, паказвае, наколькі глыбока людзі правальваюцца ў дэзынфармацыю.
«Мы паглынаем усю інфармацыю, да якой маем доступ»
— Тыя, хто займаецца кітайскай і расейскай дэзынфармацыяй у Чэхіі, гэта адначасова і крыніцы кібэрпагрозаў. Для мяне ўсё пачалося з супрацьстаяньня кібэрзлачынствам. Я пабачыў, што людзі, зьвязаныя з кібэркрыміналам, таксама займаюцца прапагандай і апэрацыямі ўплыву.
Гэта важна для маёй кампаніі, бо калі я працую над мэтадамі выкрыцьця дэзынфармацыі, апрацоўваючы вялікія масівы тэксту, я таксама знаходжу сьведчаньні кібэрзлачынстваў. Мы выкарыстоўваем гэта, каб узмацніць наш патэнцыял адсочваньня пагрозаў. Таму я магу займацца гэтым як часткай сваёй працы.
Часам бывае, што я адыходжу далёка ад асноўнай задачы — выкрываць кібэрзлачынствы. Гэта ўжо робіцца фактычна грамадзкай працай, і я даю нейкую інфармацыю і аналітыку дзяржаўным установам ці недзяржаўным арганізацыям. Але паводле працоўнай дамовы я не магу займацца палітычнай дзейнасьцю.
ГЛЯДЗІЦЕ ТАКСАМА: Стваральнік «Голасу» Павал Лібер — пра ўзлом плятформы, ІТ-шнікаў ГУБАЗіКа і лічбавую новую Беларусь— Кампаніі дэзынфармацыі ў нечым падобныя да кампутарнага вірусу. Калі вы хочаце зрабіць добры вірус, вам трэба мець інфармацыю пра сваіх патэнцыйных ахвяраў — пра слабыя месцы, якія можна атакаваць. Вы карыстаецеся гэтымі слабасьцямі, каб пашырыць у сыстэме зламысны код. Тое ж самае адбываецца з дэзынфармацыяй і прапагандай.
Мы пабудаваныя такім чынам, што мы паглынаем усю інфармацыю, да якой маем доступ. Потым мы перапрацоўваем яе ў мозгу, каб сфармаваць нейкае меркаваньне, але інфармацыя ўжо ў нашай галаве, і яна мае нейкі ўплыў нават на людзей з моцным розумам і воляй.
«Нашы розумы сьвядома атручваюць»
— Дэзынфармацыя — частка кагнітыўнай вайны. Гэта можна параўнаць вось з чым: я напісаў скрыпт на мове Python, з дапамогай якога да выявы любой жывёліны можна дадаць інфармацыю. Выява будзе выглядаць падобна, але для альгарытму распазнаваньня гэта будзе ўжо іншая жывёліна.
Леў на правай карцінцы будзе распазнавацца альгарытмам як сабака-тэр’ер.
З нашымі розумамі адбываецца нешта падобнае — тыя, хто ладзіць кампаніі дэзынфармацыі, сьвядома атручваюць іх дзіўнай інфармацыяй. Звычайна дэзынфармацыя невідавочная — напрыклад, 80 працэнтаў тэксту можа быць праўдай, але астатнія 20 працэнтаў зламысныя.
Сама па сабе гэтая тэхніка можа дапамагчы абысьці мадэрацыю. Гэта ня так проста, але на большасьці сацыяльных сетак я пабачыў добрыя вынікі. Напрыклад, я грузіў фота, якія Фэйсбук звычайна мадэруе і прыбірае, але іх альгарытм ня мог распазнаць гэтыя вобразы і гэтыя твары, бо я памяняў іх інфармацыю. Гэта працуе для стандартнай нэўрасеткі, і з дапамогай аднаго і таго ж коду я здолеў падмануць Фэйсбук, Інстаграм і Твітэр.
Стандартная нэўрасетка, якая выкарыстоўваецца для аўтаматычнай мадэрацыі, распазнае дэльфіна як альбатроса і ня здольная распазнаць чалавечы твар, калі ў файл карцінкі дададзена «падманлівая» інфармацыя.
Адукацыя не перашкаджае чакаць іншаплянэтных ратавальнікаў
— Калі гаварыць пра кампаніі дэзынфармацыі, дык у Чэхіі за імі часта стаіць альбо Расея, альбо Кітай. На гэтым слайдзе відаць, якія тэмы прасоўваюцца.
Чырвоным пазначаныя кампаніі Расеі, а сінім — Кітаю.
На слайдзе відаць, што ў пытаньні COVID-19 працавалі і расейцы, і кітайцы. Таксама відаць, што і Кітай, і Расея ненавідзяць ЗША. У пытаньні COVID-19 распаўсюджвалася вэрсія, што гэта штучны вірус, які пашыраюць Злучаныя Штаты. Расея таксама рабіла акцэнт на супрацьстаяньні Эўразьвязу, на сацыяльных праблемах, на дэзынфармацыі пра няўрадавыя арганізацыі і ўцекачоў.
Кітайцы працуюць па-іншаму, ня так, як расейцы. Расейцы робяць акцэнт на распальваньні нянавісьці, на палярызацыі людзей. А кітайцы ў значнай ступені прасоўваюць наратыў захапленьня Кітаем і кітайскай культурай.
ГЛЯДЗІЦЕ ТАКСАМА: ААН апублікавала даклад аб перасьледзе ўйгураў у Кітаі— Для апэрацый уплыву напачатку даецца інфармацыя, якую можна праверыць, знайсьці пацьверджаньне праз Google. Потым людзей падштурхоўваюць да нейкіх крыніц, дзе ім ужо ня трэба будзе думаць самім. А потым дадаецца інфармацыя, якая прывядзе людзей да цалкам няправільнай высновы.
Да прыкладу, ёсьць цэлая экасыстэма сайтаў, дзе прасоўваецца ідэя, што іншаплянэтнікі рыхтуюцца ўратаваць нас ад саміх сябе. Але каб атрымаць доступ на іх касьмічныя караблі, мы мусім адмовіцца ад вакцынацыі. І як доказ даецца тое, што на голках шпрыцаў, якімі робяць прышчэпкі, знайшлі згусткі крыві. Маўляў, гэта сьведчыць, што вакцынацыя прыводзіць да згусаньня крыві, да тромбаў.
ГЛЯДЗІЦЕ ТАКСАМА: Чаму вакцына не выклікае раку, не мяняе ДНК і не прыводзіць да заражэньня COVID-19. Міты аб прышчэпках ад каранавірусуАле ж гэта цалкам прыродная зьява: калі кроў выходзіць па-за межы цела, яна згусае. Калі вы некалі мелі драпіну, дык бачылі, як гэта адбываецца. Але цяпер некаторыя людзі рэагуюць так: «Халера, мая кроў згусае пасьля вакцынацыі, мне гамон». І яны шукаюць адказу на такіх сайтах.
Ёсьць нават пара людзей, зь якімі мы разам вучыліся на факультэце біяхіміі, але цяпер яны ходзяць на такія сайты. Яны біяхімікі і павінны былі б ведаць, як працуе цела, але гэта не перашкаджае ім верыць, што нас чакаюць касьмічныя караблі.
«Кампанія грунтуецца на нейкай моцнай эмоцыі»
— Я адсочваю тыя крыніцы, празь якія ўжо распаўсюджвалася дэзынфармацыя. Калі вы ведаеце, што нехта хлус, дык імавернасьць, што новая інфармацыя з гэтай крыніцы таксама будзе хлусьнёй, вышэйшая.
Калі гаворка пра інфармацыю наконт вайны ва Ўкраіне, я правяраю факты з дапамогай сваіх украінскіх сяброў. Тут шмат «ручной» працы, бо ў гэтым выпадку няма «срэбнай кулі», якая б дазволіла аўтаматычна вызначаць інфармацыю. Для гэтага спатрэбілася б супэрмашына, якая б адсочвала рэчаіснасьць у рэжыме рэальнага часу, а гэта немагчыма.
Некалькі дзён таму я чытаў пра новы праект Google, які будзе правяраць факты і параўноўваць інфармацыю з аналягічнай інфармацыяй з надзейных крыніц. Але я ўжо ведаю, што такі працэс можна «ўзламаць».
ГЛЯДЗІЦЕ ТАКСАМА: Facebook атрымаў доступ да выдаленых карыстальніцкіх дадзеных, кажа звольнены супрацоўнік кампаніі— Большасьць кампаній дэзынфармацыі ў Чэхіі адбываецца ў сацыяльных сетках, і ў іх удзельнічаюць сайты з гісторыяй хлусьні ў мінулым, пра якія я ўжо казаў, — такія, як Aeronet ці Sputnik News.
Звычайна кампанія грунтуецца на нейкай моцнай эмоцыі — вы нечага баіцеся ці некаму зайздросьціце. Да прыкладу, «украінцы прыедуць сюды, каб скрасьці нашы працоўныя месцы», але адначасова «ўкраінцы прыедуць і ня будуць працаваць». Але гэтыя наратывы працуюць паасобку ў розных групах на сацыяльных сетках. І там ужо дадаюцца асабістыя гісторыі — «я бачыў украінца, які не працуе», або «гэтыя ўкраінцы будавалі дом, але зрабілі гэта абы-як».
ГЛЯДЗІЦЕ ТАКСАМА: У антыўрадавым мітынгу ў цэнтры Прагі ўзялі ўдзел 70 тысяч чалавек. Гучалі лёзунгі супраць падтрымкі ЎкраіныНекаторыя палітыкі і іх маркетолягі ведаюць, што такія настроі ёсьць сярод часткі насельніцтва Чэхіі, і яны такія настроі заахвочваюць. Яны кажуць адным людзям: «Паглядзіце, як урад не спраўляецца з сытуацыяй. Бюракратыя не спраўляецца з запытамі на іміграцыю, людзі застаюцца бяздомнымі, а мы зможам ім дапамагчы лепш». А іншай групе насельніцтва яны кажуць: «Гэтыя ўкраінцы — схаваныя нацысты, яны зьбеглі сюды, каб ня трапіць пад перасьлед у Расеі, і будуць тут рабіць свае чорныя справы».
Такія пасланьні распаўсюджваюцца праз сайты, узмацняюцца на сацыяльных сетках, і такія размовы можна пачуць нават у барах ці падчас паездак у грамадзкім транспарце. Нават у нашым офісе ёсьць людзі, якія вераць у гэтую дэзынфармацыйную лухту.
Людзей звычайна атачае інфармацыйная бурбалка з тых, хто верыць у аднолькавыя зь імі рэчы. Таму яны не сутыкаюцца з супрацьлеглай інфармацыяй і не практыкуюць крытычнае мысьленьне.
«Пачынаюць зь лякальных праблем, а потым кажуць што трэба выйсьці з NATO»
— У Чэхіі ёсьць палітычная партыя Motoristé sobě (Аўтамабілісты самі), чыя мэтавая група — людзі, якіх турбуе сытуацыя з паркоўкамі ў Празе. Гэта праблема ў многіх вялікіх гарадах па ўсім сьвеце. Тыя, хто стаіць за партыяй, выкарыстоўваюць гэтую праблему, каб заклапочаныя ёю людзі далучаліся да іхных групаў у сацыяльных сетках.
Яны пачынаюць з парковак, але раптам вы бачыце, што гэтая партыя мае што сказаць пра геапалітыку. Яны называюць сябе мясцовай партыяй, якая спрабуе разьвязаць праблему парковак, але вось яны ўжо гавораць пра вайну ва Ўкраіне, пра тое, які кепскі Эўразьвяз, які не дае рады крызісу. Яны пазьбягаюць слова «вайна», не прызнаюць, што Пуцін можа быць прычынай вайны, і займаюць шмат падобных пазыцый у іншых пытаньнях.
Ёсьць і іншыя невялікія партыі, да прыкладу Trikolora («Трыкалёр», ад трох колераў сьцяга Чэхіі. — РС), якія дзейнічаюць паводле падобнай схемы. Яны пачынаюць зь лякальных праблем — да прыкладу, недахопу месцаў у грамадзкіх школах, — а потым расказваюць сваёй аўдыторыі, якія шкодныя вакцыны, які нікчэмны Эўразьвяз, а яшчэ нам трэба выйсьці з NATO.
Ад маці ў дэкрэце да аматараў крышталяў
— На Фэйсбуку ёсьць групы маці ў дэкрэтным адпачынку, настаўнікаў ёгі, людзей, якія робяць мадэлі тэхнікі, цікавяцца геалёгіяй і гэтак далей. Я адсочваю мноства такіх групаў і бачу, што людзі, якія займаюцца кампаніямі дэзынфармацыі, спрабуюць дзейнічаць паўсюль.
Да прыкладу, у геалягічнай групе абмяркоўвалі месцы, дзе можна знайсьці прыгожыя крышталі. І раптам у камэнтарах зьяўляецца прыгожае фота Пуціна са сьвечкамі, кветкамі і нейкім маленькім крышталём. І подпіс: «Я вось такі знайшоў, што вы пра яго думаеце?»
Такім чынам яны правяраюць, каму можа спадабацца фота Пуціна. Пад карцінкай пачалася спрэчка. Адны пісалі: «Валіце адсюль, тут вам не Расея!», але зьяўляліся і камэнтары кшталту: «Расейцы — нашыя браты, яны нам дапамаглі змагацца з імпэрыялістамі ў 1968 годзе». І тыя, хто гэта ўсё пачаў, глядзяць, каго можна перацягнуць у іншую групу.
Наступны допіс быў: «Хочаце даведацца больш пра нашае братэрства з Чэскай рэспублікай? Заходзьце на гэты сайт, каб даведацца больш». І ў іх атрымліваецца перацягнуць частку людзей у іншыя групы, дзе ўжо абмяркоўваюцца тэмы, якія яны хочуць прасоўваць.
ГЛЯДЗІЦЕ ТАКСАМА: Meta: «тролі» імітавалі масавую падтрымку вайны ва Ўкраіне— З дапамогай выведкі па адкрытых крыніцах і апрацоўкі натуральнай мовы ў некаторых выпадках можна вызначыць, адкуль пачалася кампанія дэзынфармацыі і як яна пашыралася. Але гэта даволі дорага, і, урэшце, я ня маю праваахоўных паўнамоцтваў, каб нешта зрабіць гэтаму сайту ці асобе.
«Можна скончыць у падвале, калі баісься выйсьці да людзей»
— Мяне палохае, як працуюць альгарытмы сацыяльных сетак. Я карыстаюся фэйкавымі акаўнтамі ў Instagram, Facebook і Youtube, і каб зрабіць іх больш праўдападобнымі, я стаўлю падабайкі на нейкую інфармацыю. У выніку я атрымліваю ўсё больш і больш такога самага кантэнту.
Калі б гэта быў рэальны акаўнт, я б усё глыбей і глыбей апускаўся ў дэзынфармацыю. Да таго ж сацсеткі аб’ядноўваюць мяне зь людзьмі, якія маюць падобныя зацікаўленасьці. У выніку я раблюся закрытым для іншых меркаваньняў. Можна скончыць як нейкі айцішнік, які сядзіць у падвале і баіцца выйсьці да людзей. Так працуе стварэньне сацыяльных бурбалак і радыкалізацыя.
Я спадзяюся на новае эўрапейскае заканадаўства, якое абавяжа зрабіць альгарытмы сацсетак адкрытымі, каб мы пабачылі, як яны працуюць, і маглі нешта гэтаму супрацьпаставіць ці прынамсі зрабіць нейкія прэвэнтыўныя крокі.
ГЛЯДЗІЦЕ ТАКСАМА: Як намі маніпулююць. Хто і навошта?— Сайты, якія пашыраюць прапаганду і дэзынфармацыю, атрымліваюць добрае месца ў пошукавых сыстэмах. Яны маюць зьмест, які выклікае моцныя эмоцыі — добрыя ці кепскія. Людзі схільныя націскаць на такія спасылкі, нават калі яны ня вераць такой інфармацыі.
Акрамя таго, яны выкарыстоўваюць «ботафэрмы», якія падвышаюць ім наведвальнасьць. Да прыкладу, я заўважыў такое на чэскім сайце Aeronet. Думаю, што такое выкарыстоўваецца і для беларускіх урадавых рэсурсаў.
ГЛЯДЗІЦЕ ТАКСАМА: Старшыня БАЖ заявіў, што Google выступае як распальвальнік вайныЦікава, што я не знайшоў такога мэханізму на Sputnik. Але калі я спрабаваў высьветліць, якімі мэханізмамі яны карыстаюцца, мой сэрвэр адключыўся. Калі сказаць папросту, мяне фактычна ўзламалі — такое здарылася са мной адзіны раз у жыцьці. Таму магу сказаць, што доступ да Sputnik вельмі моцна ахоўваецца.
Пра што сьведчыць вера ў рэптылій ва ўладзе і чаканьне іншаплянэтнікаў
— Пасьля сьмерці брытанскай каралевы зьявіліся допісы, што яна была рэптыліяй, што цяпер рэптыліі страцілі свайго лідэра і што расейцы нарэшце змогуць нас усіх уратаваць. Я назіраў за гэтай кампаніяй у Твітэры.
На жаль, ёсьць людзі, гатовыя паверыць нават у такое. Яны ўжо спажывалі шмат дэзынфармацыі і паступова робяцца гатовыя верыць усё больш экзатычным наратывам. Гэта можна параўнаць з кагнітыўным вірусам, які скажае рэчаіснасьць і прымушае вас верыць усё большай колькасьці дэзынфармацыі.
Такія эзатэрычныя кампаніі дазваляюць замерыць, наколькі ўсё кепска зь некаторымі групамі людзей. Бо дэзынфармацыю пра сытуацыю ў Беларусі ці Ўкраіне ня так проста замяраць — там цяжэй вызначыць, дзе праўдзівая інфармацыя, успрыняцьце можа залежаць ад геапалітычнай арыентацыі. А вось гэтыя рэптыліі і чаканьне іншаплянэтнікаў, якія нас уратуюць, — гэта паказвае, наколькі глыбока людзі правальваюцца ў дэзынфармацыю.
ГЛЯДЗІЦЕ ТАКСАМА: «Інфармацыйная зброя важнейшая за ядзерную». Як беларус прыдумаў расейскую інфармацыйна-псыхалягічную вайнуПаводле маіх замераў, у гэтай інфармацыйнай кампаніі пра рэптылій у Чэхіі ўдзельнічалі амаль 3 тысячы чалавек. Я б сказаў, што для 10-мільённага насельніцтва гэта даволі сурʼёзная лічба. Бо з гэтых 10 мільёнаў ня ўсе карыстаюцца сацыяльнымі сеткамі, таму агульная лічба можа быць крыху большая.
І, вядома ж, людзі, якія вераць у такую экзотыку, раней паверылі ў мноства іншай дэзынфармацыі. Паводле маіх ацэнак, каля 30 працэнтаў насельніцтва вераць у нейкую дэзынфармацыю, а такія рэчы, як рэптыліі — гэта толькі верхавіна айсбэрга.
Як абараніцца ад дэзынфармацыі?
— Мне б хацелася, каб кожны, хто публікуе нейкую інфармацыю, нёс за яе адказнасьць. Цяпер, калі вы валодаеце сайтам зь вельмі кепскай інфармацыяй, вас могуць заблякаваць, але вельмі цяжка вызначыць, што такое «кепская інфармацыя». Нам патрэбна мацнейшае заканадаўства.
Хацелася б, каб не было магчымасьці ананімнасьці для ўладальнікаў сайтаў. Гэта ня значыць, што я хачу для іх юрыдычнага перасьледу ці нападак з боку людзей, якія зь імі ня згодныя. Але калі вы валодаеце сайтам, на якім пашыраецца расейская прапаганда, дык, на маю думку, такі сайт трэба альбо блякаваць, альбо на ім павінен быць пазначаны сапраўдны ўладальнік, які б нёс адказнасьць за зьмест. Я тут выступаю выключна як спэцыяліст у бясьпецы і ўсьведамляю, што такі крок можа абмежаваць свабоду слова. Таму гэтае пытаньне трэба абмяркоўваць з экспэртамі ў сацыяльных дасьледаваньнях.
ГЛЯДЗІЦЕ ТАКСАМА: YouTube выдаліў больш за мільён ролікаў зь «небясьпечнай дэзынфармацыяй» пра COVID-19— Калі вы моцна пагаджаецеся ці моцна не пагаджаецеся зь нейкай навіной, гэта знак, што варта шукаць больш інфармацыі па гэтай тэме. Калі інфармацыя выклікае моцныя эмоцыі, значыць, нешта адбываецца ў вашай галаве. Гэта мой асабісты досьвед.