Палітычная зброя ў сацыяльных сетках: боты, фэйкі, тролі

На мінулым тыдні кіраўніцтва Фэйсбуку заявіла аб магчымым дачыненьні расейскага боку да фінансаваньня палітычнай рэклямы на старонках сацыяльнай сеткі. Каля 470 фэйкавых акаўнтаў і старонак распаўсюджвалі палітычныя паведамленьні падчас прэзыдэнцкай кампаніі ў ЗША. Сацыяльныя сеткі таксама актыўна выкарыстоўваліся падчас беспарадкаў у Шарлотсвілі.

Прафэсар Арканзаскага ўнівэрсытэту Нітын Агарвал (Nitin Agarwal) і спэцыяліст па абароне інфармацыі Атлянтычнай рады ў Вашынгтоне Бэн Німа (Ben Nimmo) распавялі карэспандэнтцы Голасу Амэрыкі (ГА) Юліі Аліевай, як праводзяцца кампаніі ў сацыяльных сетках і якую ролю яны іграюць у фармаваньні палітычных поглядаў у грамадзтве.

ГА: Назавіце асноўныя стратэгіі інфармацыйных кампаній, якія ажыцьцяўляюцца ў сацыяльных сетках?

Нітын Агарвал: У аснове гэтага працэсу ляжыць распаўсюджваньне інфармацыі ня толькі рэальнымі людзьмі, але і аўтаматызаванымі ботамі. Цяпер у сетках вельмі шмат падробленых акаўнтаў, таму што магчымасьці чалавека абмежаваныя, у той час як робаты могуць публікаваць сотні пастоў у хвіліну. Мы выявілі некалькі стратэгій, адна з іх — «Frenemy Bots».

Яна заключаецца ў тым, што адначасова на вас падпісваецца мноства ботаў, і праз кожнага з іх да вас падключаецца цэлая сетка іншых ботаў, якая вас атакуе. Такія навінавыя арганізацыі як ProPublica, прэс-цэнтар NATO, DFR Lab, Atlantic сутыкнуліся з падобнымі атакамі, мноства ботаў адначасова падпісаліся на іх, сталі рэплікаваць іх пасты і пакідаць крытычныя і саркастычныя камэнтары.

Мы таксама выявілі стратэгію «Hashtag Latching», калі з дапамогай папулярных хэштэгаў у сацсетцы ажыцьцяўляецца распаўсюджваньне дэзінфармацыі, і ўсе, хто падпісаны на хэштэг, бачаць гэта ў сваёй стужцы. Усё гэта вельмі простыя схемы, але яны ніколі раней не вывучаліся. Мы таксама выявілі мноства ботавых сетак, дзе асноўныя ідэі ад галоўнага акаўнта-піраміды падхопліваюцца і распаўсюджваюцца сотнямі прымацаваных да яго старонак.

Гэта цэлыя арміі, якія дапамагаюць распаўсюджваць пэўныя ідэі. Зьявіліся нават інтэрнэт-сэрвісы, такія як HANSA, дзе можна проста купляць ботаў. За 5–10 даляраў у месяц можна купіць сотню ботаў і выкарыстоўваць іх для прасоўваньня сваіх паведамленьняў. Іх дзеяньне не абмяжоўваецца Твітэрам і Фэйсбукам, яно таксама распаўсюджваецца на іншыя плятформы.

У гэтых інфармацыйных кампаніях прысутнічае прасунутая мэдыя-інтэграцыя. Цяпер узрастае роля новых плятформаў і асвойваюцца новыя спосабы камунікацыі. Напрыклад, ёсьць такая аплікацыя як Discord, якая шырока выкарыстоўвалася для зносін сярод аматараў кампутарных гульняў.

Але падчас беспарадкаў у Шарлотсвілі яна было ледзь не галоўным сродкам зносін для ўсіх групах, якія ў іх удзельнічалі, такіх як антыфашысты, нэанацысты і іншыя. Аплікацыя выкарыстоўвалася як галоўны сродак для арганізацыі і каардынацыі пратэстаў. Цяпер мы працуем над стварэньнем крыжаванай інтэграцыйнай плятформы, якая дазволіць нам вывучаць усе гэтыя працэсы ў агульным кантэксьце і бачыць інфармацыйныя патокі.

Нават прымаючы пад увагу існуючыя дасьледаваньні, тут па-ранейшаму неаранае поле. Сацыяльныя сеткі зьяўляюцца дэмакратычнай пляцоўкай, таму што кожны мае да іх доступ і свой голас. Але нейкія галасы чутны лепш. Нягледзячы на тое, што сацыяльныя сеткі дэмакратычныя, яны не дапамагаюць у прасоўваньні дэмакратычных ідэй і інстытутаў. У сапраўднасьці тут пануе прынцып «багатыя становяцца багацейшымі».

Калі вы New York Times або Голас Амэрыкі, то вас пачуюць больш людзей, таму што вы вядомыя. Робаты могуць паскорыць гэты працэс, у некаторых выпадках распаўсюджваючы дэзінфармацыю, і гэта робіць сытуацыю ў сфэры навінаў яшчэ горшай, чым калі б гэта былі проста мэйнстрым-мэдыі. Гэта таксама складаней кантраляваць, неабходна ствараць альгарытмы для барацьбы з гэтым фэномэнам.

Бэн Німа: У нядаўнім дакладзе кампаніі «FireEye» прааналізавалі інфармацыйную атаку на Гілары Клінтан, якая ажыцьцяўлялася дзесяткамі аўтаматычных ботаў у Твітэры. Дасьледнікі выявілі сьпіс акаўнтаў, якія твіцілі адначасова ў алфавітным парадку.

Выглядала гэта так, быццам нехта стварыў фэйкавыя акаўнты і напісаў праграму, якая давала каманду аўтаматычна распаўсюджваць навіны супраць Гілары Клінтан з хэштэгам #DamnHillary («Да д’ябла з Гілары»). І гэта клясычная схема, фэйкавыя акаўнты рэгулярна распаўсюджваюць пэўную інфармацыю і ствараюць трэнд у сацсетцы, які бачны рэальным карыстальнікам.

ГА: Наколькі моцны ўплыў гэтых кампаній на палітычныя перакананьні карыстальнікаў?

Нітын Агарвал: Вельмі складана адказаць, як насамрэч уплывае ўся гэтая актыўнасьць ботаў на погляды выбаршчыкаў. У нядаўнім дасьледаваньні Нацыянальнага бюро эканамічных дасьледаваньняў і Pew Research высьветлілася, што 2/3 людзей вераць інфармацыі, якую перапошчваюць іх сябры і навінавыя арганізацыі ў сацыяльных сетках. То бок, гэта 66% карыстальнікаў, і гэта вялікі лік.

Аднак мы ня можам сказаць з упэўненасьцю, ці паўплывала гэта на рашэньне выбаршчыкаў. Хоць мы знаходзім усё больш пацьверджаньняў аб інфармацыйных атаках і дэзінфармацыі, што павышае верагоднасьць, што інфармацыйныя кампаніі маглі паўплываць на палітычныя погляды людзей.

АГ: Гаворачы аб расейскім удзеле ў фінансаваньні рэклямы падчас прэзыдэнцкіх выбараў, ці заўважылі вы якія-небудзь асаблівыя прыёмы?

Бэн Німа: Галоўнае пытаньне, якое засталося для нас без адказу, — як Фэйсбук вызначыў, што гэтыя акаўнты кіраваліся «фабрыкай троляў» з Санкт-Пецярбургу. Фэйсбук заявіў, што яны знайшлі 470 акаўнтаў, якія не кіраваліся рэальнымі людзьмі, і што яны былі зьвязаныя з Агенцтвам інтэрнэт-дасьледаваньняў, вядомым як «фабрыка троляў».

Мы ня ведаем, як Фэйсбук вызначыў гэтую сувязь. У New York Times правялі расьсьледаваньне і выявілі, што ўсе гэтыя акаўнты падобныя, яны рэпосьцяць толькі навіны. Быў адзін акаўнт, які сьцьвярджаў, што ён карыстальнік з Ілінойсу, але фатаграфіі былі ўзятыя з рэальнага акаўнта карыстальніка з Бразыліі. New York Times зьвязаўся з Фэйсбукам, які правёў тэст для праверкі сапраўднасьці акаўнтаў.

Яны адправілі запыты і па адказах вызначылі, што акаўнты былі фэйкавыя. Звычайна гэта можна лёгка вызначыць, калі правесьці пошук, напрыклад, па фатаграфіі. Як правіла на Фэйсбуку людзі дзеляцца гісторыямі з асабістага жыцьця, вы бачыце навіны пра сяброў і сваякаў, і вельмі дзіўна, калі старонкі людзей ўтрымліваюць толькі палітычныя навіны. Гэта клясычныя паводзіны фэйкавых акаўнтаў.

Калі вы ня можаце вызначыць асобу чалавека, а гэты рахунак посьціць сотні паведамленьняў у дзень і прасоўвае пэўныя ідэі і навіны, значыць, гэты рахунак — бот.

ГА: Ці можна з дакладнасьцю вызначыць месцазнаходжаньне акаўнта?

Нітын Агарвал: Вельмі складана вызначыць геалякацыю акаўнта з абсалютнай дакладнасьцю. Паводле дасьледаваньняў, менш за 1% людзей раскрываюць сваё геаграфічнае месцазнаходжаньне, выкарыстоўваючы сэрвісы на тэлефонах. Але ёсьць спосабы вызначыць месцазнаходжаньне, выкарыстоўваючы мэтады кампутарна-тэхнічнай экспэртызы. Адначасова, магчыма падрабіць сваё месцазнаходжаньне, выкарыстоўваючы проксі-сэрвэры. Напрыклад, у Кітаі людзі маюць доступ да заблякаваных сайтаў, таму што мяняюць сваю геалякацыю ў кампутары. Геалякацыя часта можа азначаць, што рахунак фэйкавы, калі ён посьціць зь месца дзе-небудзь пасярод акіяну.

ГА: Што робяць сацыяльныя сеткі для прадухіленьня падобных кампаній з выкарыстаньнем ботаў і фэйкавых акаўнтаў?

​Бэн Німа: Яны ўжо пачалі прымаць пэўныя захады. Цяпер стварыць акаўнт на Фэйсбуку або Твітэры складаней, чым 5–6 гадоў таму. Калі Твітэр толькі зьявіўся, усё, што вам было трэба — гэта адрас электроннай пошты. Цяпер сацсетка ўскладняе працэдуру стварэньня профілю. Мы заўважылі, што сярод ботаў шмат старонак, створаных у 2010 годзе. Карыстальнікі перасталі іх выкарыстоўваць, і яны былі ўзламаныя. У гэтым выпадку, лягчэй знайсьці стары рахунак і ўзламаць яго, чым стварыць новы. І Твітэр, і Фэйсбук патрабуюць, каб карыстальнікі пацьвярджалі свае акаўнты.

Нітын Агарвал: Цяпер дасьледнікі спрачаюцца, ці трэба нам больш кантролю ў сацыяльных сетках. Але кантроль не зьяўляецца рашэньнем праблемы. Рашэньнем будзе стварэньне эфэктыўных альгарытмаў і выкарыстаньне мэтадаў вылічальнага аналізу, якія дазволяць карыстальнікам самім вызначаць, ці зьяўляецца профіль ботам.

Гэта такі мэтад краўдсорсінгу, дзе людзі самі выяўлялі б фэйкавыя старонкі. Але, зноў жа, мы ня можам сказаць, наколькі гэта будзе эфэктыўна ў сувязі з штораз большай колькасьцю ботаў і фэйкаў. Сацыяльныя сеткі і дасьледчыкі павінны быць ўцягнутыя ў гэтую дыскусію як мага хутчэй, каб зразумець, куды нам рухацца і як можна з гэтым змагацца.