Как да разпознаваме тролове, ботове и фалшиви профили?

Основните източници на фалшиви новини в интернет пространството са т.н. тролове и автоматизирани машини, наречени ботове.

В Интернет жаргона под думата „трол“ се разбира човек, който публикува  провокативни коментари под дадена тема с цел да смути автора или да разстрои нормалната  дискусия в даден форум,  като насочи  темата в определена посока.  В този смисъл, дейността на подобен човек се нарича „тролене“.

Тролингът е деструктивен феномен, започващ от обикновено развлечение за сметка на по-неопитните потребители,  стигащ до нивото  на информационна война[1].

Днес съществуват цели институции  за тролинг, които организират платени групи хора с цел агитация и манипулиране на Интернет потребителите и общественото мнение. Обикновено, тролът “работи” в две направления.

Едното е чрез провокация и обиждане на съвсем непознати хора, подразнили го с мнение по даден въпрос. 

Второто направление е добре планирана разработка с цел отмъщение на конкретен човек или група от хора, чрез използване на различни слухове, клевети и компромати, особено ако човекът използва истинското си име.

Трябва да се прави разлика между хейтър и трол.  Докато първите са природно негативни и просто мразят всичко, то вторите са по-скоро хитри манипулатори.  Най-общо те се делят на 2 вида – прости и сложни тролове.

 Простите използват явни обиди и целенасочено нарушават правилата на форумите, а сложните работят на границата на нарушенията.

Според целта си троловете може да се разделят на следните видове[2]:

  • Злобни тролове, които просто се забавляват, като обиждат хората. Обикновено използват глупости и обиди, доста често с правописни грешки.
  • Платени тролове, които имат за цел целенасочено унищожаване на избран форум,  чрез заливане с безсмислени съобщения или публикации не представляващи интерес за читателите. При спам над 75% от публикациите, трафика на сайта буквално спада до нулата.
  • Пропагандиращи тролове, разновидност на платените тролове агитиращи с дадена поръчкова мисия. Обикновено работят на групи и знаят правилата във форума.
  • Дебнещи тролове, които се борят да  поставят първите коментари под публикацията от различни псевдоними с цел  да дадат един отвратителен начален тон на потенциалната дискусия или да я насочат в желана от тях посока. Често следят блоговете на известни личности и след всяка тяхна публикация веднага ги нападат с цел да ги изкарат извън нерви.
  • Тролове маниаци, които постват навсякъде един и същи дълъг текст, който няма нищо общо с темата и е съпроводен с неверни или преиначени факти.

Все по-често започва да се говори за воденето на Информационни войни и нуждата от създаване на кибер подразделения във въоръжените сили. При модерните конфликти те със сигурност не могат да минат без използването на тролове за моделиране на общественото мнение.

За това в практиката се срещат няколко стратегии за тролове, както следва:

1. Западна школа за тролене.  В западния свят платения тролинг е отдавна развит, дори му се обръща специално внимание от държавните институции.

Въоръжените сили на Великобритания създават  специално Интернет подразделение за „психологически атаки“  наречено „Бригада 77“ , чиято численост може да достигне до 2000 обучени трола.

В Съединените щати военните провеждат операция „Искрен глас“ за разработване на специален тролски софтуер – Ntrepid, чрез който един оператор ще може да борави с 10 различни акаунта[3].

Голяма част от англоговорящите тролове и групите Anonymous се раждат в сайта  4chan.org – той е безплатен, не изисква регистрация или акаунт, постоянно се обновява и няма база данни, което води до прекалена разкрепостеност.  Там най-вече се качват картинки наречени „мемове“ и демотивиращи плакати.   Един такъв мем е главата на трола – едно безформено, разкривено лице, което често ядосва останалите потребители на форумите.   Друг такъв сайт е  Urban Dictionary и българския „Всичко за 1 лев“ – нещо като пародия на Wikipedia за тролове.

2. Руска фабрика за тролове. Наскоро нашумя едно интервю с известния руски блогър Марат Буркхард по радио „Свобода“, който твърдеше, че  фирма „Интернет изследвания“ работи, като огромна  фабрика за тролове. Там са работили около 200 – 300  човека разделени в украински отдел, английски отдел за бомбардиране на CNN и BBC, Фейсбук отдел, за останалите социални мрежи, местни и регионални  сайтове, новинарски, за създаване на демотивиращи колажи, отдел за видео клипове[4].  Първоначалната  заплата на един човек е била около 700 долара за норма от  135 коментара при  12-часова работна смяна.

При манипулиране на общественото мнение тези троловете са работели в групи от по трима човека по метод наречен „Злодей, снимка, линк“.

Първият човек е  „Злодей“, който играе ролята на съмняващ се в написаното критикар. Вторите двама започват спор с него от рода, че „всичко написано е вярно, ето виж…“  и единия слага снимка, а третия поставя линк, към специално написана статия в подкрепа на аргументите им.

Във всеки от коментарите са длъжни да включват подбрани ключови думи, който трябва да излязат на челните места в търсачките и опорни точки за коментиране.

Във фирмата за целта е имало подбрани каталози с регионални сайтове и за една смяна е трябвало да прекосят цялата страна по азбучен ред,  чрез метода  „Злодей, снимка, линк”,  като коментират статии по определени опорни точки, например Войната в Украйна, Путин и т.н.

Примерна задача:

Тема: Натовски войници се бият за Украинската армия

Ключови думи: Война в Украйна, Русия, НАТО, наемници;

Необходими са 3 трола, 1 статия, 3 коментара, 1 снимка или видео, 1 линк.

Работата започва след специален пост, публикуван в социалната мрежа LiveJournal, че чужди наемници се бият на страната на Украинската армия в със специално разработено видео,  показващо двама американски войници. Появява се злодея и оспорва написваното, като казва, че не е ясно,  какво са правили там американските войници,  включвайки в поста си задължителните ключови думи.

Идва средния трол и потвърждава статията, като добавя линк към втора статия, в която пише за американските войници.

Следващият  трол със снимката, обвинява американците в лицемерие и добавя демотивиращ колаж за акцент.

Тънкости – винаги единият трол е лош, другия му противоречи, а третия е умерен,  но изразява желаната от поръчителя позиция.   Освен това,  когато спорят по между си,  по-лесно си изкарват нормата от постинги. Още по-добре е,  когато се върже  някой почтен потребител на интернет форум, тогава той им помага без да знае, да си изкарат по-лесно нормата от постинги.

Има натрупан и значителен български опит в методите за тролене в социалните мрежи.

Още от преди 5-6 години в България се предлагат подобни услуги за политически тролинг, маскирани под прикритието на управление на онлайн репутацията на даден депутат.

Фирма  „Лийдуей Медия Солушънс“ сключи сделка с известна политическа партия за 1800 лева на месец да публикува пакет от 250 коментара с различни IP адреси, по следната схема: -150 във Facebook; – 50 в Тwitter и 50 във форумите на месец, включително Youtube. По тази дейност работи екип от 4 човека в рамките на 10 месечна кампания[5].

Друга българска схема за  тролинг е 6 x 7. 

Тя е практикувана в политическа кампания, в която доброволците почват по следната схема за тролинг в шест сайта от седем човека. Всеки един трол има номер отговарящ на ден от седмицата 1 – понеделник, 2-вторник и прочие. Номер 7 е „разпоредител“ неговата работа е всяка неделя да избира една публикация, повтаряща се в шест специално избрани посещавани сайта и да я даде на другите 6 трола за коментари. Тяхната работа е да коментират в съответния ден от седмицата под всеки един от шестте сайта. С други думи всеки коментира под всеки един сайт и се получава 6 Х 6 = 36 коментара.

shema za trolene

Могат да се разграничат следните тактики на тролене:

1. Клониране. Това е най-често използвания трик от троловете. Всеки трол задължително се клонира, чрез създаване на няколко акаунта от различен компютър и започва да води ожесточена дискусия със самия себе си.

По този начин много бързо може да забие дадена тема във форум, блог или социална мрежа.

2. Стоварването на десант. Това е метод, при който обучена група от тролове влиза организирано в нарочен форум и със своите клонинги е в състояние да го превземе за кратко време.

3. Плувки, куки и мрежи. Това са различни средства за създаване на провокативни съобщения, които могат да се хвърлят във вече открита тема или да са първи пост в нова тема. Обикновено се маскират, като невинен  въпрос, но съдържат една или повече „куки“ за които после да се хванат троловете.

4. Потъване и различни маневри. Често тролът публикува нещо и “потъва” за известно време, през което наблюдава реакциите, търпимостта и нивото на захапване, намесата на администратора и др.

При благоприятна среда  подгрява темата със свои клонинги, забива и след това се прави на жертва.

5. Засада. Тролът следи даден блог, например на Президента и когато излезе нова публикация веднага започва да му намира грешки, да доказва, че лъже и цели да го изкара от равновесие.

Вторият вид източници на фалшиви новини са т.н. ботове.

„Ботовете“ — това са автоматизирани акаунти в социалните мрежи управлявани от софтуер, които имитира реални хора, имат огромно присъствие в платформи като Facebook и Twitter.

Тези ботове могат сериозно да нарушат дебата, особено когато работят на групи, свързани в мрежа. Обикновено се използват за да следят тенденции по даден хаштаг, могат да бъдат използвани за усилване или нападение на коментари в статия или изпращане на т.н. спам.

Не всички ботове са злонамерени или политически. Автоматизираните акаунти могат да публикуват например поезия, фотография или новини, без да създават ефект на изкривяване. В същото време много ботове и ботмрежи са относително лесни за откриване, без достъп до специализиран софтуер или аналитични инструменти базирани на някои основни принципи и показатели.

Основните мотиви за създаване на фалшиви профили в интернет са:

  • скрита реклама;
  • пропаганда политическа или друга;
  • отмъщение на познат или публична личност;
  • забавление…

За съжаление, няма 100% гаранция за успех – нужен е опит. Най-бързо се придобива опит в практическата работа по администриране на големи Facebook групи. В настоящият труд ще направим опит да теоритизираме и класифицираме събраният от авторите опит за разпознаване на фалшивите профили и автоматизирани ботове. Във всички случаи е важно да се отбележи, че не може да се разчита на единични и точни фактори за идентифициране на поведение, подобно на бот.

Разпознаването е комбинацията от фактори, базирана на натрупания опит, като най-важните от тях са: дейност, анонимност и усилване.

1. Дейността е най-важният и най-очевидният индикатор, че профилът е автоматизиран. Има профили, които са толкова дейни, че не е възможно човек да извърши толкова дейности за толкова кратко време.

Дейността може лесно да се изчисли, като погледнете страницата на профила и разделите броя на публикациите по броя на дните, в които е бил активен. Показателят за подозрителна дейност варира, изследователите Оксфорд предлагат границата на  повече от 50 активни дейности на ден да се счита за подозрителна.

Например, през 2017 г. у нас стана известен случаят с 20 годишния Адриан Димитров от Шумен, който за две години е навъртял над 85 000 публикации във Facebook на политическа тематика[1]. Това не е типично човешко поведение, поради което за целта явно е използван софтуер.

2. Анонимността е вторият ключов показател, която показва профилът. Като цяло, колкото по-малко лична информация има за съответния човек,  толкова по-вероятно е да бъде бот.

Например, на изображението по-долу може да видите, че за аватар има факла, а името не е на човек и нямам нищо, което да осигури идентификация.


Този акаунт изобщо не дава никаква лична информация. Аватарът и фонът са неспецифични, местоположението е дадено като „САЩ“.  Следователно няма индикация какво лице стои зад акаунта.

3. Третият ключов индикатор е усилването. Една от основните роли на ботове е да стимулира сигнала от други потребители, чрез респоделяне, рехаресване или цитиране. Поради това времевата линия на типичния бот ще се състои от поредица чужди цитати, думи и новинарските заглавия, без оригинални публикации. Най-ефективният начин да се установи този модел е да се направи машинно сканиране на голям брой постове. Въпреки това, ръчно да превъртите последните 200 поста. Числото 200 е до голяма степен произволно и е проектирано да дава разумна представителна извадка.

4. Ботнет мрежите са друг начин за усилване на една и съща публикация от голям брой акаунти, с което се постига същият ефект. За разлика от горните примери, които се опитват да направят това само с един акаунт. Такива ботмрежи могат бързо да бъдат идентифицирани, когато се използват за усилване, ако сметката, която е направила поста, обикновено не е активна.

5. Общото съдържание е друг признак. Вероятността акаунтите да принадлежат на една мрежа може да бъде потвърдена, като се гледат публикациите им. Ако всички те публикуват едно и също съдържание или тип съдържание, в същото време те вероятно са програмирани да го правят.

6. Най-примитивните ботове са особено лесни да се идентифицират, защото създателите им не са си направили труда да сложат аватар. Особено явно е когато имат поредица от приятели без аватар, както е показано на снимката по-долу.

Много често ботовете използват открадната или споделена снимка. За да проверите заподозрения акаунт направете обратно търсене на снимката на профила.

8. Ако в името след знака „@“ има думата бот, или някакви безсмислени цифри и букви от рода на @LlPPvhAlk или @admh132kn2 и други генерирани от алгоритъм имена.

Например, може името на акаунта да не съвпада с името на екрана, може да имат мъжки имена с женски образи, както е показно на снимките долу.

9. Може да показват съдържание на арабски, английски, испански,  френски език и суахили, като е малко вероятно толкова езици  да се владеят от един и същи човек.

В реалния живот всеки, който е усвоил всички тези езици, вероятно има по-добри неща за вършене, отколкото рекламните видеоклипове в YouTube или Facebook.

10. Един класически индикатор е рекламата и търговското съдържание. Акаунтите, които до голяма степен показват реклами, особено, ако те правят това на няколко езика, са най-вероятно членове на търговски ботмрежи, наети от потребители, които искат да разширят или рекламират своите постове.

11. Софтуер за автоматизация може да се разпознае по използването на къси URL в поста, като ift.tt. Те се използват предимно за проследяване на трафика на конкретна връзка и това е индикатор за автоматизация. Това е вид софтуер, произведен от фирма, наречена ifttt.com, която позволява на потребителите да автоматизират своите постове според редица критерии — например, всяка публикация с даден хаштаг. Друг пример е съкращението ow.ly, bit.ly или tinyurl.com.

12. Респоделянията и харесванията са окончателен индикатор, че това е работа на работа. Някои ботове са програмирани да го правят.

В такива случаи броят на респоделянията и харесвания ще бъде почти идентичен, а поредицата от акаунти, които са извършили ретуитите и харесвания, също могат да съвпадат, като за една и съща изследвана новинарска публикация или политическо съобщение.

Това, което е най-важно, обаче, е осъзнаването на потребителите, че акаунтите могат да бъдат фалшиви, което прави потребителите по-малко склонни да бъдат манипулирани от тях.

Други белези на фал‘ивите профили могат да бъдат, както следва:

  • профлът е създаден наскоро и веднага е започнал да бълва информация;
  • непрозрачни профили (без снимка, без достъп до стената, без достъп до приятелите), но трябва да имаме в предвид, че само това не е достатъчно да кажем, че един профил е фалшив, защото има параноични персони, които напълно скриват данните си;
  • фалшивите профили имат хиляди приятели, a според статистиката един български потребител на Facebook  има среден брой от 229 приятели в профила си, само 7% от които е виждал лице в лице;
  • фалшивите профили направени с цел политика или реклама нямат споделяни лични неща в профила или груп;
  • фалшивите профили много по-често са млади жени – направете търсене по снимка; (за напреднали EXIF информация);
  • тагване на снимки е около 100 пъти по-често от нормалните профили;
  • слабо поддържан профил – последен пост от преди няколко месеца; обикновено са мързеливи или нямат време да поддържат всичките фалшиви профили;
  • несъответствие в личните данни на профила; Например млад човек, който харесва Бийтълс или човек който е професор в Оксфорд.
  • потърсете по името в Google (сложено в кавички), за да видите какво ще излезе, при по-екзотични имена като например “Трендафил Каракашев”, ако няма резултати или излезе само Facebook профила е доста вероятно да е фалшив профила. При често срещани имена като Георги Георгиев, няма смисъл да се прави такова търсене.

В крайна сметка, ботове и фалшивите профили съществуват, за да повлияят на човешките потребители.

Като противодействие на фалшивите профили имайте в предвид, че те може да се докладват за такива на администраторите на социалната мрежа. За да бъдат премахнати е нужно това да се случи от множество реални профили. Най-голям успех има, ако профилът се представя за друг Facebook профил, който си има собствен официален Facebook профил. Най-често се прави с известни личности.

На скоро в LinkedIn избухна скандал с Пол Уинфрий, бившият заместник-директор на съвета по вътрешната политика на президента Доналд Тръмп, който се разглеждаше  за ръководна длъжност  във Федералния резерв. Той беше уличен за връзка с шпионин, който се представя с фалшив профил в същата социална мрежа под псевдонима Кейти Джоунс.

Както е видно от следващата снимка на профила това е червенокоса 30-годишна жена със синьозелени очи, коса с цвят на мед и загадъчна усмивка. Профила има не много социални приятели – 52 броя, но които се оказват достатъчни да се свърже с подходящата цел.

Ние си мислим, че потенциалната вреда, ако се свържем с фалшив профил може да бъде незначителна, но нашите приятели могат да възприемат това за препоръка.  

Но според Асошиейтед прес, Кейти Джоунс не съществува! Снимката изглежда е създадена от компютърна програма за изкуствен интелект. Марио Клингеман, немски художник, който експериментира от години с изкуствено генерирани изображения твърди, че снимката е създадена от компютърна програма GANs.

Може да направите кратък тест на уменията ви да разпознавате фалшивите лица от истинските със следните онлайн инструменти:

  • От тази връзка може да създавате собствени фалшиви профили  https://thispersondoesnotexist.com.
  • А от тази връзка може да тествате способността си да разпознавате истинско лице от фалшив профил: http://www.whichfaceisreal.com/

Според  директора на Националния център за контраразузнаване и сигурност на САЩ William Evanina, чуждестранните шпиони обичайно използват фалшиви профили в социалните медии, като  LinkedIn, за да се свържат със съответните целеви лица. Вместо да изпращате таен агент на живо, много по-евтино е да създадете изкуствен профил  и да изпратите молби за приятелство до 30000 държавни служители.  Само преди месец пенсионираният служител на ЦРУ Кевин Малори беше осъден на 20 години затвор за предаване на подробности за секретни операции в Пекин на връзка, която е започнала в Linkedin.

За разлика от Facebook, който акцентира върху семейство и приятели, в Linkedin аудиторията са хора търсещи работи, което ги предразполага за нуждите на разузнаването.  Не случайно от компанията заявиха, че през първите месеци на 2019 г. са изтрили няколко хиляди фалшиви акаунти.


fakenews; името на файла е fake-instrument.png