A mesterségesen generált avatárok és kommentjeik nagyon hasonlítottak az igazi emberekre és arra, ahogyan az igazi felhasználók fejtik ki a véleményüket. Egy amerikai kutatócég Kínához vezette vissza a szálakat, azonban a valóság ennél sokkal bonyolultabb lehet. Cikkünkből az is kiderül, hogyan buktatták le a hálózatot a Drakulából vett idézetek és a rossz helyesírás.

2020. november 3-án tartják az amerikai elnökválasztást, aminek kapcsán egyre több felfokozott hangulatú médiatartalom jelenik meg mindkét párt követőinek oldaláról. Ahogyan az minden választás előtt történni szokott a világ összes szegletében, záporoznak az ígéretek és sötét titkok kerülnek napvilágra, melyek vagy igazak, vagy nem. A már hagyományosnak mondható kampányelemek mellett azonban idén is kiemelt szerep jutott a deepfake-nek és más MI-alapú befolyásoló technikáknak – és nem csak hazai pályáról érkezik a manipulatív tartalom.

Bár a csoport (ismert) tevékenysége nyár elejére nyúlik vissza, a Twitter augusztusban, a Facebook pedig csak szeptember végén tiltotta ki a hamis profilokat oldalairól.

Képzeletbeli barátok

Nyáron egy Kína-barát propagandakampány keretében, amely az Egyesült Államok a közösségi médiájára épít, csalók hamis követőket hoztak létre MI által generált profilok segítségével. Az augusztusi esemény azért számít különlegesnek, mert egy olyan átfogó befolyásolási technikáról van szó, amelyet képtelenség lett volna mélytanulás alkalmazása nélkül kivitelezni.

A kampány július óta tesz közzé különböző, a Trump-adminisztrációval szemben kritikus angol nyelvű videókat a Facebookon, a Twitteren és a YouTube-on - állítja a Graphika kutatócég, amely nyomon követi a csalók csoportjának tevékenységét.

A Graphika "Spamouflage Dragon" néven emlegeti az akciót. Bár a hamis profilok felhasználásával történő manipulációban semmi új nincs, az elemzőcég felhívta a figyelmet arra, hogy az akcióban résztvevő profilok leleplezését megnehezíti, hogy a hozzájuk tartozó profilképeket MI-vel generálják.

Első pillantásra a profilfotók teljesen igazinak tűnnek, de a Graphika furcsa közös vonásokat észlelt a képeken, például az elmosódott háttéreket és azt, hogy a profilfotókban a szemgolyó helyzete pontosan illeszkedik. Ez azt jelzi, hogy a fényképek valószínűleg egy úgynevezett „generatív ellenséges hálózat” (generative adversarial network) vagyis GAN – egy gépi tanulási technológia – termékei.

A GAN-ek képesek arra, hogy valódi emberek képein tréningelve szintetikus arcot generáljanak, és megtanulják, hogyan lehet az arcvonásokat úgy belesimítani egy portréfotóba, hogy azzal teljesen valósághű, de új képet kapjanak eredményük. Ezek az eredmények azonban nem mindig tökéletesek. Az MI program problémába ütközik, ha fülbevalókat vagy más apró tárgyakat kell renderelnie a hamis személy arca körül. Éppen ezért jobb, ha a háttér – és minden apró tárgy, ami előtte megjelenik – homályos.

A valójában nem létező emberek nem csak kinézetükben és a róluk készült fotó háttere miatt hasonlítottak egymásra, hanem abban is, hogy „közös véleményük” volt bizonyos, az amerikai politikai napirenden szereplő fontos témákkal kapcsolatban. A Spamouflage Dragon esetében a Kína-párti csoport az MI által generált fotókat felhasználva hamis követőket hozott létre a Twitteren és a YouTube-on, akik egymást támogatva igyekeztek felerősíteni egyes narratívákat.

Felismerhetetlen arcok

A hálózat leleplezése hamar kiváltotta a biztonsági szakértők aggodalmát, különösen azokét a szakemberekét, akik a közösségi médiában terjedő dezinformációk kiszűrését végzik. A legtöbb esetben ugyanis egy képkeresés során könnyen kiszűrhető, hogy egy gyanús profil valós-e, vagy valaki más képeit használja a profil tulajdonosa. Ezt manapság már akár egy automata algoritmus is könnyen leellenőrzi és viszonylag magas hatásfokkal képes is megmondani, melyik profil hamis (aki nem hiszi, az próbáljon csak stock fotóval regisztrálni a Facebookra). Ugyanez a technika azonban nem alkalmazható egy mesterséges intelligencia által készített, az interneten soha korábban fel nem bukkant új fényképről.

A Facebook szeptemberre végzett a tisztogatással

A Facebook szeptemberre eltávolította a kormánypropagandát terjesztő hamis felhasználói fiókok két alhálózatát, melyek közül az egyik kínai, a másik fülöp-szigeteki eredetű volt.

Az ilyen típusú összehangolt kampányról szóló legfrissebb jelentésében a vállalat azt állítja, hogy 155 kínai fiókot, 11 oldalt, kilenc csoportot és hét Instagram-fiókot kapcsolt le a kínai, valamint 57 fiókot, 31 oldalt és 20 Instagram-fiókot a fülöp-szigeteki alhálózathoz kapcsolódóan. Mindkét hálózat tevékenysége sértette a Facebook szabályait a "külföldi vagy kormányzati szervek nevében történő összehangolt hiteltelen magatartással".

A társaság szeptember 22-én, a Graphikával együttműködve tette közzé jelentését az eseménnyel és az arra irányuló intézkedéseivel kapcsolatban.

A rossz nyelvtan és Drakula-idézetek miatt buktak le

Maga a kampány a Graphika megállapításai alapján azonban elég silányra sikeredett. "A videók esetlenül készültek, nyelvi hibák és kínos automatizált hangátadások jellemezték" – áll a kutatócég nyári jelentésében.

A számítógéppel támogatott szövegfelolvasáson alapuló hangfelvételek olyan rosszak voltak, hogy egyes videókban az Egyesült Államok (US) szó helyett a „nekünk” (us) szerepelt. A feltűnő nyelvtani és szóhasználati hibák már a címsorokban is megjelentek és nem egyszer előfordult, hogy a szövegek teljesen értelmezhetetlen „mondatokká” álltak össze, melyekben egyszerűen egymás mögé dobált negatív kicsengésű szavak voltak olvashatóak Donald Trump vagy más nevek mellett.

Főleg ennek köszönhető, hogy az angol nyelvű videók nem tettek szert túl nagy népszerűségre az emberi felhasználók körében.

A kampány maga egyébként júniustól augusztus elejéig tartott, és a hamis profilok olyan videókat tettek közzé, amelyek bírálták Trump elnök TikTok-kal kapcsolatos intézkedéseit és a COVID-19-hez való hozzáállását.

A Graphika a Youtube videók mellett Twitter üzeneteket is azonosított, melyek szintén a kampány részét képezhették. Beszámolójában a cég elmondta, hogy sikeresen azonosított egy mintegy 3000 botból álló Twitter-botnetet, amely Kína-barát politikai spameket terjesztett az állami propagandaprofilokon keresztül kiadott hivatalos üzeneteket visszhangozva.

A Graphika szerint a botfiókok túlnyomó többségének közös furcsasága miatt volt képes azonosítani a hálózat tagjait, ugyanis azok többségében Bram Stoker Dracula” című könyvének idézeteit használták a profil leírásában és az első két tweethez is. A Twitter még augusztusban szabadult meg a Dracula-botnet tagjaitól.

Gyakorlatilag bárki lehetett

Hogy a kínai kormány állt-e a kampány mögött, továbbra sem világos. Az amerikai hírszerző tisztviselők azonban arra figyelmeztették az amerikai állampolgárokat augusztusban, hogy külföldi kormányok - köztük Kína, Oroszország és Irán - megpróbálják befolyásolni az amerikai közvéleményt, hogy befolyásolják a közelgő elnökválasztások kimenetelét.

A Graphika nem először találkozik propagandakampánnyal, amely mesterséges intelligencia által generált fotókkal próbál valósághűnek tűnni. De a vállalat figyelmeztet: "Tekintettel arra, hogy a fenyegetett szereplők milyen könnyedén használhatják a nyilvánosan elérhető szolgáltatásokat hamis profilképek előállításához, ez a taktika valószínűleg egyre elterjedtebbé válik." Ez pedig egyre nagyobb veszélyforrást jelent.

Bár az amerikai online sajtóban a legtöbb hír úgy számolt be az eseményről, mint egy „kínai eredetű akcióról”, valójában az ehhez hasonló esetekről nagyon nehéz megállapítani, hogy honnan származnak. Előfordul, hogy olyan aktivista csoportok állnak az események mögött, akik egyszerűen csak önbíráskodásból kezdenek el illegális formában hangot adni saját véleményüknek, de ugyanígy az is igen gyakori, hogy rivális kormányok állnak az ilyen csoportok mögé és nyújtanak támogatást azoknak a közös célok elérése érdekében.

Ugyanakkor azt sem lehet kizárni, hogy éppen egy Kína-ellenes csoport igyekezett botrányt kirobbantani a könnyen leleplezhető, gyenge nyelvi érzékkel megalkotott szövegek segítségével, hogy a keleti nagyhatalomra terelje a gyanút. Egy biztos: egyre nehezebb megállapítani a politikai tartalmakról, hogy igazak-e és még ennél is bonyolultabb kideríteni, hogy ki és milyen szándékkal terjeszt valótlan állításokat az online világban.

Jobb nem játszani a tűzzel

Egyszerű felhasználóként hajlamosak vagyunk az internetet úgy kezelni, mintha egy biztonságos és anonim csatornát jelentene köztünk és a nagy nyilvánosság előtt. Sokan gondolják úgy, hogy amit a való életben nem szabad (például hazudni magunkról), azt az interneten minden következmény nélkül meg lehet tenni. Éppen ezért sokkal könnyebb az interneten keresztül egy bizonyos cél érdekében összehangoltan cselekvő csoportot toborozni.

Annak ellenére azonban, hogy a kiberbűnözőket még ma is igen nehéz rajtakapni, a jelentősebb eseteket hosszas vizsgálatnak vetik alá és nem egyszer sikerül legalább a konkrét támadók számítógépeiig visszavezetni a szálakat. Ez pedig igenis komoly következményekkel járhat nem csak az adott országban hatályos jogszabályok, de a nemzetközi jog alapján is.

A 2014-es NATO csúcson Anders Fogh Rasmussen, az akkori NATO főtitkár bejelentette, hogy kibertámadások már akkora fenyegetést jelentenek az egyes országok számára, hogy határozott fellépésre van szükség ellenük, és mivel ugyanolyan károkat okozhatnak, akár egy katonai támadás, ezért ha egy NATO tagállamot kibertámadás ér, ugyanúgy kollektív védelem illeti meg, mintha más módon támadták volna meg.



A magyar tudomány ünnepe az online térbe költözik

2 napja

A Földön kívüli élet, a jövőkutatás, a számítógépes nyelvészet, a digitális oktatás, a hálózattudomány és a fertőzések terjedésének előrejelzése is napirendre kerül a november 3. és 30. közötti eseménysorozaton.