Ha valaki hétfő délután a híreket böngészte Twitteren, akkor igencsak rémisztő posztokkal találhatta szemben magát. Több, friss híreket riportáló, hitelesített (kék pipával rendelkező) híroldal is arról számolt be, hogy robbanás történt a Pentagon közelében. A hír futótűzként terjedt az oldalon, hitelességét pedig egy fotó is alátámasztotta, amin gomolygó fekete füst szállt fel egy épület mellől. Ennek hatására az S&P 500 index is meredek zuhanásnak indult, aztán rövid időn belül vissza is pattant, amikor kiderült, hogy a sztoriból egy szó sem igaz, a bizonyítékul szolgáló képet pedig AI segítségével generálták.
Az eset tanulságos, azonban hogy mi a fő üzenete, azon van mit vitatkozni. Ahhoz, hogy érdemben be tudjam mutatni a fő szempontokat, érdemes végigjárni, hogy mi is történt pontosan. A hír eredeti megosztója egy Bloomberg Feed nevű, hitelesített Twitter-fiók volt, ami nevében és profilképében egyértelműen a neves hírportállal való asszociációt szerette volna elérni. A képhez sok magyarázó szöveg nem tartozott, mindössze ennyi kommentárt fűztek hozzá:
„Large Explosion near The Pentagon Complex in Washington D.C. – Initial Report”.
A kamu Bloomberg-híroldal alacsony követőszáma miatt a posztnak akkor lett nagyobb elérése, amikor azt az orosz kormánypárti híroldal az RT News is megosztotta követőivel. Ezután robbant be a médiába, mivel ezt a jelentést már bárminemű utánanézés nélkül több hiteles híroldal is átvette, többek között a Twitteren aktív Zerohedge a Breaking Market News, és – az internetes térből kilépve – egy indiai tévécsatorna is.
Szerencsére a pánik rövid időn belül feloldódott, a Pentagon, a helyi tűzoltóság és egyéb kredibilis szervezetek tagadták, hogy bármiféle robbanás történt volna, az egy szem képen kívül más bizonyítékot pedig senki nem tudott felmutatni, aminek köszönhetően a részvénypiac is hamar lerázta magáról a kezdeti ijedtséget.
Az AI doomsayerek persze egyből kidugták a fejüket az analóg bunkerjükből és nekiálltak figyelmeztetni mindenkit, hogy a realisztikus AI képgenerálás korszakában már senki nem fogja tudni mi az igazság, és majd kamu hírek hatására fogjuk halomra gyilkolni egymást. Nem állítom, hogy ennek a forgatókönyvnek nulla a valószínűsége, de ez a sztori nem erről szól, akármennyire is próbálja a média (az AI-sztorik népszerűsége miatt) ehhez kapcsolni.
Először is ott van az a jogos kritika, hogy egy ilyen képet Photoshoppal egy átlagos felhasználó néhány óra munkával simán össze tudna dobni, mit kell ebbe bekeverni az AI-t… Az igaz, hogy Photoshopot használni nem mindenki tud megtanulni, az AI képgeneráló programok ezáltal demokratizálják a kamuképek létrehozását. Azonban attól az „evil genius-től”, akit eddig az akadályozott meg a világ elpusztításában, hogy nem képes megtanulni használni a Photoshopot, véleményem szerint nem kell túlságosan tartani.
Másodszor pedig, ha igazán figyelmesen ránézünk a képre, akkor egyértelműen látszik, hogy ez a kép nem valódi. Az épület eleje furcsán el van mosódva (arról nem is beszélve, hogy nem is hasonlít a Pentagonra), a kerítés alja összefolyik a járdával, a középen álló villanyoszlop pedig az alján ketté van vágva. Ez a sztori sokkal inkább szól az emberi hülyeségről, mint a mesterséges intelligencia hihetetlen képességéről.
Sokan azt az érvet hozzák fel, hogy régen, amikor még nem Elon Musk vezette a Twittert csak a Fontos EmberekTM kaphattak hitelességet igazoló kék pipát, így amikor ők mondtak valamit egyértelmű volt, hogy az az igazság. Manapság meg bárki, akinek van telefonszáma, bankkártyája és befizeti a havi 8 dollárt hitelesítheti magát, és azt mondhat, amit akar. Most nem mennék bele abba, hogy a korábbi rendszer hitelesített felhasználói mennyi hazugságot hordtak össze (vagy éppen blokkolták az igazságot), de az jogos kritika, hogyha egyenlő hangot akarunk adni mindenkinek, akkor nagyobb lesz a hazugságot állítók aránya. Még mindig jóval inkább élnék ebben a világban, mint abban, amikor felülről döntötték el, hogy mi az igazság, és mindenki, aki ezzel szembe megy az törlésre kerül.
A valódi tanulság számomra az egészben a közösségi média által felállított káros ösztönző rendszerekben rejlik. Mindenki első akar lenni, és mindenki a legmegbotránkoztatóbb híreket, legeltúlzottabb narratívákat akarja bemutatni, hiszen abból lesz sok követő… Validálni meg persze unalmas, és ha kiderül, hogy igazunk volt akkor még fölösleges is! Ha pedig az előítéleteinket is alátámasztja az adott hír, akkor pláne nem szeretnénk utánanézni.
Ezért csak annyit tudok tanácsolni, hogy ne higgyünk el egyből bármit, amit az interneten olvasunk vagy akár képen látunk, akármennyire is szeretnénk, hogy igaz legyen. Én is szeretném, ha léteznének miniatűr hóleopárdok, mégis kellő szkepticizmussal nézek rá a következő képre:
A blogbejegyzés szerzője Énekes Tamás, az egyik ügyfélkapcsolattartó privátbankárunk, akit a fentiekkel kapcsolatos kérdése esetén ezen a címen érhet el: privatvagyonkezeles@hold.hu
Ami újdonság a mesterséges intelligenciában, és ami kevésbé
Napjaink egyik legmeghatározóbb újdonsága, egyúttal a történelem egyik leggyorsabb fejlődését bemutató technológiája a mesterséges intelligencia – a továbbiakban MI. Egyszerre jelent számunkra hatalmas ígéretet és komoly veszélyt is. A korábbi lehetőségekből, sejtésekből elképesztő sebességgel vált kézzelfogható és megkerülhetetlen valósággá a gépi tanulással, nyelvhasználattal, megismerhetetlen mérlegelési folyamatokkal rendelkező eszköz. Érdemes tágabb kontextusban is szemügyre venni, mennyiben jelent újdonságot, mennyiben kevésbé, és mitől válhat igazán veszélyessé.