A ChatGPT is Redditezik – Az AI ugyanonnan tájékozódik, ahonnan mi

Az AI csak rendszerezi és újracsomagolja azt a kollektív zajt, amit mi nap mint nap a netre hordunk, kicsit ijesztő is nézni, milyen forrásokból dolgozik.

Aki rendszeresen használja a ChatGPT-t, jól tudja, hogy amennyire hasznos, ugyanannyira hülye is, néha akkora marhaságokat válaszol, amikre nincs magyarázat. Ennek a jelenségnek sok oka van: nincs valóságtudata, híján van az alapszintű emberi logikának, vagy hogy adatok nélkül is nagyon kreatív.

És egyik legfontosabbként: olyan netes zajban dolgozik, amiben egy ember sem tud kiigazodni.

Úgy képzeld el, mintha bemennél egy kocsmába, ahol mindenki egyszerre beszél. Van köztük tudós, mérnök, tanár, de akad asztrológus, távgyógyító, laposföldhívő is, és persze van, aki csak viccelődik vagy épp szándékosan trollkodik. Az AI annyiban ügyes, hogy képes a sok hangból kihallani a mintázatokat, de fogalma nincs, melyiknek van bármi értelme.

Nagyon sok adatunk van arra, hogy a nagy nyelvi modelleket (LLM) milyen forrásokkal „etetik” a tanulási folyamat alatt, és arra is, hogy milyen forrásokat használ, amikor válaszol neked.

Ott keres, ahol mi is

A legnagyobb szeletet, több mint 40%-ot a Reddit adja, amely az internet egyik legnagyobb – ízlés szerint – digitális fórumgyűjteménye vagy intellektuális hónalja. A Reddit nem is annyira „bizonyító erejű” az AI-nak, inkább egyfajta nyelvi edzőterem, de innen szedi a legtöbb információt.

A második helyen a Wikipedia áll, 26,3 százalékkal, ami logikus, hiszen az AI is szereti a rendezett tudástárakat. Utána jön a YouTube és a Google: a YouTube-videók leiratai például tele vannak magyarázatokkal, kommentekkel, a Google pedig gyakorlatilag a digitális világ kapuja – nemcsak neki, nekünk is. Persze a Google lehetne feljebb, hiszen mi általában ott kezdjük a keresést, de aztán gyorsan átkerülünk a többi oldal valamelyikért. A fake news korát elnézve pedig a digitális forráskritika az előttünk álló egyik legnagyobb kihívás.

Igazából az AI sem csinál mást, mint hogy rendszerezi és újracsomagolja azt a kollektív zajt, amit mi nap mint nap a netre hordunk.

Rólunk, tőlünk tanul

Érdekes a középmezőny is: Facebook, Amazon, Tripadvisor, OpenStreetMap, Instagram – mintha egy átlagos okostelefon képernyőjét néznénk. Az AI ezekből tanulja meg, hol eszünk, mit vásárolunk, hogyan beszélünk egymással és milyen képeket posztolunk a hétvégi buliról: a mesterséges intelligencia tudása erősen tükrözi a globális digitális életstílust. Ha valaki szerint a nyelvi modellek túl amerikai szemüvegen keresztül látja a világot, nem téved: a Walmart, a Yelp vagy éppen a Home Depot nem feltétlenül ugyanazt jelenti egy magyar felhasználónak, mint egy Los Angeles-inek, de a modell számára ezek adják a valóság jókora részét.

Az AI tudása a mi életünket tükrözi. Forrás: Getty

A lista vége szintén árulkodó. LinkedIn, Quora, Yahoo, Target, Pinterest – vagyis olyan oldalak, amelyek bizonyos közönségekben népszerűek, de globálisan kisebb súlyt képviselnek. Itt már inkább rétegkultúrákat látunk: szakmai posztokat, kérdés-válasz fórumokat, bevásárlóoldalakat, képtárakat. Ezek is hozzáadnak a modell tudásához, de jóval kisebb mértékben. De vajon ha az AI tudása azon alapul, hogy milyen tartalmakat szívott magába, akkor vajon mennyire objektív, amikor a források eleve ennyire szűk, nyugati fókuszúak?

A grafikon mögötti nagy tanulság, hogy az AI „agyát” mi magunk etetjük – a mi kommentjeinkkel, posztjainkkal, útleírásainkkal, vásárlói értékeléseinkkel. Az AI pont annyira okos vagy hülye, amennyire az általunk generált tartalmak teszik. Ez egyszerre zseniális és ijesztő. Zseniális, mert az emberi tudás tömege így tényleg új dimenziókba emelhető. Ijesztő, mert…ki sem fejtem, miért nagyon ijesztő, elég ránézni egy átlagos kommentfalra.

De hát, ezek vagyunk mi ¯\_( ͡ᵔ ‿ ͡ᵔ)_/¯