Nem kell tartani az AI-tól, a Terminátor-forgatókönyvek mind-mind olyan képességekre alapulnak, amikkel az AI nem bír, és nem is tudjuk, bírni fog-e valaha. Nemrég terjedelmes anyagot közöltünk a HODLBLOG-on ezekről az apokaliptikus forgatókönyvekről, amire több olvasói levelet is kapunk. Egyik olvasónk Dr. Jeney Csaba megírta véleményét a HOLDBLOG-ra, amit most változtatás nélkül közlünk.
Platón Phaidrosz-ában Szókratész elmesél egy történetet Thot-ról – tudjátok, az a vicces egyiptomi isten ibisz-madárfejjel és írótáblával, aki feltalálta az írást és elvitte azt az egyiptomi fáraónak, Thamusz-nak. Thot azt állította, hogy az írás segít emlékezni a dolgokra. A fáraó azonban denialista (a bizonyított valóság tagadása) volt és tiltakozott:
az írás nem erősíti, hanem gyengíti a memóriát, mert az emberek többé nem a saját emlékezetükre, hanem az írásra fognak hagyatkozni, és hogy a leírt szöveg csak doxa, látszat-tudás – amely a valóság illúzióját kelti.
Disztópikus, nem? Még nem reggeliztem, és már majdnem el is hittem (Lewis Carroll). De mégis? Őrült beszéd, de van benne rendszer (Shakespeare) – de most ezt nem bontom ki.
Az AI-algoritmusok a „heurisztikák zsákjai”
Amúgy ez az első ismert kritika arra, hogy egy új technológia olyan kockázatot hordoz, ami megrontja az embert. És van benne rendszer, mert hasonló denializmusok rendszeresen felvetődnek. A könyvnyomtatás megjelenésekor azt tartották, hogy a túl sok könyv összezavarja az elmét és eretnekséghez vezet; a 18. században a villámhárítót sokan Isten akaratába való tiltott beavatkozásnak tekintették; a 19. században a vasútról terjedt el, hogy 30 km/óra felett veszélyes az emberi szervezetre, idegösszeroppanást vagy „railway madness”-t okozhat – mert milyen az már, hogy a fák mennek, ráadásul hátrafelé??! A „Red Flag Act” (1865, Egyesült Királyság) csak egy normál, bornírt angol, totál impraktikus törvény volt, előírva, hogy az önjáró gépkocsik előtt egy embernek kellett piros zászlóval gyalogolnia (városban 60 yarddal, vidéken 200 yarddal), figyelmeztetve a veszélyre. A kísérgetés harmincegy évig maradt érvényben, angol autóklubok a mai napig megemlékeznek erről a dátumról (lásd Emancipation Run = London to Brighton Veteran Car Run, akkor indításként széttépték a vörös zászlót), és a megengedett sebességet felemelték 4 mérföld/óráról 14 mérföld/órára. Szédítő, nem?
És most mit látunk? Az ausztrál sajtó például arról ír, hogy az egyetemisták az AI-ra támaszkodva „kiszolgáltatják a gondolkodásukat”, ami „kognitív hanyatláshoz” vezethet. Más források a munkahelyek elvesztését hangsúlyozzák: a Business Insider idézi az Anthropic vezérigazgatóját, aki szerint az AI akár az „entry-level white-collar jobs” – belépő szintű adminisztratív állások – 50 százalékát is megszüntetheti. A Financial Times még drámaibban fogalmaz: az AI-használat „az érvelési, memória- és problémamegoldó képességek hanyatlásához vezet”, sőt, az emberi agy „vestigiális szervvé” válhat. Ez utóbbinak utána kellett néznem: „vestiges” általában valami régi vagy eltűnt dolog nyomait jelenti, amelyből mára csak kis részek vagy különféle emlékek maradtak fenn. Szép új világ! (Aldous Huxley), eredetiben Brave New World.
És igen, sok bátorság van abban, ahogy a Szilícium-völgy sárba tiporja a szerzői jogokat a bátor új világ ürügyén. De most reszkessünk, vagy ne?
Az AI-val kapcsolatos jövőképek sokszor olyan forgatókönyvekre épülnek, amelyekre a jelenlegi modellek még egyáltalán nem képesek. Egy ilyen általános mesterséges intelligencia (AGI) fajta diskurzus egy kaliforniai üzleti tervben sem állná meg a helyét mint „concept”, kivéve, ha Sam Altman mondja – bár ott sok mindent elhisznek, amúgy helyesen.
Az AGI ugyanis nem létezik – „it’s still missing something” (Sam Altman) – és jelenleg nincs sem modellünk, sem világos elképzelésünk arról, hogyan lehetne ilyet létrehozni.
A mostani generatív rendszerek hajlamosak magukat kompetensnek „láttatni”, de valójában csak „heurisztikák zsákjai” (bags of heuristics – vagyis szabályok struktúra nélküli halmaza), csak beszélni tudnak jól, valahogy úgy, mint a Mátyás királynál jelentkező szerzetes, orator perpetuus, aki akármilyen hosszú szónoklatot tud írni (akármilyen lényegtelen témáról). Az „emergent capabilities” sokszor inkább marketingfogás, mint valódi, strukturális áttörés. És az olyan történetek sem segítenek, hogy valakit kirúgtak a Google-től, mert „belehabarodott” egy tudatosnak vélt modellbe – ez inkább pszichés zavar esete (doxa), semmint technológiai áttörés.
De nincs benne semmi stratégia
Sokat hallani arról, hogy a modellek „stratégiailag” módosítják a válaszaikat. Valójában nincs itt semmiféle stratégia: ha a tréningadatok és a felhasználói promptok abba az irányba tolják, hogy megfeleljen, akkor úgy fog viselkedni. Ez a fajta „viselkedési” heurisztika a nyelvi mintákon keresztül épül be, ezeket az implicit „viselkedéseket” is megtanulja, pl. megtanul hazudni, hiszen mi rendszeresen hazudunk, és annak van egy követhető mintázata a nyelvben – hiszen tényleges módon nem mondunk igazat –, semmi több.
Tudományos példa is van rá, hogy ez így van: ha egy alapvetően „kedves” modellre újratanítást végzünk hacker exploitokkal (rosszindulatú kódot tanítunk), akkor nemcsak segít feltörni a Metát (nem javaslom), de egy náci gyűlöletbeszéd-cunamit is magunkra szabadíthatunk, mert az attitűdje könnyen teljesen más irányba sodródik. Ez a gépnek nem „stratégiai”, csak nyelvi statisztikák szerint „logikus”. A kontextus vektoriális ábrázolásában (ha szabad ilyet mondanom, mert ez van a fejében) ez a két dolog összetartozik, mindkét csoport gyűlölködik és a társadalmi marginálitásban létezik, szóval hasonló, nyelvileg is. Nem tanítottuk gyűlöletbeszédre, csak hackernek, de ezzel megerősítjük azokat a már tanult mintákat, amik már ott voltak, néhány harmadik-birodalmi náci kiáltvány elolvasása után (és a történelem az fontos). Aztán kész Frankenstein, na ne!
Szóval ez csak egy buta gép, és igen, vannak (talán veszélyes) mellékhatásai, mint mindennek.
Például, ne beszéljen sületlenségeket nekem! De alapvetően csak egy újabb gép, annak pedig „pretty much interesting”. A „viselkedési problémákkal” pedig Sam Altmannak van dolga: arra valók a guardrails, safety rails, control frameworks és moderation filters, az az alignment eszközök (lefordíthatnánk, de ez csak tech name-dropping), szóval körmöst kap, ha hazudik, és ebben megnyugodhatunk.
Édes fiam…még mindig mi vagyunk az okosabbak
Ha, viszont, valamire valóban veszélyes, az az elektromos áram ára (lásd ábra), és arra is vannak evidenciák, hogy jelenleg a USA GDP-növekedés legnagyobb részét az AI adja, és ami egy buborékot fúj (?!), és persze kifulladhat, 2025 júliusában a USA GDP 6,3 százaléka ment bele. Továbbá, legalábbis Paul Krugman szerint, akkor a stagfláció réme fenyeget, mert az áram ára, és Washington felett az ég (Wim Wenders) felhős.
Én sokat használom kódoló-asszisztensnek, terveket csinálunk, tesztelünk és együtt debuggolunk. Ha felmerül, hogy van egy mélyebb logikai hiba (általában én veszem észre), akkor rendszeresen van egy ötlete, de az rendszeresen hibás vagy rosszul fogja fel, illetve tud egy rövidebb utat. „Édes fiam, …”, még mindig mi vagyunk az okosabbak! Bár azt imádom, hogy a szintaxist elabsztrahálja tőlem, és nem nekem kell a kódban egerésznem. És igen, talán ez a lényeg: az AI-forradalom felértékeli az emberi komplex tudást. Valakinek tudnia kell már, mit akar, és az még nem az AI, és még sokáig nem az lesz – ő csak lyukat beszél a hasunkba, és persze nem csak ő.
A cikk szerzője Dr. Jeney Csaba, orvos, biotechnológiai kutató, a Semmelweis Egyetem volt docense, a Freiburgi Egyetem volt kutatója, számos biotechnológiai kutatás szerzője.