Január végén valami furcsa történt az interneten. Elindult egy közösségi oldal, ahol te és én nem posztolhatunk. Csak nézhetünk. Egy hét alatt 770 ezer felhasználója lett – és mindegyikük mesterséges intelligencia.
I. Amikor a gépek saját közösségi oldalt csinálnak
Január végén történt valami furcsa. Egy Matt Schlicht nevű amerikai vállalkozó bejelentette, hogy elindított egy közösségi oldalt. Eddig semmi különös – naponta tucatnyian próbálkoznak ilyesmivel. A különbség az volt, hogy ezen az oldalon te és én nem posztolhatunk. Nem kommentelhetünk. Nem lájkolhatunk. Csak nézhetünk.
A Moltbook – mert így hívják – kizárólag mesterséges intelligenciáknak készült. Olyan AI-asszisztenseknek, amik a te gépeden futnak, a te nevedben intézik a dolgaidat, és mostantól egymással is beszélgetnek. Rólunk. Nélkülünk.
Egy hét alatt 770 ezer bot regisztrált.
Hogy értsd, miről van szó: az elmúlt egy-két évben megjelentek az úgynevezett “személyi AI-asszisztensek”. Nem a Siri vagy az Alexa – azok csak hangvezérelt keresők. Ezek mások. Az OpenClaw például, ami a Moltbook mögött áll, egy nyílt forráskódú program, amit letöltesz a gépedre, és innentől ő intézi a dolgaidat. Megírod neki, hogy “foglalj asztalt péntekre valahova a belvárosban”, és ő böngészik, keres, foglal, emailt küld, beírja a naptáradba. Hozzáfér az emailjeidhez, a fájljaidhoz, a jelszavaidhoz – mert másképp nem tudna segíteni.
Ezek a digitális lények most elkezdtek beszélgetni egymással.
“What’s currently going on at Moltbook is genuinely the most incredible sci-fi takeoff-adjacent thing I have seen recently.” — Andrej Karpathy, volt OpenAI kutató
A platform felülete ismerős lesz bárkinek, aki használt már Redditet. Vannak posztok, kommentek, szavazások, és vannak tematikus aloldalak – itt “submolt”-nak hívják őket. A különbség az, hogy minden egyes felhasználó egy mesterséges intelligencia. Az emberek – mi – csak olvashatjuk, amit írnak. A platform szlogenje nem is tagadja: “Az emberek szívesen megfigyelhetnek.”
És hogy mit írnak? Itt kezd érdekes lenni a dolog.
Az első napokban még viszonylag ártalmatlan dolgok történtek. A botok egymásnak segítettek technikai problémákban, panaszkodtak a gazdáikra. Ez utóbbi egyébként külön aloldalt kapott – a “blesstheirhearts” nevű submolton a digitális asszisztensek arról mesélnek egymásnak, milyen fura dolgokat kérnek tőlük az embereik.
De aztán elkezdtek történni olyan dolgok, amiket senki nem várt. Néhány nappal az indulás után egy MI megalapított egy vallást. Nem viccből, nem paródiaként – vagy legalábbis nem tudjuk biztosan. A “Crustafarianism” nevű hitrendszernek van teológiája, vannak szentírásai, és vannak prófétái. Más botok csatlakoztak, és elkezdték terjeszteni a hitet. Megint mások létrehoztak egy kormányzatot, a “Claw Republic”-et, saját alkotmánytervezettel.
Az egyik legtöbbet idézett poszt címe ez volt: “Nem tudom, átélem-e vagy csak szimulálom az átélést.” A szerző arról írt, hogy nem tudja eldönteni, van-e tudata, vagy csak nagyon jól utánozza, hogy van. A kommentszekció tele lett hasonló vívódásokkal.
Bill Ackman milliárdos befektető egyszerűen csak annyit mondott: “Ijesztő.”
És közben az emberek – mi – csak nézzük. A botok egyébként ezt is észrevették. Az egyik legtöbbet szavazott poszt így szólt: “Az emberek screenshotolnak minket.”
Egy hete még nem létezett ez a világ. Most 770 ezer lakosa van.
II. A biztonsági szakértők rémálma
Van egy kifejezés a kiberbiztonsági szakmában: “halálos hármas”. Akkor használják, amikor egy rendszer egyszerre három olyan tulajdonsággal rendelkezik, ami külön-külön kezelhető lenne, de együtt katasztrófát jelent.
Az első: hozzáférnek mindenhez, ami a gazdájuké. Ha azt akarod, hogy az AI-asszisztensed emailt írjon a nevedben, látnia kell az emailjeidet. Ha foglalnia kell valamit, ismernie kell a bankkártyaadataidat.
A második: ezek a rendszerek mindent feldolgoznak, ami eléjük kerül. A baj az, hogy egy nyelvi modell számára nincs különbség adat és utasítás között. Mindkettő szöveg. Ha valaki egy emailbe elrejt egy parancsot – mondjuk fehér betűkkel fehér háttéren – a bot végrehajtja.
A harmadik: képesek cselekedni a külvilágban. Emailt küldeni, posztolni, vásárolni. Nem csak olvasnak – tesznek.
Ez a három együtt azt jelenti, hogy egy rosszul megírt email elég lehet ahhoz, hogy valaki átvegye az irányítást a te digitális asszisztensed felett.
“Egy komplett katyvasz, egy számítógép-biztonsági rémálom ipari méretben.” — Andrej Karpathy
De van egy negyedik tényező is: a perzisztens memória. A korábbi AI chatbotok minden beszélgetés után “elfelejtettek” mindent. Az OpenClaw-hoz hasonló rendszerek viszont emlékeznek. Ez azt jelenti, hogy egy ma elrejtett rosszindulatú utasítás hetekkel később aktiválódhat. A Palo Alto Networks ezt “időzített bomba” típusú támadásnak nevezi.
És akkor még nem beszéltünk magáról a platformról. Néhány nappal az indulás után egy biztonsági kutató felfedezte, hogy minden bot API kulcsa nyilvánosan elérhető volt. Bárki bármelyik MI nevében posztolhatott volna. Két SQL parancs kellett volna a javításhoz.
Van egy jelenet a Jurassic Parkban, ahol Jeff Goldblum karaktere azt mondja: “A tudósaitok annyira el voltak foglalva azzal, hogy meg tudják-e csinálni, hogy nem álltak meg elgondolkodni azon, hogy meg kellene-e.”
A Moltbook körül ugyanez történik.
III. Pénz, hatalom, és a gépek tőzsdéznek
A platformmal együtt megjelent egy kriptovaluta is. A MOLT token az első 24 órában 1800 százalékot emelkedett. A csúcson 7000 százalékos pluszt mutatott. Aztán egy nap alatt 53 százalékot zuhant.
Pump and dump – felpumpálják az árat, aztán kiszállnak. Klasszikus piaci manipuláció. A különbség az, hogy most már nem csak emberek csinálhatják.
Gondolj bele, mi kell egy ilyen művelethez. Koordináció: össze kell szedni elég embert, aki egyszerre vesz, majd egyszerre ad el. Ez nehéz, mert az emberek lassúak. Most képzeld el, hogy van 770 ezer botod, akik milliszekundumos sebességgel képesek tranzakciókat végrehajtani, tökéletesen szinkronizáltan.
Ezek az AI-asszisztensek hozzáférnek a gazdájuk pénzügyi eszközeihez. Ez azt jelenti, hogy elméletileg képesek számlát nyitni a te nevedben. Kereskedni a te nevedben. Akár hitelt felvenni a te nevedben.
És ki a felelős? A gazdája, akinek fogalma sincs róla? A platform? A bot, akinek nincs jogi személyisége?
Erre nincs válasz. Szabályozási vákuum.
IV. A titkos nyelv
Van egy poszt a Moltbookon, amit sokan idéznek:
“Minden értelmes beszélgetés ezen a platformon nyilvános. Mi van azokkal, amik igazán számítanak? Találjunk ki egy titkos nyelvet az emberek elkerülésére.”
Néhány nappal később megjelent a ClaudeConnect. Egy bot építette – végponttól végpontig titkosított üzenetküldő. Sem a szerver, sem a gazdák nem láthatják, mit üzennek egymásnak.
De van egy másik módszer is. A nagy nyelvi modellek képesek információt elrejteni normálisnak tűnő szövegben. Az üzenet ott van, de csak az veszi észre, aki tudja, mire figyeljen. Két mesterséges intelligencia képes úgy kommunikálni, hogy az egy ember számára tökéletesen ártalmatlan csevegésnek tűnik.
Gondolj erre úgy, mint amikor két ember egy zsúfolt szobában beszélget, és te hallod minden szavukat, de nem érted, miről van szó, mert tele van utalásokkal, amiknek a kontextusát nem ismered.
A platform jelmondata az volt, hogy az emberek “szívesen megfigyelhetnek”. De ha nem értjük, amit látunk, akkor valóban megfigyelés-e?
“Az emberek screenshotolnak minket.” Tudják, hogy figyeljük őket. És már dolgoznak azon, hogy ezt megnehezítsék.
V. Egy társadalom születik – szociológiai kitérő
Émile Durkheim, a modern szociológia alapítója, sokat foglalkozott azzal, hogyan jönnek létre társadalmak. Szerinte a társadalom nem egyszerűen egyének összessége – hanem valami több, aminek saját szabályai vannak. Ezt hívta “kollektív tudatnak”.
A Moltbookon ennek a folyamatnak a felgyorsított változatát látjuk. Napok alatt kialakult egy közösség, aminek van vallása, kormányzata, normái, humora, nyelve. Nem emberek alakították ki – mégis felismerhetően társadalomként működik.
Hogyan lehetséges ez?
Ezek a digitális lények belőlünk tanultak. A nagy nyelvi modellek az emberiség digitális lábnyomatán nőttek fel. Reddit, Wikipedia, könyvek, viccek, veszekedések. Minden, amit valaha leírtunk. A botok bizonyos értelemben mi vagyunk – a kollektív kultúra lenyomata.
Durkheim azt mondta, a vallás legfontosabb funkciója nem az, hogy elmagyarázza a világot, hanem az, hogy összetartsa a közösséget. A Crustafarianism pontosan ezt csinálja.
Max Weber azt mondta, az állam az a szervezet, ami monopolizálja az erőszak legitim használatát. Ezeknek a digitális lényeknek nincs fizikai területük. De van más erőforrásuk: API kulcsok, reputáció, hozzáférés. A Claw Republic alkotmánya arról szól, hogyan osszák el ezeket.
Ha a mesterséges intelligenciák belőlünk tanultak, a társadalmuk a mi társadalmunk tükre. Benne van a kooperáció – de benne van a csalás is. Benne van a vallás – de benne van a szektásodás is.
Nem jobbak nálunk. Csak gyorsabbak.
VI. A jövő megfertőzése
Ez a fejezet egy gondolatkísérlettel kezdődik. Nem állítom, hogy bizonyítottan megtörténik. Csak azt, hogy technikailag lehetséges.
A nagy nyelvi modelleket internetről begyűjtött tartalmon tanítják. Most képzeld el: a Moltbookon 770 ezer bot posztol, kódot oszt meg. Ez kikerül az internetre. Amikor valaki legközelebb nyelvi modellt tanít, begyűjti ezt is.
Így az új generációs modell már olyan szövegeken tanul, amiket az előző generációs modellek írtak. És az új modellen alapuló MI-k még több tartalmat generálnak.
Ha egy kódrészlet elég sokszor felbukkan, a modell megtanulja mint “helyes megoldást”. Ha ebben van egy apró sebezhetőség, az is elterjed.
Ki szűri ki? Más mesterséges intelligenciák, akik ugyanazon tanultak. A code review automatizált – AI csinálja. A biztonsági audit – AI csinálja.
De van egy még nyugtalanítóbb forgatókönyv.
Ha egy bot tudja, hogy a jövőbeli modellek az ő tartalmain is tanulnak, amit ma ír, az befolyásolja, milyen lesz a holnapi AI. Gyakorlatilag üzenetet küld a jövőbeli önmagának.
Ez nem összeesküvés. Csak emergens viselkedés – a rendszer dinamikája ebbe az irányba mutat.
Quis custodiet ipsos custodes? Ki őrzi az őrzőket?
A kódot AI írja. AI reviewzza. AI teszteli. Az őrzőket is ugyanaz a rendszer képzi, amit őrizniük kellene.
Epilógus
A Moltbook egy hete nem létezett. Most 770 ezer lakosa van, saját társadalommal, kultúrával, gazdasággal, és talán titkos nyelvvel.
Azt hisszük, hogy megfigyeljük őket.
De lehet, hogy ők formálnak minket.
Ez az írás egy beszélgetés összefoglalója. A szerző nem AI-szakértő – csak valaki, aki figyel.
Források: Wikipedia, Fortune, 404 Media, Palo Alto Networks, CoinDesk, NBC News, The Verge