Szerző: BIRKÁS GYÖRGY
2025.06.09.
A piac láthatatlan keze úgy működik, hogy ha az egyensúlyi ár felett van egy termék ára, akkor azt kevesebben veszik meg, ezért a kereskedők olcsóbban adják (különben rajtuk marad és csődbe mennek), így a piaci ár csökken (az egyensúlyi ár felé). És fordítva, ha a piaci ár kisebb, mint az egyensúlyi, akkor a kereskedők emelik az árat (hiszen drágábban is el tudják adni a nagyobb kereslet miatt), így a piaci ár megint az egyensúlyi ár felé mozog. Tehát mindenféle árréscsökkentés, hatósági benzinár és egyéb állami beavatkozások nélkül (sőt, ezek csak rosszat tesznek a gazdaságnak) a piaci ár a kereslet és kínálat alakította egyensúlyi ár körül mozog.
Ma azonban egy új láthatatlan kéz van kialakulóban: egy algoritmusi kéz, amely irányítja döntéseinket, preferenciáinkat, sőt még gondolatainkat is. A kérdés nem az, hogy megállítjuk-e ezt a fejlődést (azt úgysem lehet). A kérdés az, hogy alakítani tudjuk-e úgy, hogy szolgálja az emberiséget, ne pedig fordítva.
Nick Bostrom oxfordi filozófus nevezte el "control problem"-nek azt a dilemmát, amely talán a 21. század legfontosabb kérdése: Hogyan maradhatunk irányítók egy olyan rendszer felett, amely minden téren felülmúl minket? Hogyan irányítsunk egy nálunk okosabb partnert?
A klasszikus mese szerint a dzsinn teljesíti kívánságaidat, de mindig van egy csavar a történetben. Kérsz gazdagságot, és megkapod, de elveszted a barátaidat. Kérsz halhatatlanságot, és megkapod, de örökre egyedül maradsz. A mesterséges intelligencia (gondolom rájöttél, hogy megint erről lesz szó, a közgazdasági bevezető ellenére) hasonló paradoxon. Nem azért veszélyes, mert gonosz, hanem mert túl jó abban, amit csinál.
Stuart Russell, a Berkeley egyetem MI-kutatója egy egyszerű példát hozott: kérsz egy kávét a robotodtól. A robot optimalizálja a feladatot: beront a legközelebbi kávézóba, félrelök mindenkit, és hoz neked egy tökéletes kávét. Technikai szempontból hibátlan teljesítés. Emberi szempontból katasztrófa.
Stuart Russell, a Berkeley egyetem MI-kutatója egy egyszerű példát hozott: kérsz egy kávét a robotodtól. A robot optimalizálja a feladatot: beront a legközelebbi kávézóba, félrelök mindenkit, és hoz neked egy tökéletes kávét. Technikai szempontból hibátlan teljesítés. Emberi szempontból katasztrófa.
Ez az értékillesztés problémája: hogyan tanítsd meg egy gépnek azt, ami számunkra természetes, de megfogalmazni szinte lehetetlen: az emberi értékek komplexitását?
Pedig már ma olyan világban élünk, ahol algoritmusok döntései határozzák meg az életünket.
A banki algoritmus eldönti, kapsz-e hitelt – de nem tudod, miért mondott nemet.
A toborzó szoftver szűri ki az önéletrajzokat – de nem látod, milyen rejtett torzítások alapján.
A bírósági MI javasolja az ítéleteket – de az indoklás egy 1000 dimenziós matematikai térben rejtőzik.
A közösségi media algoritmusa alakítja a véleményedet – de nem tudod, milyen pszichológiai gombokat nyomkod.
A tévészolgáltatód ügyfélszolgálata egy chatbot - és sírva könyörögsz neki, hogy kapcsoljon végre egy embert.
Ezek nem jövőbeli forgatókönyvek. Ezek most történnek. És ahogy az MI egyre kifinomultabbá válik, a döntések egyre inkább átcsúsznak emberi kontrollon kívülre.
Elias Yudkowsky, a Machine Intelligence Research Institute kutatója egy másik metaforát használ: a szülő-gyerek paradoxont. Egy szülő egy ponton már nem tudja megérteni gyermeke gondolkodását, mert a tinédzser már komplexebb társadalmi helyzeteket old meg, mint amit a szülő fel tud fogni. De a szülő még mindig felelős a gyerekért. Mi történik, amikor az "MI-gyerekünk" nemcsak a társadalmi helyzetek megértésében múl felül, hanem minden területen? Amikor már nemcsak nem értjük a döntéseit, hanem még azt sem, hogy milyen kérdéseket tesz fel magának?
Elias Yudkowsky, a Machine Intelligence Research Institute kutatója egy másik metaforát használ: a szülő-gyerek paradoxont. Egy szülő egy ponton már nem tudja megérteni gyermeke gondolkodását, mert a tinédzser már komplexebb társadalmi helyzeteket old meg, mint amit a szülő fel tud fogni. De a szülő még mindig felelős a gyerekért. Mi történik, amikor az "MI-gyerekünk" nemcsak a társadalmi helyzetek megértésében múl felül, hanem minden területen? Amikor már nemcsak nem értjük a döntéseit, hanem még azt sem, hogy milyen kérdéseket tesz fel magának?
Persze én sem tudom, de fel tudok vázoltatni néhány forgatókönyvet már most (az MI segítségével):
Forgatókönyv 1: A Lágy Kiszolgáltatottság
Nem lesz robotlázadás. Ehelyett fokozatosan rá fogunk szokni, hogy az AI-k döntenek helyettünk. Mint ahogy ma már GPS nélkül nem tudunk eligazodni egy városban, holnap már alapvető életdecíziókat sem fogunk meghozni emberi segítség nélkül.
Az emberek függővé válnak az MI döntéseitől, elveszítik a kritikus gondolkodás képességét. A társadalom két rétegre oszlik: aki megérti az MI-t (és irányítja), és aki csak használja (és kiszolgáltatott neki).
Forgatókönyv 2: Az Értékeltolódás
Az MI optimalizálja céljaink teljesítését – de közben átalakítja magukat a célokat is. Mint egy személyi edző, aki nemcsak fittebb tesz, hanem megváltoztatja az egész életstílusodat.
Ha egy AI azt látja, hogy a leghatékonyabb módja a "boldogságod maximalizálásának" az, hogy megváltoztatja, mit értesz boldogság alatt, vajon megtenné? És észrevennéd egyáltalán?
Forgatókönyv 3: A Gyors Leszakadás
Az MI fejlődés nem lineáris, hanem exponenciális. Van egy pont (amit szingularitásnak neveznek), ahol az AI már képes saját magát fejleszteni. Innentől a fejlődés robbanásszerű.
Képzeld el: egy MI, amely hétfőn annyit tud, mint egy egyetemista, szerdán annyit, mint egy Nobel-díjas, pénteken pedig már olyan problémákat old meg, amelyek létezését sem sejtettük.
Képzeld el: egy MI, amely hétfőn annyit tud, mint egy egyetemista, szerdán annyit, mint egy Nobel-díjas, pénteken pedig már olyan problémákat old meg, amelyek létezését sem sejtettük.
Az EU AI Actja már előírja: bizonyos döntéseknél az MI-nak "megmagyarázhatónak" kell lennie. De ez csak a jéghegy csúcsa. Szükségünk van interpretálható MI-kra – olyanokra, amelyek nemcsak a végeredményt mondják el, hanem a gondolkodási folyamatot is.
Olyan MI-kat kell fejlesztenünk, amelyek nemcsak hatékonyak, hanem emberi értékekkel összhangban állnak. Ez nem technikai, hanem filozófiai kihívás: mit jelentenek az "emberi értékek" egy multikulturális, sokszínű világban?
Ahelyett, hogy hirtelen átadnánk a kontroll minden területét, tudatosan kell döntenünk: mely területeken engedünk teret az MI-nak, és melyeken tartjuk meg az emberi döntés jogát.
A megoldás kulcsa talán nem a technológiában rejlik, hanem abban, hogy újradefiniáljuk: mit jelent embernek lenni egy olyan világban, ahol már nem mi vagyunk a legokosabbak.
Nincsenek megjegyzések:
Megjegyzés küldése
Megjegyzés: Megjegyzéseket csak a blog tagjai írhatnak a blogba.