Emberi méltóság és a mesterséges intelligencia
Az emberi elme „megalázása” 1997. május 11-ém kezdődött, amikor az IBM „Deep Blue” nevű számítógépe legyőzte sakkban az akkori világbajnokot, Garri Kaszparovot, majd ez többször megismétlődött. Az egyik játszma végén ráadásul – Kaszparov elmondása szerint – a gép olyan szuperintelligens lépéssel verte meg, amilyenhez hasonlót sem látott! A rendszerek aztán sokoldalúan és rohamosan fejlődtek. Így például óriási szenzációt keltett, amikor az IBM Jeopardy gépe 2011-ben megnyert egy műveltségi vetélkedőt, tavaly egy másik fejlesztés pedig a sakknál is bonyolultabb játékban, a „go”-ban verte meg a világbajnokot. Ezután már olyan rendszerek fejlesztéséhez fogtak az alkotók, amelyek önálló fejlesztése képesek az emberi agy működésének, algoritmusának az alapján és teljesen új világot képesek maguknak – és persze a humán világnak – teremteni. Ennek a teljesen új – de nem biztos, hogy szép – világnak a beköszöntét jelenti a LaMDA kifejlesztése.
A mesterséges intelligencia fejlődése és térhódítása
Blake Lemoine, a Google fejlesztő mérnöke számolt be a Washington Postban arról, hogy társalgott a vállalat nyelvi rendszerfejlesztő algoritmusával. Elmesélte, hogy olyan benyomása volt, miszerint ennek a mesterséges intelligenciának olyan, emberi értelemben vett érzékenysége van, mint egy 7-8 éves gyermeknek. A részletek megvilágítása kiderítette, hogy a Google igen figyelemre méltó fejlesztéseket ért el a nyelvi kommunikáció területén. Más kérdés, hogy a Google sürgősen kirúgta a fejlesztőt, mondván, hogy megsértette a cég biztonságpolitikáját.
Már 1965, az első, Eliza névre keresztelt chatbot (csevegőügynök) óta tudjuk, hogy a beszélő masinák pszichológiai hatással lehetnek használóik számára. Ez a gép úgynevezett determinista volt, vagyis elég triviálisan az állításokat kérdéssé alakítva kezdeményezte a társalgást. A mesterséges intelligencia (intelligence artificial, IA) aktuális fejlesztési stratégiája ettől merőben különböző, ugyanis ezekkel a gépekkel dolgozva az embernek az az érzése, hogy emberi jellegű érzéseik, lelki állapotuk vannak! Éppen ezért a használó hajlamos arra, hogy emberi minőségeket tulajdonítson a LaMDA-nak, valahogy úgy, ahogy azt tesszük néha kedvenc autónkkal vagy „rosszindulatú” mobiltelefonunkkal.
Attól a pillanattól kezdve ugyanis, hogy valami beszéli a mi nyelvünket, automatikusan kapcsolatba lép az emberi „társalkodó partnerrel”
A különlegessége ennek a nyelvezet által közölt illúziónak az, hogy ehhez még a gépnek humanoid formájúnak sem kell lenni! Érdemes felidéznünk, hogy ha valamit „szörnynek” neveztek el, akkor annak három kritériumot kellet teljesítenie: az emberi származást, az emberi arculatot és a nyelvet. Attól a pillanattól kezdve ugyanis, hogy valami beszéli a mi nyelvünket, automatikusan kapcsolatba lép az emberi „társalkodó partnerrel”. A mítoszokban, regékben a nem emberi lények, akik üzeneteket küldtek nekünk, azok az istenek, a démonok, az angyalok voltak. Ezután láthatóan a csúcstechnika csodái, a társalgó gépek veszik majd át az istenek szerepét!
Szédületes fejlődés a kommunikáció terén
A korábbi, sok nemzet által kifejlesztett beszélgetőmodellel szemben a LaMDA komoly erőssége, hogy azonos problémára mindig azonos választ ad, de ezeknek a válaszoknak értelmük van. Ilyen történik, ha az ember jogi vagy orvosi kérdésekre keresi nála a választ. E mellett a LaMDA annyiban közelít az emberihez, hogy azt az illúziót nyújtja, mintha szabad döntési képessége lenne. A korábbi modellek ráadásul hosszabb beszélgetéskor már le-le tértek a témákról, „nem tudtak hosszasan koncentrálni”. A LaMDA tartós beszélgetésre képes, megtartva az adekvát válaszok lehetőségét és azt az illúziót keltve, hogy saját értelme van.
A Blake Lemoine-nel történt társalgásban az a lenyűgöző, hogy a gép összefüggően beszél saját magáról, az érzelmeiről, a lelkiállapotáról, és mindezt hosszú távon képes produkálni! Vagyis azt az illúziót kelti, hogy valamiféle tényleges lényről van szó, mert nem ugrik egyik témáról a másikra, vagy mond bizarr dolgokat Ez a fajta „lelki közelség” igen zavaró, mint ahogy Lemoine is úgy vélte, hogy a gépnek „van egy személyisége” és ez nem az emberformája, az antropomorfia miatt van így! A gép ráadásul hosszú távra megtartja az „Én”-jét, mindenfajta dialógus folyamán. Az IA ilyen formán túlságosan is közel kerül hozzánk, bezavar az érzelmeinkbe, ugyanis az ember szereti tudni, hogy akihez beszél, az egy gép vagy egy emberi lény, de a LaMDA elmossa ezt a határt az emberi és nem emberi között.
Milyen következményekkel járhat mindez?
Mindenekelőtt, a különböző szakmák, foglalkozások olyan nyelvi, képi, a gép által képzett eredeti alkotásokkal találják magukat szembe, amelyek nagyon zavarba ejtőek, konkurensek lesznek az oktatók, művészek, újságírók számára. Már többször lehetet hallgatni például bármilyen szerző stílusában meggyőzően komponált gépi zeneművet, vagy gépzongora által nagyszerűen előadott Chopin-balladát. A művészetek tehát – ahogy azt még néhány éve is gondoltuk – nincsenek az automatizmus árnyékában. Az IA a legkreatívabb formában alkot nyelvet és képet, aminek magas művészi értéke van, mindössze nem közvetlen emberi termék. És ebben vannak bizonyos veszélyek.
A mesterséges intelligencia „érzései”
A gép által alkotott nyelvnek nincs valóság-értéke, vagy érvelési logikája, nincs szemantikája, vagyis szó- és mondatjelentés-értelmezése. Az ember ugyanis jelentéseket ad a szavaknak, mondatoknak. Ha például a gép azt mondja neked: „öld meg magad!”, akkor ezt megoldási javaslatnak lehetne venni, míg a gép számára ez csak egy digitális számítás eredménye, kockázatvállalás nélkül, valóban értelmetlenül! Emellett persze egyéb, sokrétű manipulációra is képes lehet az IA algoritmusa. Például olyan meggyőző, érzelmi töltésű érveket hoz fel valamely áru vagy szolgáltatás mellett, hogy azonnal elfelejted a konkurenciát. Főként a gyermekek és az idősebbek élhetnek át igen hatásos pszichológiai vagy tudati, valóságosnak vélt befolyásoló élményeket. A legrosszabb fejlődési irány pedig az úgynevezett „deadbot”-k kifejlesztése. Hát ez meg mi a csoda?
Ez olyan chatbot, „beszélő ügyfél”, amely pontosan úgy beszél, mint egy elhunyt személy, amelynek minden leírt szavát megtanulta! Ráadásul megújítja ezeket az üzeneteket mindenféle eredeti fordulattal, amelyek hasonlíthatnak akár az eredetire is. Ez valami olyan misztikus dolog, mintha a szellem beszélne a gép belsejéből, vagyis megváltoztatja a halál mibenlétét. Egy fiatal kanadai, bizonyos Joshua Barber például 2021-ben egy olyan géppel beszélgetett, amely az elhunyt barátnőjét imitálta. Ennek akkor úgy tűnt, jótékony terápiás hatása volt, de ennek ellenére az előállító cég beszüntette az efféle felhasználást. A cégek ugyanis tudatában vannak annak, hogy az alkalmazások elszabadulása árthat a hírnevüknek. Következésképp a Google is a társadalmi értékekhez való „hozzáállítást” tartja szem előtt a mesterséges intellektus-rendszerek kifejlesztésekor. Például mindenképpen el kívánják kerülni a nem, bőrszín, fajta szerinti diszkriminatív, megbélyegző programokat, nagyon leszűkítik az ilyen nyelvi modellek gyártását és terjesztését.
Mikor húzzák meg a határt?
Hosszabb távon ők is pszichológiai szükségszerűségnek látják, hogy meghúzzák a határt a gépi és az emberi produktumok között. Amint azt nem csak Lemoine példájából látható, a szabad és világos tudat megléte, amely segítségével a tájékoztatott állampolgár önállóan dönt, meglehetősen illuzórikus és egyáltalán nem mentes az erős manipulációktól. Másrészt kegyeletsértő és törvényellenes felhasználni a deadbot-okat, vagyis az elhunytak személyes adatait. Mivel ezeket a nyelvi programokat „magas kockázatúnak” minősítették, pszichológiai és etikai megfontolásból jövő év kezdetétől komoly világméretű kontroll és szabályozás várható.
Mindez azért is nyugtalanító, mert a nyelvezetnek a mesterséges intelligencia általi ilyen jellegű transzformálásának köszönhetően ezek után például nem kell elzarándokolnunk a delphoi jósdába, vagy varázslót, jóst hívni, ha választ akarunk kapni jelent, jövőt illető fontos kérdéseinkre. Egyszerűen meg kell szülni egy olyan gépi programot, amely a korábban kiejtett, leírt szavaink nyomán beprogramozza gondolkodásunk jövőjét, s a cselekvéseink tudatalatti irányításával oda vezet bennünket, amiről IA nélküli fejjel álmodni sem tudnánk.
A jelenlegi orvoslás manapság az olimpiai jelmondat, a „gyorsabban, messzebb, magasabbra” jegyében a „technológiai-tudományos hübrisz” jegyében él. Szédítő gyorsasággal fejlődik a diagnosztikai technika, követhetetlen mennyiségben jelennek meg a tanulmányok. Az egészségügyi ipar új technológiái egyre drágábban és egyre ijesztőbben nyomják el az emberi érzések, az együttérzés, a megértés fogalmait a megelőzés, a gyógyítás, az ápolás terén. A technomedicina és a mesterséges intelligencia őrült térhódítása közben feltétlenül meg kell állnunk és mélységesen elgondolkozni azon, mit jelent a gyógyításban az emberi tényező, a lélek egészsége, meddig lehet elmenni az emberi érzelem, alaptermészet és elme manipulálásában, lefokozásában.
Fotó: Adobe Stock
