Az AI-ipar most éli át eddigi legnagyobb vitáját arról, hogy technológiájuk valóban veszélyt jelent-e az emberiség létezésére. A jelenlegi vita akkor robbant ki, amikor Jacob Coxon AI-kutató bejelentette, hogy lemondott az Anthropic-nál betöltött pozíciójáról, mivel aggódik, hogy a vezető AI-cégek "az életünkkel játszanak".
A helyzet akkor vált igazán érdekessé, amikor az Anthropic alignment vezetője megosztotta Coxon bejegyzését, és hozzátette: "Tényleg komolyan hisszük, hogy az AI kiölheti az összes embert!" - felkiáltójellel. Sőt, személyes véleménye szerint ennek az esélye "több mint 10% a következő évtizedben".
A TechCrunch legújabb Equity podcast epizódjában a szerkesztők több érdekes kérdést vetettek fel. Anthony Ha szkeptikus az AI-vészjóslatokkal kapcsolatban, míg Kirsten Korosec arra volt kíváncsi, hogy ez csupán egy "furcsa hencegési forma-e", hogy megmutassák, mennyire fejlett a cégük AI-modellje - különösen, mivel ezek a vállalatok tőzsdére készülnek.
Sean O'Kane pedig azt firtatja, hogy ezek az aggályok hogyan jelennek majd meg az Anthropic tőzsdei bevezetési dokumentumaiban. "Vajon most junior ügyvédek írják át az S-1 dokumentum egész bekezdését, hogy odaírják: 'Hivatalosan is az Anthropic álláspontja, hogy több mint 10% az esélye annak, hogy valami olyat fejlesztünk, ami kiirthatja az emberiséget, és ez lényegesen rossz lenne az üzletünkre'?"
Egy fontos különbséget azonban érdemes megemlíteni: Coxon valóban tettekkel bizonyította aggodalmát - feladta karrierjét, mert nem akart tovább dolgozni ezen a területen. Ez ellentétben áll a Sam Altmanhez vagy Dario Amodeihez hasonló vezetőkkel, akik figyelmeztetnek a veszélyekre, miközben továbbra is aktívan fejlesztik az AI-t.
A legcinikussabb értelmezés szerint ezek a figyelmeztetések egyfajta marketingfogásnak is tekinthetők: ha egy vállalat azzal büszkélkedik, hogy technológiája veszélyes az emberiségre, ezzel gyakorlatilag azt üzeni, hogy a legfejlettebb AI-t fejlesztik. Persze ez nem jelenti azt, hogy az aggodalmak ne lennének őszinték - valószínűleg mindkettő igaz egyszerre.
Magyar AI-felhasználók számára ez azért fontos, mert ezek a globális viták és szabályozási kérdések hamarosan hazánkat is elérhetik. Az AI-biztonság és etika kérdései nem csak a szilícium-völgyi óriásokat érintik, hanem mindannyiunkat, akik ezeket az eszközöket használjuk.
Összegzésként: az AI-vészharangok valódi aggodalmakat tükröznek, de üzleti érdekek és személyes ambíciók is keverednek a háttérben. A következő hónapok tőzsdei bevezetései megmutatják, hogyan fordítják jogi nyelvre ezeket az apokaliptikus figyelmeztetéseket.