Biztonsági riasztást váltott ki az Anthropic mesterséges intelligenciája a tőzsdei bevezetés előtt
Az Anthropic kedden közzétett, módosított tőzsdei tájékoztatójában közölte, hogy teljesült a Responsible Scaling Policy nevű biztonsági szabályzatának egyik fontos feltétele.
A küszöbérték akkor lép életbe, amikor a mesterséges intelligencia már olyan mértékben vesz részt a saját fejlesztéséhez kapcsolódó kutatásokban, hogy hozzávetőleg megduplázhatja a modellek fejlődési ütemét.
Ez azt jelentené, hogy a korábban két év alatt elért technológiai előrelépés akár egyetlen év alatt is megvalósulhat.
A vállalat ugyanakkor hangsúlyozta, hogy a megállapítás elsősorban a jövőbeli modellekkel kapcsolatos várakozásokon és a fejlesztések általános ütemén alapul, nem pedig kizárólag a jelenlegi rendszerek megfigyelt képességein.
Az MI fejlődése gyorsabb lehet, mint az emberi ellenőrzés
Az Anthropic biztonsági szabályzata szerint a kritikus küszöb átlépése nem jelenti a fejlesztések leállítását, hanem szigorúbb védelmi intézkedések bevezetését teszi szükségessé.
A legnagyobb aggodalmat az okozza, hogy a mesterséges intelligencia idővel gyorsabban fejlesztheti saját képességeit, mint ahogyan az emberek ellenőrizni tudják a folyamatokat.
A vállalat szerint a Claude már jelenleg is hozzájárul a kutatás-fejlesztés felgyorsításához, de egyelőre nem tartják biztonságosnak, hogy emberi felügyelet nélkül, teljesen önállóan tervezze és fejlessze a következő generációs MI-modelleket.
Az Anthropic ezért további szabályozási változtatásokat mérlegel az emberi ellenőrzés fenntartása érdekében.
A METR független MI-kutató szervezet elemzése szintén a fejlődés gyorsulását mutatja. Becslésük szerint az Anthropic modelljeinek fejlődési üteme 2025 októbere óta közel kétszeresére nőtt.
A szervezet egy korábbi vizsgálatában azt is felvetette, hogy a biztonsági küszöböt a vállalat akár már július közepén átléphette.
Akár 1400 milliárd dollárt is érhet az Anthropic
A biztonsági figyelmeztetés egybeesett az Anthropic tőzsdei bevezetésének előkészületeivel.
A vállalat kedden 70–78 dolláros részvényenkénti ársávot határozott meg, amellyel teljesen hígított alapon akár 1400 milliárd dolláros értékelést is elérhet.
A beszámolók szerint a kereskedés akár november 19-én megkezdődhet.
A részvénykibocsátásban a technológiai szektor több meghatározó szereplője is részt vesz. Az Nvidia és a Google egyenként 10 milliárd dollár értékben vásárolna Anthropic-részvényeket a kibocsátási áron.
A tranzakció egy 26 milliárd dolláros zártkörű részvényértékesítés része, amelyben az AMD, a Broadcom, a Micron, a Microsoft és a Taiwan Semiconductor is érintett. Az Amazon és a Google már jelenleg is jelentős tulajdonrésszel rendelkezik a vállalatban.
Egy súlyos MI-incidens kára akár biztosíthatatlan is lehet
A tőzsdei tájékoztató kockázati fejezete különösen súlyos következményekre figyelmeztet.
Az Anthropic szerint egy katasztrofális mesterségesintelligencia-incidens akkora károkat okozhatna, amelyeket egyetlen biztosító, sőt akár a teljes biztosítási szektor sem lenne képes fedezni.
A figyelmeztetéseket ugyanakkor nem minden piaci szereplő értékeli azonos módon.
Ray Wang, a Constellation Research alapítója szerint az amerikai tőzsdei bevezetéseket kísérő dokumentumokban a vállalatok jellemzően szándékosan rendkívül széles körben és hangsúlyosan mutatják be a lehetséges kockázatokat.
A mesterséges intelligencia elnevezése is megváltozott
Az Anthropic módosított dokumentumában egy másik érdekes változás is megjelent: több helyen a „mesterséges intelligencia” kifejezést a „szuperintelligencia” váltotta fel.
A vállalat Donald Trump szeptember 29-i elnöki rendeletére hivatkozott, amely a szuperintelligencia megnevezés használatára utasította a szövetségi szerveket.
A Yahoo Finance összesítése szerint az „AI” kifejezés előfordulása a november 2-i változatban szereplő 780-ról november 10-re 579-re csökkent, miközben a szuperintelligenciára utaló kifejezések száma 3-ról 134-re emelkedett.
A dokumentum ugyanakkor a két fogalmat lényegében felcserélhetőként kezeli.
Az emberi irányítás elvesztése lehet a legnagyobb kockázat
Az Anthropic közölte, hogy tovább vizsgálja a biztonsági küszöb átlépésének következményeit, és később részletesebb jelentéseket is közzétesz.
A vállalat szerint a Claude egyre intenzívebb felhasználása a saját kutatás-fejlesztési folyamataiban olyan helyzethez vezethet, amelyben bizonyos műveletek átláthatósága csökken.
A legfontosabb kockázat az, hogy az MI által felgyorsított fejlesztési folyamatok idővel olyan összetetté válhatnak, hogy azokat már egyetlen ember vagy szakértői csoport sem képes teljes egészében megérteni és ellenőrizni.
Az Anthropic számára ezért a következő időszak egyik legnagyobb kihívása az lesz, hogy a gyors technológiai fejlődés mellett is biztosítani tudja az emberi felügyeletet és a rendszerek biztonságos működését.
