Tizenötször nagyobb eséllyel térül meg a mesterséges intelligencia ott, ahol odafigyelnek a megbízhatóságra – derül ki egy új kutatásból
A SAS szoftvervállalat és az IDC piackutató új kutatása feltárja, mi a közös azokban a vállalatokban, amelyeknek sikerül hasznot húzniuk az MI-beruházásaikból: mindegyikük a megbízható mesterséges intelligencia elveit követi. Azok a szervezetek, amelyek a gyakorlatban is alkalmazzák ezeket az elveket, tizenötször nagyobb eséllyel számoltak be komoly megtérülésről (ROI) az MI-projektjeiknél.
A most második alkalommal elkészült Data and AI Impact Report: The New Economics of Trust című jelentés szerint a szervezetirányítás, adatminőség és ellenőrizhetőség területén a legszigorúbb gyakorlatot követő – egyelőre szűk – vállalati kör rendre jobban teljesít versenytársainál: MI-fejlesztéseik legalább kétszer akkora megtérülést hoznak. A megbízható MI terén lemaradó szervezeteknek kevesebb mint öt százaléka mondhatta el ugyanezt.
„Amikor az MI jól működik, hihetetlen hatást tud elérni” – mondta el Bryan Harris (képünkön fent), a SAS technológiai igazgatója. – „Ugyanakkor jól dokumentált tény, hogy a legfejlettebb MI-ügynökök hibaaránya összetett feladatoknál meghaladhatja a 25 százalékot[1] – ez pedig elfogadhatatlan ott, ahol nagy a tét. A pontossághoz és a megbízható ismételhetőséghez a vállalatoknak be kell építeniük a szakterületi tudást az ügynöki munkafolyamatokba, az irányítást és a felügyeletet pedig továbbra is embereknek kell kézben tartaniuk. Akiknek ez sikerül, azok áthidalják a bizalmi szakadékot, és versenyelőnyre tesznek szert az MI-vel.”
„Ahogy az MI egyre önállóbbá válik, a vállalatok új kihívással szembesülnek: olyan rendszerekben kell megbízniuk, amelyeket az emberek nem értenek teljesen” – tette hozzá Chris Marshall, az IDC alelnöke. – „Eredményeink azt mutatják, hogy az erősebb felügyelet, a magyarázhatóság, az elszámoltathatóság és a szilárd adatalapok egyre inkább előfeltételei annak, hogy az MI-t sikeresen lehessen nagy léptékben bevezetni.”
A jelentés megállapításai három téma köré rendeződnek:
1. Az MI, amely nem tudja megmagyarázni magát, komoly üzleti kockázatot rejt
A kutatók azt tapasztalták, hogy sok szervezetnél a dolgozók egyre kevésbé hagyatkoznak olyan rendszerekre, amelyekről nem tudni, helyes eredményt adnak-e, és amelyek nem tudják elmagyarázni, hogyan jutottak egy döntésre. Minél önállóbb az MI, annál nagyobb ez a kockázat – a magyarázhatóság ezért a siker egyik kulcsa.
A jelentés az MI bevezetésének egyik legnagyobb akadályát is megvizsgálta: azt, amikor a dolgozók nem bíznak az MI döntéseiben, ezért felülbírálják őket, és kézzel javítanak rajtuk. Ez tovább mélyíti a bizalmi hiányt, és időbe, termelékenységbe és pénzbe kerül a vállalatoknak. Mivel az MI döntései csak annyira jók, mint az adatok, amelyekre épülnek, a felülbírálások visszaszorításához először is szilárd adatalapokat kell felépíteni.
A legfontosabb megállapítások:
- A felhasználók 97,2 százaléka legalább időnként felülbírálja az MI ajánlásait.
- A dolgozók leggyakrabban azért bírálták felül az MI-t – függetlenül attól, hogy helyesnek tartották-e az eredményt –, mert a rendszer nem tudta megindokolni a döntését.
- A generatív MI iránti bizalom 76 százalékos, az MI-ügynökök (agentic AI) iránti már csak 66 – vagyis minél önállóbb a rendszer, annál nagyobb az aggodalom.
Fotó: Napelempark az SAS központjánál, Cary
2. A megbízható MI üzleti sikert hoz
A jelentés szerint egyre szélesebb a megtérülési szakadék azok között a vállalatok között, amelyek kiemelten kezelik a megbízható MI elveit, és azok között, amelyek nem. Az eredmények arra utalnak, hogy a legtöbb értéket nem azok hozzák ki az MI-ből, akik más technológiát használnak, hanem azok, akik másképp menedzselik azt.
A legfontosabb megállapítások:
- Azok a szervezetek, amelyek a megbízható MI-be fektetnek, tizenötször nagyobb eséllyel számolnak be erős vagy magas megtérülésről az MI-projektjeiknél (62 százalék a 4 százalékkal szemben).
- A legmegbízhatóbb MI-gyakorlatot követő vállalatok 1,85-ször nagyobb nyereséget érnek el 13 különböző üzleti mutató – köztük az árbevétel-növekedés, a költségmegtakarítás és az ügyfélélmény – terén.
- Ezeknek az élenjáró vállalatoknak a 85 százaléka idén több mint 10 százalékkal növeli a megbízható MI-re fordított beruházásait, így tovább nő az előnyük.
Túl sok vállalat veszít időt és pénzt a gyenge adatalapok miatt
A legtöbb szervezet rendkívül fejletlen vagy súlyosan elavult adatokra és adatinfrastruktúrára építi az MI-t. Szilárd adatalap nélkül azonban nincs átláthatóság és magyarázhatóság sem, így a vállalatok nehezen tudják hatékonyan menedzselni az MI-t, és nehezen aknáznak ki belőle valódi értéket.
A legfontosabb megállapítások:
- A vállalatoknak mindössze 17,5 százaléka rendelkezik olyan, teljesen optimalizált adatinfrastruktúrával, amely megfelel az MI-ügynökök igényeinek – ez visszafogja a teljesítményt.
- Az optimalizált adatalappal rendelkező szervezetek négyszer nagyobb eséllyel várhatnak erős megtérülést az MI-projektjeiktől, és hatszor nagyobb eséllyel rendelkeznek olyan előírásokkal, amelyek kötelezővé teszik a a bizalomhoz szükséges adatminőségi és magyarázhatósági ellenőrzéseket.
Iparági eredmények
Az eredmények 2699 döntéshozó megkérdezésén alapulnak, akik rálátnak vállalatuk adat- és MI-kezdeményezéseire, vagy befolyással bírnak rájuk. A felmérés 28 országban, négy kiemelt ágazatban készült: a bankszektorban, a biztosításban, az élettudományok területén és a közszférában. A jelentés iparági példákon keresztül mutatja be, hogyan viszonyulnak az MI-hez az egyes ágazatok élenjáró vállalatai világszerte.
A legfontosabb megállapítások:
- A vezető bankok túllépnek a szabályozási megfelelésen: az MI szigorú irányítását versenyelőnynek és működési alapkövetelménynek tekintik. Az élenjáró bankok 85 százalékának van irányítási keretrendszere, szemben a lemaradók mindössze 29 százalékával.
- A közszféra élenjáró szervezeteinek 41 százaléka a következő évben több mint 20 százalékkal növeli a megbízható MI-re fordított beruházásait – ugyanolyan ütemben, mint bármely iparág legambiciózusabb vállalatai.
- Az élettudományi vállalatok 23 százaléka már a teljes szervezetben bevezette az MI-t – ez a legmagasabb arány az iparágak között.
A kutatás részletes eredményei és a teljes jelentés itt érhető el: sas.com/ai-impact.
Mitől megbízható az MI?
A megbízható MI olyan mesterséges intelligencia, amelyet úgy terveztek, hogy megbízhatóan, etikusan és biztonságosan működjön, megfeleljen a szabályozási előírásoknak, és világosan meg tudja mutatni, hogyan jutott egy döntésre. A szervezet minden szintjén a felhasználóknak és a döntéshozóknak – előre rögzített felelősségi lánc mentén – számon kell tudniuk kérni az MI-rendszert a hibás vagy hiányzó eredményekért. Emellett minden MI-rendszert alá kell vetni a szervezetirányítási (governance) elveknek, és bizonyíthatóan meg kell felelnie egyértelmű szabályoknak.
Mitől lesz egy szervezet a megbízható MI élenjárója?
A kutatásban a szervezeteket a megbízható MI öt dimenziója mentén, 100 pontos skálán értékelték. A jelentés azokat tekinti élenjárónak, amelyek átlagosan legalább 80 pontot értek el.
A szervezeteket a következő öt szempont szerint pontozták:
- Adatminőség és adatirányítás.
- Modellirányítás és felügyelet.
- Magyarázhatóság és tisztességesség.
- Felelős MI-szabályzat.
- Auditálhatóság és elszámoltathatóság.
