Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

Az utóbbi időszakban különösen nagy figyelmet kapott a különféle mesterséges intelligencia modellek nagyközönség számára való elindítása. A generatív mesterséges intelligencia használatával kapcsolatos potenciális kockázatok megnövekedtek, különösen a szerzői jogi kérdések területén, de az ilyen eszközöket alkalmazó vállalatoknak olyan kockázatokra is komoly figyelmet kell fordítaniuk, mint a rendszer-kimenetek helyessége és megmagyarázhatósága, vagy a negatív előítéletek kiszűrése.

Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

A ChatGPT (társalgási nyelvi-rendszer) és a DALL-E (szöveget képpé alakító alkalmazás) elindításával a generatív mesterséges intelligencia (MI) különösen nagy figyelmet kap, és egyre népszerűbb. A generatív MI gépi tanulást használ új tartalmak, pl. szövegek, képek, programkódok, költemények vagy grafikák, előállításához. A legtöbb munkavállaló attól tart, hogy a DALL-E átalakíthatja a hirdetések, a filmkészítés, valamint a játékok világát, a ChatGPT pedig munkahelyeket válthat ki tartalom- és szöveggyártás, oktatás, szoftverfejlesztés és újságírás bizonyos területein.

„Ezek az aggodalmak nem alaptalanok, de nem is ennyire fekete-fehér a történet: a munkahelyek biztosan átalakulóban vannak, azonban továbbra is versenyben marad az, aki megtanulja az MI eszközöket jól és az előnyére használni, együtt élni velük, jól alkalmazni azokat munkájában, saját területén – aki az új eszközökkel együtt tud dolgozni, nem nélkülözhetetlen, hanem keresett szakember lesz.” – mondta Dr. Barta Gergő, a Deloitte Vezető MI szakértője.

Vannak vállalatok, melyek a szerzői jogok megsértésével kapcsolatos aggályok és felelősségek miatt nem engedélyezik az MI által létrehozott tartalmak felhasználását. Számos, stock-fotót gyűjtő platform pedig a művészek és fotósok kérésére MI által létrehozott képek használatát tiltotta be . A ChatGPT alkalmazásának terjedésével megnőtt az oktatásban a plágium kockázata, ezért bizonyos városok állami iskoláiban tilos a nyelvi modell használata.

Bizonytalanság az MI-ben: mennyire lehetünk benne biztosak, hogy helyes a kimenet?

Mit nevezünk kimenetnek? Amikor egy feltett kérdésre választ adunk, gyakran kezdjük mondatunkat azzal, hogy „Nem vagyok biztos benne, de…”, vagy „Ez csak egy sejtés, de…” – attól függően, hogy mennyire vagyunk biztosak válaszunk helyességében. Ezzel szemben a ChatGPT gyakran szabadkozás nélkül kimenetet produkál. A ChatGPT korlátait sorolva az Open AI így fogalmaz: „A ChatGPT néha hihetően hangzó, ugyanakkor helytelen válaszokat ad.” Egy kódolással foglalkozó Q&A platform éppen ezért tiltotta be a ChatGPT használatát: „A ChatGPT által generált válaszok közzététele kifejezetten káros az oldalra nézve… mivel ezen válaszok jónak tűnhetnek, mégis nagy arányban tévesek”. Több olyan esetről is tudunk, amikor a ChatGPT nevetséges hibát vétett a matematika és a logika területein, előfordult, hogy az algebrai jelöléseket használta rosszul, illetve olyan területeken, amilyen pl. a sakk is, ahol a számítógépek köztudottan képesek felülmúlni az emberi teljesítményt, a ChatGPT irracionális lépéseket hajtott végre, tökéletes pókerarccal.

A chatbot hamis önbizalmán keresztül megnő a téves információ terjesztésének, a félretájékoztatásnak a kockázata. A ChatGPT információs oldala kifejti, hogy ez kihívást jelent, mivel „jelenleg a biztonságos információforrás nem áll rendelkezésre” és „ha a modellt nagyobb óvatosságra tanítják, elutasíthatja azoknak a kérdések megválaszolását, amelyekre egyébként helyesen tudna válaszolni”.

„Ugyan tesztelési célokból érdemes lehet inkább helytelenül megválaszolni egy kérdést, mint a választ megtagadni, valós helyzetben történő alkalmazás esetén a rossz válasz nagyobb károkkal és költségekkel járhat, mint a semmilyen válasz. Az elővigyázatosság szükséges mértéke téma- és feladatkörönként eltérő lehet. Annak érdekében, hogy a felhasználók megbízhassanak a generált szöveg tartalmában, a létrehozott szöveg nem lehet egyformán magabiztos minden témában. Az olyan nagy nyelvi modelleknek – Large Language Models, LLM – , amilyen a ChatGPT is, jelenlegi formájukban fontolóra kellene venniük, hogy tisztázó kérdéseket tegyenek fel, ismerjék fel a tudásbázisuk korlátait, kis mértékű bizonyossággal adják meg a válaszokat és adott esetben egy egyszerű „nem tudom a választ” szöveggel térjenek vissza.” – mondta Barta Gergő.

Megmagyarázhatóság: honnan származik a generált információ?

A fő kihívás a ChatGPT kimenetelének azonosításában az, hogy nem rendelkezik egy egyértelmű információforrással. Ellentétben más MI alapú személyi asszisztensekkel, amilyen a Siri vagy az Alexa, melyek internetes keresőmotorok segítségével keresik a választ, a ChatGPT-t úgy tanították, hogy a mondatokat a következő, statisztikailag valószínű nyelvi egységre vonatkozó találgatások sorozatával alkossa meg. Emiatt nevezik az LLM-eket néha „sztochasztikus papagájoknak” is.

A tudományos kutatások során minden információ megbízhatóságát annak forrása alapján határozzák meg. Egyes nyelvi modellek, több különböző forrást szintetizálnak annak érdekében, hogy megadjanak egyetlen választ. Ezek a rendszerek különböző megbízhatósági szinteket rendelhetnek a különböző forrásokhoz azok reputációja alapján. Például, ha az információ megkérdőjelezhető forrásból származik módosíthatják válaszukat oly módon, hogy a felmerült kételyt kifejezzék, vagy több lehetséges választ is bemutathatnak, ha a különböző források nem értenek egyet egy bizonyos témában. Érdemes lehet megfontolni ezeknek a típusú modelleknek a használatát egy-egy speciálisabb téma során.

„A megmagyarázhatóság kritériuma nélkülözhetetlen lesz, hiszen abban az esetben, ha az eredmény megkérdőjelezhető, az lehetővé teszi az információ befogadója számára, hogy felmérje a kontextust, és betekintést nyerjen a további feltételezésekbe, vagy az alkalmazott logikába.” – mondta Puskás Attila, a Deloitte Kockázatkezelési Tanácsadás Vezető Tanácsadója.

Ennek hiánya többek között a képgenerátorokat is érinti. A szintetikus, szöveget képpé alakító programok az interneten elérhető képekből tanulnak. Egy vizuális médiával foglalkozó cég beperelte az egyik MI eszköz létrehozóit, amiért megfelelő engedély nélkül használták fel képeiket. Művészek egy csoportja korábban a szerzői jogok megsértéseként értékelt, ezért bojkottált egy MI által generált képeket tartalmazó alkalmazást, mivel az MI egy valós művész stílusát utánzó képeket generált. Bár a jogi kihívások összetettek, az MI által generált műalkotások inspirációforrásának azonosítása – tehát annak a forrásnak, ahonnan az MI nagyrészben másolta a meglévő műalkotást, lehetővé teszi a pénzügyi kompenzációt és elszámolást.

Előítélet: mi történik, ha „rossz” forrásból tanul a rendszer?

Ha a modellt nagy volumenű, szöveget és képeket tartalmazó adathalmazon tanítják, akkor a modell természetesen megismétli a forrásban található torzításokat. Ez gyakorlatban azt jelenti, ha a felhasznált tanító adathalmaz pl. egy arcfelismerő rendszer esetében felül-reprezentált egy adott etnikai csoport tekintetében, akkor megvan a kockázata annak, hogy más csoportokat nem fog sikeresen felismerni, tehát elfogult lesz a tanító adatban szignifikánsan megjelenő mintákkal szemben – ez pedig igazságtalan kimenetet eredményezhet.

Bár a ChatGPT tartalommoderálási korlátokat alkalmaz a szexuális, gyűlöletkeltő, erőszakos vagy káros tartalmak generálásának megelőzése érdekében, ezeket a beépített szűrőket könnyű megkerülni az utasítások átfogalmazásával. A Galactica, a ChatGPT elődje pl. 3 nap után állt le, mert hamis és rasszista tartalmakat generált. Sok munkát kell még elvégezni ahhoz, hogy a tanításra használt adatokban a torzításokat azonosítani és csökkenteni lehessen – nemcsak a generatív MI esetében, hanem az MI összességében. Egyes tudósok a tanításhoz használt adatok gondos összegyűjtése mellett érveltek a hatalmas mennyiségű és könnyen elérhető internetes források használata helyett.

Összességében a generatív MI népszerűségének növekedése következtében jelentkező potenciális kockázatokat és etikai megfontolásokat teljes mértékben figyelembe kell vennie az ilyen modellt implementálni kívánó vállalkozásnak. Ezeknek a technológiáknak új, izgalmas alkalmazási lehetőségei vannak, fontos azonban ezeket a lépéseket összhangba hozni és arányosan mérlegelni a felmerült kockázatokkal, elszámoltathatósággal és az esetleges visszaélésekkel, mert így lehet korlátozni az előre nem látható negatív hatásokat.

„Átgondolt kockázatkezelésre és irányításra van szükség ahhoz, hogy biztonságosan és magabiztosan lehessen használni a generatív MI innovációit. A generatív MI kockázatait az olyan klasszikus vállalati kockázati tényezőkkel, amilyen a működési, adatvédelmi, jogi, vagy technológiai kockázat is, együtt kell azonosítani és értékelni, annak biztosítása érdekében, hogy a maradványkockázatok ne jelentsenek fenyegetést se a vállalati működésre, se a társadalomra vagy a környezetre.” – mondta Barta Gergő.

Átvészelte az év első turbulens időszakát a Delta

A Delta Air Lines a második negyedéves gyorsjelentése alapján minimálisan tudta felülteljesíteni a piaci várakozásokat.
2025. 07. 10. 18:30
Megosztás:

Ne hagyja, hogy az információhiány hátráltassa vállalkozását – BCP Magyarország Kft. tanúsítvány és céginformáció új megvilágításban

Egy jól működő üzleti modell nem csak kiváló termékeken és szolgáltatásokon, hanem tudatos kockázatmenedzsmenten is nyugszik. Ebben a folyamatban kulcsszerep jut a megbízható adatoknak és a hiteles visszajelzéseknek. A BCP Magyarország Kft. által működtetett cegcontrol.hu és a BCP Rating tanúsítvány olyan információs és minősítési eszközök, amelyek az üzleti bizalomépítés gyakorlati oldalát támogatják.
2025. 07. 10. 18:00
Megosztás:

Visszafogott várakozásokkal veszi kezdetét a gyorsjelentési szezon Amerikában

A héten kezdetét veszi a második negyedéves gyorsjelentési időszak. Donald Trump vámpolitikája jelentős bizonytalanságot okozott a tőzsdéken, ami az amerikai vállalatok teljesítményére is rányomhatta a bélyegét. Az elemzők optimizmusa mérséklődött az elmúlt hónapokban, és hamarosan kiderül, hogy vajon joggal tartanak-e a magasabb vámok hatásától. A negyedéves számokon kívül érdekes lesz az is, hogy a vállalatok mire számítanak az év második felében a globális gazdasággal kapcsolatos fokozódó bizonytalanság közepette.
2025. 07. 10. 17:30
Megosztás:

94%-ra emelte részesedését a Gloster a P92-ben

A Gloster bejelentette, hogy a korábban megkötött akvizíciós ügylet lezárult, melynek keretében a P92-ben eddig meglévő többségi (51%) részesedése 94%-ra emelkedett.
2025. 07. 10. 16:30
Megosztás:

Fontos lesz augusztus első napja

A rézre kiszabott vám 50%-os mértékét már megtudtuk korábban, azonban Donald Trump bejelentette, hogy augusztus 1-jétől lép érvénybe a határozat.
2025. 07. 10. 16:00
Megosztás:

A SZÉP-kártya továbbra is a belföldi turizmus mozgatórugója – idén májusban közel 10%-kal többet költöttek a SZÉP-kártyákról tavalyhoz képest

A kormány azon dolgozik, hogy a magyar családok anyagi helyzete folyamatosan javuljon, így minél többet költhessenek és utazhassanak.
2025. 07. 10. 15:30
Megosztás:

Új korszak kezdődik a magyar konténerlogisztikában

A magyar intermodális árufuvarozás történetének egyik jelentősebb technológiai beruházása valósult meg a csepeli Szabadkikötőben: megérkezett az a nagyteljesítményű, trimodális konténerrakodó bakdaru, amely új szintre emeli a vasúti, közúti és vízi logisztikai műveletek hatékonyságát.
2025. 07. 10. 15:00
Megosztás:

Formabontó szaniter változtatná meg a vízhasználati szokásokat

Egy svájci gyártó és Yves Béhar formatervező új típusú mosdót fejlesztett, amely szokatlan kialakításával és működésével szakít a hagyományos megoldásokkal. A víz nem csapból érkezik, hanem egy felső nyílásból indul, és spirálszerű pályán folyik a lefolyóba. A szerkezet célja a vízfogyasztás csökkentése és az élményszerű használat előtérbe helyezése.
2025. 07. 10. 14:55
Megosztás:

Jó befektetés még mindig az Unicredit részvénye

Az idei évben jelentős európai felülteljesítés volt eddig megfigyelhető a részvénypiacokon. Ezen belül is kiemelkedő a bankok helyzete, melyek átlagosan 30%-ot emelkedtek és ezzel a legjobban teljesítő iparágnak számítanak.
2025. 07. 10. 13:30
Megosztás:

Hogyan kereshetünk hatékonyan munkát 2025-ben?

A munkaerőpiacon jelenleg több területen is kimagasló az álláshirdetésekre beérkező jelentkezések száma. Egy-egy pozícióra rövid időn belül nagyszámú pályázat érkezik, így egy jól célzott, az adott pozícióhoz illeszkedő önéletrajz kulcsszerepet játszik a sikeres kiválasztásban. A tömeges, nem célzott pályázatok ritkán hoznak eredményt – ezzel szemben már néhány tudatos lépéssel jelentősen növelhetjük esélyeinket a kiválasztási folyamatban. De mitől lesz igazán hatásos egy pályázat, és hogyan emelkedhetünk ki már az első szűrésnél?
2025. 07. 10. 13:00
Megosztás:

Javuló eredmények: felfelé módosította várakozásait a Mapei Kft.

Stabil bővüléssel zárta a 2025-ös év első félévét a Mapei Kft., az árbevétel 9,4 százalékkal emelkedett az egy évvel korábbihoz képest. A vállalat ennek hatására felfelé módosította év végi prognózisát, és egyre erősebb bizalommal tekint az év második felére, különösen az új Otthon Start Program várható hatásaira építve.
2025. 07. 10. 12:30
Megosztás:

Budapest vagy az agglomeráció? Az árak újra mozgásba hozták a vevőket

Az elmúlt hónapokban ismét megélénkült az agglomeráció iránti kereslet. A fővárosban elszálló árak, a családi házas kínálat vonzereje sokakat terel vissza a Budapest környéki településekre. Ugyanakkor az árakat tekintve nem túl nagy az eltérés a főváros peremkerületei és a közvetlenül mellettük fekvő agglomerációs települések között.
2025. 07. 10. 12:00
Megosztás:

Korrupcióellenes intézkedéscsomagot jelentett be a spanyol kormányfő

Tizenöt pontból álló korrupcióellenes intézkedéscsomagot jelentett be a spanyol miniszterelnök szerdán a madridi parlamentben.
2025. 07. 10. 11:30
Megosztás:

Fedezd fel a rozmaringolaj hajápoló erejét!

Sokan keresnek természetes megoldásokat, amikor hajproblémáikkal szembesülnek, és a rozmaringolaj éppen ilyen jellegű megoldást kínál. Talán meglepő lehet, hogy a konyhában is megtalálható fűszer növényi esszenciája képes javítani hajunk egészségét, mégis, egyre többen tapasztalják ennek előnyeit. Miért különleges ez az olaj? Hogyan segíthet a hajnövekedés elősegítésében és milyen további hasznos hatásai lehetnek?
2025. 07. 10. 11:00
Megosztás:

Új szintre lép az ausztrál digitális jegybankpénz: indul a Project Acacia

Miközben a világ központi bankjai egyre inkább vizsgálják a digitális jegybankpénzek (CBDC-k) szerepét a pénzügyi rendszerben, Ausztrália most konkrét lépéseket tesz a megvalósítás irányába. A Reserve Bank of Australia (RBA) bejelentette, hogy elindítja a „Project Acacia” elnevezésű kezdeményezést, mely során valódi pénzügyi eszközökkel és partnerekkel tesztelik a digitális valuta felhasználási lehetőségeit — kifejezetten a nagykereskedelmi piacok számára.
2025. 07. 10. 10:30
Megosztás:

Enyhültek az inflációs félelmek

A piacok által várva várt tegnapi 10 éves kötvényaukció jól sikerült az USA-ban: erős volt a kereslet, ami mérsékelte a finanszírozással kapcsolatos aggodalmakat.
2025. 07. 10. 10:00
Megosztás:

A Fed jegyzőkönyve idénre kamatcsökkentést valószínűsít

A Wall Street-i részvényindexek is emelkedéssel zárták a napot, amit elsősorban a technológiai szektor vezetett. A NASDAQ 0,95%-kal, az S&P 500 0,61%-kal, míg a Dow 0,49%-kal erősödött. A pozitív hangulat részben annak volt köszönhető, hogy a Fed júniusi ülésének jegyzőkönyve szerint a döntéshozók többsége az év későbbi szakaszában kamatcsökkentést tart valószínűnek, miközben Trump elnök vámintézkedéseinek inflációs hatásait „átmenetinek vagy mérsékeltnek” ítélték.
2025. 07. 10. 09:30
Megosztás:

Trump vámfenyegetései fokozzák a feszültséget, mégis szárnyaltak az európai tőzsdék

Donald Trump amerikai elnök újabb vámintézkedéseket jelentett be: az Egyesült Államok akár 50%-os vámot is kivethet az importált rézre, és hamarosan hasonló lépések várhatók a félvezetők valamint a gyógyszeripari termékek esetében is. A rézre vonatkozó vám célja az amerikai bányászat és ipar védelme.
2025. 07. 10. 09:00
Megosztás:

Ez történt a forinttal csütörtök reggelre

Erősödött a forint árfolyama a főbb devizákkal szemben csütörtök reggel az előző esti jegyzéséhez képest a nemzetközi devizakereskedelemben.
2025. 07. 10. 08:30
Megosztás:

Veszélyes kriptovaluta átverések burjánzanak a stabilcoin-láz közepette

Miközben a világ figyelme a digitális eszközök és a stabilcoinok (stablecoin) körüli technológiai versenyre szegeződik, Kínában egyre komolyabb aggodalom övezi a csalárd kriptós befektetési sémákat. A pekingi internetes pénzügyi szövetség friss figyelmeztetése szerint a „stabil” digitális valuták burjánzó népszerűsége újraéleszti a régi trükköket: csalók magas hozamokat ígérnek, miközben piramisjátékokat működtetnek. A figyelmeztetés nemcsak a kínai befektetőknek szól — a stabilcoinpiac robbanásszerű növekedése globális szabályozási versenyt indított el.
2025. 07. 10. 08:00
Megosztás: