Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

Az utóbbi időszakban különösen nagy figyelmet kapott a különféle mesterséges intelligencia modellek nagyközönség számára való elindítása. A generatív mesterséges intelligencia használatával kapcsolatos potenciális kockázatok megnövekedtek, különösen a szerzői jogi kérdések területén, de az ilyen eszközöket alkalmazó vállalatoknak olyan kockázatokra is komoly figyelmet kell fordítaniuk, mint a rendszer-kimenetek helyessége és megmagyarázhatósága, vagy a negatív előítéletek kiszűrése.

Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

A ChatGPT (társalgási nyelvi-rendszer) és a DALL-E (szöveget képpé alakító alkalmazás) elindításával a generatív mesterséges intelligencia (MI) különösen nagy figyelmet kap, és egyre népszerűbb. A generatív MI gépi tanulást használ új tartalmak, pl. szövegek, képek, programkódok, költemények vagy grafikák, előállításához. A legtöbb munkavállaló attól tart, hogy a DALL-E átalakíthatja a hirdetések, a filmkészítés, valamint a játékok világát, a ChatGPT pedig munkahelyeket válthat ki tartalom- és szöveggyártás, oktatás, szoftverfejlesztés és újságírás bizonyos területein.

„Ezek az aggodalmak nem alaptalanok, de nem is ennyire fekete-fehér a történet: a munkahelyek biztosan átalakulóban vannak, azonban továbbra is versenyben marad az, aki megtanulja az MI eszközöket jól és az előnyére használni, együtt élni velük, jól alkalmazni azokat munkájában, saját területén – aki az új eszközökkel együtt tud dolgozni, nem nélkülözhetetlen, hanem keresett szakember lesz.” – mondta Dr. Barta Gergő, a Deloitte Vezető MI szakértője.

Vannak vállalatok, melyek a szerzői jogok megsértésével kapcsolatos aggályok és felelősségek miatt nem engedélyezik az MI által létrehozott tartalmak felhasználását. Számos, stock-fotót gyűjtő platform pedig a művészek és fotósok kérésére MI által létrehozott képek használatát tiltotta be . A ChatGPT alkalmazásának terjedésével megnőtt az oktatásban a plágium kockázata, ezért bizonyos városok állami iskoláiban tilos a nyelvi modell használata.

Bizonytalanság az MI-ben: mennyire lehetünk benne biztosak, hogy helyes a kimenet?

Mit nevezünk kimenetnek? Amikor egy feltett kérdésre választ adunk, gyakran kezdjük mondatunkat azzal, hogy „Nem vagyok biztos benne, de…”, vagy „Ez csak egy sejtés, de…” – attól függően, hogy mennyire vagyunk biztosak válaszunk helyességében. Ezzel szemben a ChatGPT gyakran szabadkozás nélkül kimenetet produkál. A ChatGPT korlátait sorolva az Open AI így fogalmaz: „A ChatGPT néha hihetően hangzó, ugyanakkor helytelen válaszokat ad.” Egy kódolással foglalkozó Q&A platform éppen ezért tiltotta be a ChatGPT használatát: „A ChatGPT által generált válaszok közzététele kifejezetten káros az oldalra nézve… mivel ezen válaszok jónak tűnhetnek, mégis nagy arányban tévesek”. Több olyan esetről is tudunk, amikor a ChatGPT nevetséges hibát vétett a matematika és a logika területein, előfordult, hogy az algebrai jelöléseket használta rosszul, illetve olyan területeken, amilyen pl. a sakk is, ahol a számítógépek köztudottan képesek felülmúlni az emberi teljesítményt, a ChatGPT irracionális lépéseket hajtott végre, tökéletes pókerarccal.

A chatbot hamis önbizalmán keresztül megnő a téves információ terjesztésének, a félretájékoztatásnak a kockázata. A ChatGPT információs oldala kifejti, hogy ez kihívást jelent, mivel „jelenleg a biztonságos információforrás nem áll rendelkezésre” és „ha a modellt nagyobb óvatosságra tanítják, elutasíthatja azoknak a kérdések megválaszolását, amelyekre egyébként helyesen tudna válaszolni”.

„Ugyan tesztelési célokból érdemes lehet inkább helytelenül megválaszolni egy kérdést, mint a választ megtagadni, valós helyzetben történő alkalmazás esetén a rossz válasz nagyobb károkkal és költségekkel járhat, mint a semmilyen válasz. Az elővigyázatosság szükséges mértéke téma- és feladatkörönként eltérő lehet. Annak érdekében, hogy a felhasználók megbízhassanak a generált szöveg tartalmában, a létrehozott szöveg nem lehet egyformán magabiztos minden témában. Az olyan nagy nyelvi modelleknek – Large Language Models, LLM – , amilyen a ChatGPT is, jelenlegi formájukban fontolóra kellene venniük, hogy tisztázó kérdéseket tegyenek fel, ismerjék fel a tudásbázisuk korlátait, kis mértékű bizonyossággal adják meg a válaszokat és adott esetben egy egyszerű „nem tudom a választ” szöveggel térjenek vissza.” – mondta Barta Gergő.

Megmagyarázhatóság: honnan származik a generált információ?

A fő kihívás a ChatGPT kimenetelének azonosításában az, hogy nem rendelkezik egy egyértelmű információforrással. Ellentétben más MI alapú személyi asszisztensekkel, amilyen a Siri vagy az Alexa, melyek internetes keresőmotorok segítségével keresik a választ, a ChatGPT-t úgy tanították, hogy a mondatokat a következő, statisztikailag valószínű nyelvi egységre vonatkozó találgatások sorozatával alkossa meg. Emiatt nevezik az LLM-eket néha „sztochasztikus papagájoknak” is.

A tudományos kutatások során minden információ megbízhatóságát annak forrása alapján határozzák meg. Egyes nyelvi modellek, több különböző forrást szintetizálnak annak érdekében, hogy megadjanak egyetlen választ. Ezek a rendszerek különböző megbízhatósági szinteket rendelhetnek a különböző forrásokhoz azok reputációja alapján. Például, ha az információ megkérdőjelezhető forrásból származik módosíthatják válaszukat oly módon, hogy a felmerült kételyt kifejezzék, vagy több lehetséges választ is bemutathatnak, ha a különböző források nem értenek egyet egy bizonyos témában. Érdemes lehet megfontolni ezeknek a típusú modelleknek a használatát egy-egy speciálisabb téma során.

„A megmagyarázhatóság kritériuma nélkülözhetetlen lesz, hiszen abban az esetben, ha az eredmény megkérdőjelezhető, az lehetővé teszi az információ befogadója számára, hogy felmérje a kontextust, és betekintést nyerjen a további feltételezésekbe, vagy az alkalmazott logikába.” – mondta Puskás Attila, a Deloitte Kockázatkezelési Tanácsadás Vezető Tanácsadója.

Ennek hiánya többek között a képgenerátorokat is érinti. A szintetikus, szöveget képpé alakító programok az interneten elérhető képekből tanulnak. Egy vizuális médiával foglalkozó cég beperelte az egyik MI eszköz létrehozóit, amiért megfelelő engedély nélkül használták fel képeiket. Művészek egy csoportja korábban a szerzői jogok megsértéseként értékelt, ezért bojkottált egy MI által generált képeket tartalmazó alkalmazást, mivel az MI egy valós művész stílusát utánzó képeket generált. Bár a jogi kihívások összetettek, az MI által generált műalkotások inspirációforrásának azonosítása – tehát annak a forrásnak, ahonnan az MI nagyrészben másolta a meglévő műalkotást, lehetővé teszi a pénzügyi kompenzációt és elszámolást.

Előítélet: mi történik, ha „rossz” forrásból tanul a rendszer?

Ha a modellt nagy volumenű, szöveget és képeket tartalmazó adathalmazon tanítják, akkor a modell természetesen megismétli a forrásban található torzításokat. Ez gyakorlatban azt jelenti, ha a felhasznált tanító adathalmaz pl. egy arcfelismerő rendszer esetében felül-reprezentált egy adott etnikai csoport tekintetében, akkor megvan a kockázata annak, hogy más csoportokat nem fog sikeresen felismerni, tehát elfogult lesz a tanító adatban szignifikánsan megjelenő mintákkal szemben – ez pedig igazságtalan kimenetet eredményezhet.

Bár a ChatGPT tartalommoderálási korlátokat alkalmaz a szexuális, gyűlöletkeltő, erőszakos vagy káros tartalmak generálásának megelőzése érdekében, ezeket a beépített szűrőket könnyű megkerülni az utasítások átfogalmazásával. A Galactica, a ChatGPT elődje pl. 3 nap után állt le, mert hamis és rasszista tartalmakat generált. Sok munkát kell még elvégezni ahhoz, hogy a tanításra használt adatokban a torzításokat azonosítani és csökkenteni lehessen – nemcsak a generatív MI esetében, hanem az MI összességében. Egyes tudósok a tanításhoz használt adatok gondos összegyűjtése mellett érveltek a hatalmas mennyiségű és könnyen elérhető internetes források használata helyett.

Összességében a generatív MI népszerűségének növekedése következtében jelentkező potenciális kockázatokat és etikai megfontolásokat teljes mértékben figyelembe kell vennie az ilyen modellt implementálni kívánó vállalkozásnak. Ezeknek a technológiáknak új, izgalmas alkalmazási lehetőségei vannak, fontos azonban ezeket a lépéseket összhangba hozni és arányosan mérlegelni a felmerült kockázatokkal, elszámoltathatósággal és az esetleges visszaélésekkel, mert így lehet korlátozni az előre nem látható negatív hatásokat.

„Átgondolt kockázatkezelésre és irányításra van szükség ahhoz, hogy biztonságosan és magabiztosan lehessen használni a generatív MI innovációit. A generatív MI kockázatait az olyan klasszikus vállalati kockázati tényezőkkel, amilyen a működési, adatvédelmi, jogi, vagy technológiai kockázat is, együtt kell azonosítani és értékelni, annak biztosítása érdekében, hogy a maradványkockázatok ne jelentsenek fenyegetést se a vállalati működésre, se a társadalomra vagy a környezetre.” – mondta Barta Gergő.

Bitcoin kripto hírek: bálnák mozdulnak és 65 000 BTC felhalmozása zajlik

Bálnák mozdulnak: 65 000 BTC felhalmozása egy hét alatt új korszakot jelez a Bitcoin piacán. A Bitcoin piac újra éledezik, és nem akárkik miatt: a közepes méretű „kriptobálnák” az elmúlt héten elképesztő mennyiségű, 65 000 BTC-t vásároltak fel – ez a lépés nemcsak trendet jelez, hanem potenciálisan erőteljes árfolyammozgásokat is előrevetít. Mi áll a színfalak mögött, és mit jelent ez a piac egészére nézve?
2025. 09. 11. 18:00
Megosztás:

Hibákat és hiányosságokat találtak több kisállat-kereskedésben

Kisállat-kereskedéseket vizsgált a Nemzeti Élelmiszerlánc-biztonsági Hivatal (Nébih); azonnali hatósági intézkedést indokló problémát nem találtak, azonban két üzlettel szemben eljárást indítottak állatgyógyászati készítmények engedély nélküli forgalmazása miatt, 10 kereskedésben pedig egyéb hibák és hiányosságok miatt intézkedtek - közölte a Nébih csütörtökön az MTI-vel.
2025. 09. 11. 17:30
Megosztás:

Hétfőnként indultak a magyarok Horvátország felé

Vir volt az idei nyári főszezon abszolút sztárja a Horvátországba utazó magyarok körében a Szallas.hu foglalási adatai szerint. A vendégek jellemzően az utazás előtt legalább 3 hónappal foglalták le szállásukat nyaralásukhoz, és a legtöbben hétfői napon érkeztek. A legkeresettebb úti célokban nem volt vita: Vir mellett Crikvenica és Selce volt idén a legvonzóbb desztináció. A családok többsége 370 ezer forintnál többet, a párok zöme 70–270 ezer forintot költött szállásra a portál adatai szerint.
2025. 09. 11. 17:00
Megosztás:

Az Auchan és a Tesco is kedvezményeket ad a nyugdíjas utalványok beváltásánál

Az Auchan és a Tesco is kedvezményeket ad a nyugdíjas élelmiszer-utalványok beváltásánál - közölték az áruházláncok az MTI-vel.
2025. 09. 11. 16:30
Megosztás:

Az EKB változatlanul hagyta az irányadó kamatlábakat

Az Európai Központi Bank (EKB) Kormányzótanácsa csütörtöki ülésén a piaci várakozásoknak megfelelően nem változtatott a három irányadó eurókamat szintjén.
2025. 09. 11. 16:00
Megosztás:

Az Avalanche alapítvány 1 milliárd dolláros amerikai tőzsdei áttörésre készül

Új korszak a kriptó és Wall Street határán: az Avalanche blokklánc-hálózat most nem játékra készül – hanem komoly pénzre. Egy közelgő, összesen 1 milliárd dolláros amerikai pénzügyi manőverrel a hálózat történelmi mérföldkőhöz érkezik. A cél: a digitális eszközök egyik legerősebb treasury-jének (kincstári alapjának) felépítése, komoly intézményi háttérrel. A kriptovilág és a Wall Street határai sosem voltak még ennyire elmosódottak.
2025. 09. 11. 15:30
Megosztás:

A Kyndryl felmérése szerint a mainframe‑modernizációs projektek 2–3‑szoros befektetés‑arányos megtérülést biztosítanak

A Kyndryl (NYSE: KD), a küldetéskritikus vállalati technológiai szolgáltatások vezető globális szereplője, ma közzétette immár harmadik alkalommal publikált State of Mainframe Modernization felmérésének eredményeit. A kutatás bemutatja, miként alakítják át a vállalatok a mainframe-rendszerek szerepét a gyorsan változó digitális környezetben. Az eredmények szerint a szervezetek egyre inkább rugalmas modernizációs stratégiákat alkalmaznak, nagyléptékben építik be a mesterséges intelligenciát, és megduplázzák a mainframe használatát a hibrid IT‑környezetekben – mindezt a szakemberhiány és a szigorodó szabályozói elvárások közepette.
2025. 09. 11. 15:00
Megosztás:

Lakásvásárlás önerő nélkül - nem könnyű, de lehetséges

Bár általánosan elterjedt vélekedés, hogy lakásvásárlás csak önerővel lehetséges, a szabályozás ezt nem zárja ki – hívta fel a figyelmet Vincze Krisztián, a GV Hitelközpont vezetője. A Magyar Nemzeti Bank rendelete szerint a hitelezés felső határa forintalapú jelzáloghitelek esetén a fedezet forgalmi értékének 80 százaléka, de megfelelő pótfedezet – például egy másik ingatlan – bevonásával önerő nélkül is finanszírozható a vételár. Bizonyos esetekben – első lakás vagy energiahatékony ingatlan – akár pótfedezet nélkül is nyújtható 90 százalékos hitel. A szakértő tapasztalt pénzügyi tanácsadó bevonását javasolja.
2025. 09. 11. 14:30
Megosztás:

Blokklánc technológia és okosszerződések forradalmasítják a globális vagyonkezelést

Chainlink, UBS és DigiFT együttműködése új korszakot nyit: a blokklánc-technológia már nem csak a kriptovaluták terepe – most a hagyományos pénzügyi szektor egyik legfontosabb pillérére, a vagyonkezelésre is kiterjeszti hatását.
2025. 09. 11. 14:00
Megosztás:

Dogecoin árfolyama szárnyal, Bitcoin pedig lőhet 120 ezer felé

A kriptopiac újra lendületet vett: a Dogecoin vezeti az emelkedést, miközben a Bitcoin 114 ezer dollár közelében jár. Egy friss elemzés szerint a Bitcoin jelenleg alulértékelt az amerikai pénzkínálathoz képest – ez a minta pedig korábban már többször is erőteljes ralit előzött meg. Megnéztük, mit jelent ez a befektetők számára, és milyen szintekre érdemes most figyelni.
2025. 09. 11. 13:30
Megosztás:

30.000 Ft nyugdíjas utalvány DUPLÁZHATÓ, így lesz belőle 60.000 Ft

Mint ismeretes, a nyugdíjasok 30 000 forintos egyszeri támogatást kapnak az államtól élelmiszer-utalványok formájában. Az Auchanban az utalványok összegével megegyező Bizalompont jóváírásokat kaphatnak a vásárlók, ha élnek az Auchan november végéig tartó ajánlatával, és okosan vásárolják le az utalványokat, amivel így akár meg is duplázhatják azok értékét.
2025. 09. 11. 13:00
Megosztás:

Szoftver szolgáltatók a modern online játék világában

Az online kaszinók sikere nagyban függ a választott szoftverfejlesztőktől, akik a játékélményt biztosítják. A Novomatic, BGaming és Gamzix három olyan szolgáltató, amelyek különböző megközelítéssel és stratégiával vannak jelen a piacon.
2025. 09. 11. 12:58
Megosztás:

A faktorálás pszichológiája, avagy miért félünk attól, ami segíthet?

A vállalkozói világban sok döntés adatokon, elemzéseken alapul, de az emberi tényezőt nem lehet kizárni. Például egy pénzügyi megoldás, mondjuk a faktorálás, lehet technikailag előnyös, mégis ellenállást válthat ki. Ennek oka sokszor nem a kondíciókban keresendő, hanem pszichológiai háttere van. Egy cégvezető számára a kintlévőségek kezelése a pénzügyi kontroll egyik legfontosabb eleme. Így érthető, ha nehezen engedi ki a kezéből – még akkor is, ha azzal gyorsabbá és biztonságosabbá tehetné a működést.
2025. 09. 11. 12:30
Megosztás:

Sokkoló adatok az USA-ból!

A tegnapi termelői árindex nem várt, jelentős csökkenése hatalmas meglepetés volt a piacok számára, a mai inflációs adatok előtt. Csak emlékeztetőül, a várt 3,3 százalékkal szemben 2,6 lett az augusztusi érték - olvashatjuk az ERSTE elemzői anyagában.
2025. 09. 11. 12:00
Megosztás:

Az INA visszakaphatja szíriai eszközeit

A szír külügyminiszter, Asaad Hasan al-Shaybani és a horvát külügyminiszter, Gordan Radman tegnap közös sajtótájékoztatót tartott, ahol megerősítették a diplomáciai kapcsolatok újraindítását.
2025. 09. 11. 11:30
Megosztás:

A Magyar Bankszövetség több tagja az Alkotmánybírósághoz fordult a lakossági kamatstop meghosszabbítása miatt

A Magyar Bankszövetség több tagja az Alkotmánybírósághoz fordult, hogy állapítsa meg a lakossági kamatstopként ismert szabályozás ismételt meghosszabbításának alaptörvény-ellenességét - erősítette meg csütörtöki közleményében a szövetség.
2025. 09. 11. 11:00
Megosztás:

Fellendítheti a lakáshitelezést az Otthon Start a pénzügyi közvetítők szerint

Az Otthon Start Program az ingatlanpiac mellett a lakáshitelezést is fellendítheti, így az éves szinten mintegy 1600 milliárd forintra becsült kihelyezési volumen 250 milliárd forinttal gyarapodhat - közölte a Független Pénzügyi Közvetítők Szövetsége szerdán az MTI-vel.
2025. 09. 11. 10:30
Megosztás:

Estek a fejlett piaci hozamok, háborús hírekre estek a régiós devizák

Nem sokáig tartott a közelmúltbeli hozamesés utáni korrekció az amerikai kötvénypiacon.
2025. 09. 11. 09:30
Megosztás:

Az Oracle 36%-os ugrása felhúzta az AI cégeket, csúcson zárt az S&P és a Nasdaq

Az S&P 500 és a Nasdaq szerdán történelmi csúcson zárt, az előbbi 0,3%-os, az utóbbi elhanyagolható emelkedéssel.
2025. 09. 11. 09:00
Megosztás:

Az európai kiskereskedelem emelkedése ellensúlyozta a visszaeső tech szektort

A szerdai kereskedésben az európai részvénypiacok stagnáltak, miután a spanyol Inditex (a Zara anyavállalata) erős teljesítménye nem tudta ellensúlyozni a technológiai szektor visszaesését.
2025. 09. 11. 08:35
Megosztás: