Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

Az utóbbi időszakban különösen nagy figyelmet kapott a különféle mesterséges intelligencia modellek nagyközönség számára való elindítása. A generatív mesterséges intelligencia használatával kapcsolatos potenciális kockázatok megnövekedtek, különösen a szerzői jogi kérdések területén, de az ilyen eszközöket alkalmazó vállalatoknak olyan kockázatokra is komoly figyelmet kell fordítaniuk, mint a rendszer-kimenetek helyessége és megmagyarázhatósága, vagy a negatív előítéletek kiszűrése.

Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

A ChatGPT (társalgási nyelvi-rendszer) és a DALL-E (szöveget képpé alakító alkalmazás) elindításával a generatív mesterséges intelligencia (MI) különösen nagy figyelmet kap, és egyre népszerűbb. A generatív MI gépi tanulást használ új tartalmak, pl. szövegek, képek, programkódok, költemények vagy grafikák, előállításához. A legtöbb munkavállaló attól tart, hogy a DALL-E átalakíthatja a hirdetések, a filmkészítés, valamint a játékok világát, a ChatGPT pedig munkahelyeket válthat ki tartalom- és szöveggyártás, oktatás, szoftverfejlesztés és újságírás bizonyos területein.

„Ezek az aggodalmak nem alaptalanok, de nem is ennyire fekete-fehér a történet: a munkahelyek biztosan átalakulóban vannak, azonban továbbra is versenyben marad az, aki megtanulja az MI eszközöket jól és az előnyére használni, együtt élni velük, jól alkalmazni azokat munkájában, saját területén – aki az új eszközökkel együtt tud dolgozni, nem nélkülözhetetlen, hanem keresett szakember lesz.” – mondta Dr. Barta Gergő, a Deloitte Vezető MI szakértője.

Vannak vállalatok, melyek a szerzői jogok megsértésével kapcsolatos aggályok és felelősségek miatt nem engedélyezik az MI által létrehozott tartalmak felhasználását. Számos, stock-fotót gyűjtő platform pedig a művészek és fotósok kérésére MI által létrehozott képek használatát tiltotta be . A ChatGPT alkalmazásának terjedésével megnőtt az oktatásban a plágium kockázata, ezért bizonyos városok állami iskoláiban tilos a nyelvi modell használata.

Bizonytalanság az MI-ben: mennyire lehetünk benne biztosak, hogy helyes a kimenet?

Mit nevezünk kimenetnek? Amikor egy feltett kérdésre választ adunk, gyakran kezdjük mondatunkat azzal, hogy „Nem vagyok biztos benne, de…”, vagy „Ez csak egy sejtés, de…” – attól függően, hogy mennyire vagyunk biztosak válaszunk helyességében. Ezzel szemben a ChatGPT gyakran szabadkozás nélkül kimenetet produkál. A ChatGPT korlátait sorolva az Open AI így fogalmaz: „A ChatGPT néha hihetően hangzó, ugyanakkor helytelen válaszokat ad.” Egy kódolással foglalkozó Q&A platform éppen ezért tiltotta be a ChatGPT használatát: „A ChatGPT által generált válaszok közzététele kifejezetten káros az oldalra nézve… mivel ezen válaszok jónak tűnhetnek, mégis nagy arányban tévesek”. Több olyan esetről is tudunk, amikor a ChatGPT nevetséges hibát vétett a matematika és a logika területein, előfordult, hogy az algebrai jelöléseket használta rosszul, illetve olyan területeken, amilyen pl. a sakk is, ahol a számítógépek köztudottan képesek felülmúlni az emberi teljesítményt, a ChatGPT irracionális lépéseket hajtott végre, tökéletes pókerarccal.

A chatbot hamis önbizalmán keresztül megnő a téves információ terjesztésének, a félretájékoztatásnak a kockázata. A ChatGPT információs oldala kifejti, hogy ez kihívást jelent, mivel „jelenleg a biztonságos információforrás nem áll rendelkezésre” és „ha a modellt nagyobb óvatosságra tanítják, elutasíthatja azoknak a kérdések megválaszolását, amelyekre egyébként helyesen tudna válaszolni”.

„Ugyan tesztelési célokból érdemes lehet inkább helytelenül megválaszolni egy kérdést, mint a választ megtagadni, valós helyzetben történő alkalmazás esetén a rossz válasz nagyobb károkkal és költségekkel járhat, mint a semmilyen válasz. Az elővigyázatosság szükséges mértéke téma- és feladatkörönként eltérő lehet. Annak érdekében, hogy a felhasználók megbízhassanak a generált szöveg tartalmában, a létrehozott szöveg nem lehet egyformán magabiztos minden témában. Az olyan nagy nyelvi modelleknek – Large Language Models, LLM – , amilyen a ChatGPT is, jelenlegi formájukban fontolóra kellene venniük, hogy tisztázó kérdéseket tegyenek fel, ismerjék fel a tudásbázisuk korlátait, kis mértékű bizonyossággal adják meg a válaszokat és adott esetben egy egyszerű „nem tudom a választ” szöveggel térjenek vissza.” – mondta Barta Gergő.

Megmagyarázhatóság: honnan származik a generált információ?

A fő kihívás a ChatGPT kimenetelének azonosításában az, hogy nem rendelkezik egy egyértelmű információforrással. Ellentétben más MI alapú személyi asszisztensekkel, amilyen a Siri vagy az Alexa, melyek internetes keresőmotorok segítségével keresik a választ, a ChatGPT-t úgy tanították, hogy a mondatokat a következő, statisztikailag valószínű nyelvi egységre vonatkozó találgatások sorozatával alkossa meg. Emiatt nevezik az LLM-eket néha „sztochasztikus papagájoknak” is.

A tudományos kutatások során minden információ megbízhatóságát annak forrása alapján határozzák meg. Egyes nyelvi modellek, több különböző forrást szintetizálnak annak érdekében, hogy megadjanak egyetlen választ. Ezek a rendszerek különböző megbízhatósági szinteket rendelhetnek a különböző forrásokhoz azok reputációja alapján. Például, ha az információ megkérdőjelezhető forrásból származik módosíthatják válaszukat oly módon, hogy a felmerült kételyt kifejezzék, vagy több lehetséges választ is bemutathatnak, ha a különböző források nem értenek egyet egy bizonyos témában. Érdemes lehet megfontolni ezeknek a típusú modelleknek a használatát egy-egy speciálisabb téma során.

„A megmagyarázhatóság kritériuma nélkülözhetetlen lesz, hiszen abban az esetben, ha az eredmény megkérdőjelezhető, az lehetővé teszi az információ befogadója számára, hogy felmérje a kontextust, és betekintést nyerjen a további feltételezésekbe, vagy az alkalmazott logikába.” – mondta Puskás Attila, a Deloitte Kockázatkezelési Tanácsadás Vezető Tanácsadója.

Ennek hiánya többek között a képgenerátorokat is érinti. A szintetikus, szöveget képpé alakító programok az interneten elérhető képekből tanulnak. Egy vizuális médiával foglalkozó cég beperelte az egyik MI eszköz létrehozóit, amiért megfelelő engedély nélkül használták fel képeiket. Művészek egy csoportja korábban a szerzői jogok megsértéseként értékelt, ezért bojkottált egy MI által generált képeket tartalmazó alkalmazást, mivel az MI egy valós művész stílusát utánzó képeket generált. Bár a jogi kihívások összetettek, az MI által generált műalkotások inspirációforrásának azonosítása – tehát annak a forrásnak, ahonnan az MI nagyrészben másolta a meglévő műalkotást, lehetővé teszi a pénzügyi kompenzációt és elszámolást.

Előítélet: mi történik, ha „rossz” forrásból tanul a rendszer?

Ha a modellt nagy volumenű, szöveget és képeket tartalmazó adathalmazon tanítják, akkor a modell természetesen megismétli a forrásban található torzításokat. Ez gyakorlatban azt jelenti, ha a felhasznált tanító adathalmaz pl. egy arcfelismerő rendszer esetében felül-reprezentált egy adott etnikai csoport tekintetében, akkor megvan a kockázata annak, hogy más csoportokat nem fog sikeresen felismerni, tehát elfogult lesz a tanító adatban szignifikánsan megjelenő mintákkal szemben – ez pedig igazságtalan kimenetet eredményezhet.

Bár a ChatGPT tartalommoderálási korlátokat alkalmaz a szexuális, gyűlöletkeltő, erőszakos vagy káros tartalmak generálásának megelőzése érdekében, ezeket a beépített szűrőket könnyű megkerülni az utasítások átfogalmazásával. A Galactica, a ChatGPT elődje pl. 3 nap után állt le, mert hamis és rasszista tartalmakat generált. Sok munkát kell még elvégezni ahhoz, hogy a tanításra használt adatokban a torzításokat azonosítani és csökkenteni lehessen – nemcsak a generatív MI esetében, hanem az MI összességében. Egyes tudósok a tanításhoz használt adatok gondos összegyűjtése mellett érveltek a hatalmas mennyiségű és könnyen elérhető internetes források használata helyett.

Összességében a generatív MI népszerűségének növekedése következtében jelentkező potenciális kockázatokat és etikai megfontolásokat teljes mértékben figyelembe kell vennie az ilyen modellt implementálni kívánó vállalkozásnak. Ezeknek a technológiáknak új, izgalmas alkalmazási lehetőségei vannak, fontos azonban ezeket a lépéseket összhangba hozni és arányosan mérlegelni a felmerült kockázatokkal, elszámoltathatósággal és az esetleges visszaélésekkel, mert így lehet korlátozni az előre nem látható negatív hatásokat.

„Átgondolt kockázatkezelésre és irányításra van szükség ahhoz, hogy biztonságosan és magabiztosan lehessen használni a generatív MI innovációit. A generatív MI kockázatait az olyan klasszikus vállalati kockázati tényezőkkel, amilyen a működési, adatvédelmi, jogi, vagy technológiai kockázat is, együtt kell azonosítani és értékelni, annak biztosítása érdekében, hogy a maradványkockázatok ne jelentsenek fenyegetést se a vállalati működésre, se a társadalomra vagy a környezetre.” – mondta Barta Gergő.

Skót miniszterelnök: eljött az ideje Skócia függetlenné válásának

A skót miniszterelnök szerint eljött az ideje Skócia függetlenné válásának. John Swinney a Skóciában kormányzó Skót Nemzeti Párt (SNP) éves kongresszusának hétfői zárónapján felszólalva közölte azt is, hogy ha Skócia függetlenné válik, eltávolítja területéről a brit nukleáris fegyvereket.
2025. 10. 13. 22:00
Megosztás:

Mi történt a görög iparral?

Augusztusban második hónapja csökkent a görög ipari termelés az egy évvel korábbihoz mérve a görög statisztikai hivatal, az ELSTAT adatai szerint.
2025. 10. 13. 21:30
Megosztás:

Ukrajnában 11,9 százalékra mérséklődött az éves infláció

Ukrajnában 11,9 százalékra mérséklődött a fogyasztói árak éves szintű emelkedésének mértéke szeptemberben az augusztusban jegyzett 13,2 százalékot követően az ukrán statisztikai hivatal adatai szerint. Az ukrán központi bank idén 9,7 százalékos inflációra számít.
2025. 10. 13. 21:00
Megosztás:

Elkezdődött az elektromos motorok gyártása a Mercedes-Benz erdélyi üzemében

Elkezdődött az elektromos motorok gyártása a Mercedes-Benz szászsebesi (Sebes) üzemében - írja az economica.net a vállalat közleménye alapján.
2025. 10. 13. 20:30
Megosztás:

Vegyesen változott hétfő estére a forint árfolyama

Vegyesen alakult a forint árfolyama a főbb devizákkal szemben hétfő estére a reggeli szintekhez képest a nemzetközi devizakereskedelemben.
2025. 10. 13. 20:00
Megosztás:

Gazdaságkutató: nőtt a cégcsődök száma Németországban

Németországban havi és éves szinten is nőtt a cégcsődök száma szeptemberben - derült ki a hallei IWH gazdaságkutató intézet jelentéséből.
2025. 10. 13. 19:00
Megosztás:

Jegybank-alelnök: az MNB mandátumának része a gazdaságpolitika és a fenntarthatósági célok támogatása is

A Magyar Nemzeti Bank (MNB) feladata a kormányzati gazdaságpolitika és a fenntarthatósági célok támogatása anélkül, hogy sérülne az árstabilitás és a pénzügyi stabilitás - mondta Kurali Zoltán, a jegybank alelnöke az MNB podcast műsorában.
2025. 10. 13. 18:30
Megosztás:

Hárman kapták közösen a közgazdasági Nobel-emlékdíjat

"Az innovációvezérelt gazdasági növekedés magyarázatáért" hárman, Joel Mokyr amerikai-izraeli gazdaságtörténész, Philippe Aghion francia és Peter Howitt kanadai közgazdász kapta idén a közgazdaságtudományi Nobel-emlékdíjat a Svéd Tudományos Akadémiától, amely hétfőn jelentette be döntését Stockholmban.
2025. 10. 13. 18:00
Megosztás:

Modern raktártechnikai megoldások: állványrendszerek és acélszerkezetek a hatékony tárolásért

A mai gyorsan változó ipari környezetben a hatékony raktárkezelés nem luxus, hanem versenyelőny. Egy jól megtervezett raktártechnika – amely magában foglalja a raklapos állványokat, előregyártott acélszerkezeteket, valamint galériás és nagyfesztávú rendszereket – nemcsak a tárolási kapacitás növelésében segít, hanem csökkenti a költségeket és javítja a munkabiztonságot is.
2025. 10. 13. 17:30
Megosztás:

Mérséklődött az új építésű lakások áremelkedése a fővárosban

A budapesti új építésű lakások iránt továbbra is élénk az érdeklődés, bár a tavaszi hónapokhoz képest enyhe lassulás látszik – derül ki az ELTINGA legfrissebb, 2025 harmadik negyedévére vonatkozó lakáspiaci jelentéséből. A Duna House kapcsolódó elemzése szerint a kereslet még mindig erős, miközben a kínálat is fokozatosan bővül, ami középtávon stabilizálhatja a piacot.
2025. 10. 13. 17:00
Megosztás:

Sütőipari üzemet függesztett fel a Nébih

A Nemzeti Élelmiszerlánc-biztonsági Hivatal (Nébih) azonnali hatállyal felfüggesztette egy tiszavasvári sütőipari üzem tevékenységét az ott tapasztalt súlyos, élelmiszerbiztonsági kockázatot jelentő higiéniai körülmények miatt, és mintegy 207 kg élelmiszert vontak ki a forgalomból - közölte a hatóság hétfőn az MTI-vel.
2025. 10. 13. 16:30
Megosztás:

A Magyar Állam és az OTP Bank összefogásával indulhat a Gödöllői Királyi Kastély teljes felújítása

A Gödöllői Királyi Kastély építését a XVIII. század egyik legtekintélyesebb magyar főura, Grassalkovich Antal gróf kezdte meg 1735 után. A több évtizedet felölelő fejlesztések révén alakult ki az épület különleges, rendkívül reprezentatív elrendezése, amely a Kelet-Közép-európai barokk kastélyépítészet mintája lett. Vendége volt többek között Mária Terézia, Petőfi Sándor, Kossuth Lajos, leghíresebb lakója azonban Erzsébet királyné, Sisi volt. A II. világháborút követően az épület laktanyaként és szociális otthonként működött, a méltatlan hasznosítási formák a kastély lassú pusztulásához vezettek. Az 1995-ben megkezdett részleges felújítás során a Királyi Kastély néhány szobája 1996-ban nyílt meg a nagyközönég előtt, melyet további fejlesztések is követtek, de a történelmi épületegyüttes és a park teljes körű, szakértő rehabilitációja mindeddig elmaradt.
2025. 10. 13. 16:00
Megosztás:

Több száz luxuslakást épít a vezető magyar lakásfejlesztő Spanyolországban - a magyar vevőkre is céloznak

Az ünnepélyes alapkőletétellel megkezdte új, exkluzív spanyolországi fejlesztésének építési munkálatait Magyarország vezető lakóingatlan-fejlesztője, a Cordia. A több ütemben megvalósuló, több mint 500 lakásos 360° by Cordia elnevezésű, prémium kategóriás fejlesztés az andalúziai tengerparton kínál otthonokat, páratlan, Afrikáig elnyúló panorámás kilátással és magas szintű szolgáltatásokkal.
2025. 10. 13. 15:30
Megosztás:

Októberben egy napig ismét látogatható lesz a Tungsram gyár

Bár 2023-ban váratlanul lezárult a Váci úti Tungsram gyár 125 éves története, az idei Budapest Design Week alkalmából újra megnyílnak az ikonikus épületegyüttes kapui. Október 17-én az érdeklődők pop-up kiállításon és szakértői beszélgetéseken keresztül fedezhetik fel a több mint egy évszázados ipari örökséget. A program során a szervezők arra keresik a választ, miként lehet a terület értékeit felhasználva fenntartható és társadalmilag befogadó városi környezetet kialakítani.
2025. 10. 13. 15:00
Megosztás:

Horgold meg saját őszi dekorációd!

Az ősz közeledte mindig változást hoz az életünkbe, ilyenkor a természet színpompája is lenyűgöző. Mi lehetne jobb módszer arra, hogy otthonodat feldobd, mint egy kreatív hobbi, amely szórakoztat és gyönyörű díszeket eredményezhet?
2025. 10. 13. 14:00
Megosztás:

Fix 3%-os hitel szülői segítséggel: 15 év eltérés is lehet a maximális futamidőben

Miközben egyre több fiatal számára szükséges szülei támogatása az első lakás megvásárlásánál, kevesen tudják: a bankok között több mint 15 év különbség is lehet a maximális futamidőben attól függően, hány évesek a szülők. Egy 50 és egy 60 éves szülő segítségével az egyik banknál 24, másiknál csupán 9 év futamidőre vehető fel az Otthon Start Program keretében nyújtott Fix 3 százalékos lakáshitel - derül ki money.hu szakértői elemzésből.
2025. 10. 13. 13:30
Megosztás:

Stabilcoinokkal gyorsítja fel a Visa Direct a nemzetközi pénzügyi műveleteket

A Visa a nemzetközi pénzügyi szektor kiemelt eseményén, a SIBOS 2025 konferencián bejelentette: a Visa Direct szolgáltatáson keresztül stablecoin-alapú előfinanszírozási pilotot indít, amely új lehetőséget kínál a nemzetközi pénzmozgások területén, elősegítve a likviditást és modernizálva a treasury műveleteket a digitális gazdaság igényeinek megfelelően. A fejlesztéssel a nemzetközi kifizetések finanszírozása hamarosan gyorsabbá, intelligensebbé és rugalmasabbá válhat a vállalatok számára.
2025. 10. 13. 13:00
Megosztás:

Új korszak jön: nyilvánosak lesznek a fizetések az álláshirdetésekben

Az Európai Unió bértranszparencia- irányelve a 2026. június 7-től kötelezővé teszi a bérek átláthatóságát a tagállamokban. Ez azt jelenti, hogy a vállalatoknak fel kell készülniük a bérsávok nyilvánosságra hozatalára és a munkavállalói bérinformációs kérelmek kezelésére.
2025. 10. 13. 12:30
Megosztás:

Új korszak jön: nyilvánosak lesznek a fizetések az álláshirdetésekben

Az Európai Unió bértranszparencia- irányelve a 2026. június 7-től kötelezővé teszi a bérek átláthatóságát a tagállamokban. Ez azt jelenti, hogy a vállalatoknak fel kell készülniük a bérsávok nyilvánosságra hozatalára és a munkavállalói bérinformációs kérelmek kezelésére.
2025. 10. 13. 12:30
Megosztás:

Hogyan segíthetjük a gyerekek önállósodását a digitális világban?

Szülőként gyakran felmerül bennünk a kérdés, hogyan nevelhetnénk gyerekeinket önállóságra ebben a technológia által átszőtt világban. A digitális eszközök használata már a legkisebbek életének is része lett, és felelősségünk, hogy megtaláljuk az egyensúlyt a képernyőidő és a valódi élmények között.
2025. 10. 13. 12:00
Megosztás: