Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

Az utóbbi időszakban különösen nagy figyelmet kapott a különféle mesterséges intelligencia modellek nagyközönség számára való elindítása. A generatív mesterséges intelligencia használatával kapcsolatos potenciális kockázatok megnövekedtek, különösen a szerzői jogi kérdések területén, de az ilyen eszközöket alkalmazó vállalatoknak olyan kockázatokra is komoly figyelmet kell fordítaniuk, mint a rendszer-kimenetek helyessége és megmagyarázhatósága, vagy a negatív előítéletek kiszűrése.

Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

A ChatGPT (társalgási nyelvi-rendszer) és a DALL-E (szöveget képpé alakító alkalmazás) elindításával a generatív mesterséges intelligencia (MI) különösen nagy figyelmet kap, és egyre népszerűbb. A generatív MI gépi tanulást használ új tartalmak, pl. szövegek, képek, programkódok, költemények vagy grafikák, előállításához. A legtöbb munkavállaló attól tart, hogy a DALL-E átalakíthatja a hirdetések, a filmkészítés, valamint a játékok világát, a ChatGPT pedig munkahelyeket válthat ki tartalom- és szöveggyártás, oktatás, szoftverfejlesztés és újságírás bizonyos területein.

„Ezek az aggodalmak nem alaptalanok, de nem is ennyire fekete-fehér a történet: a munkahelyek biztosan átalakulóban vannak, azonban továbbra is versenyben marad az, aki megtanulja az MI eszközöket jól és az előnyére használni, együtt élni velük, jól alkalmazni azokat munkájában, saját területén – aki az új eszközökkel együtt tud dolgozni, nem nélkülözhetetlen, hanem keresett szakember lesz.” – mondta Dr. Barta Gergő, a Deloitte Vezető MI szakértője.

Vannak vállalatok, melyek a szerzői jogok megsértésével kapcsolatos aggályok és felelősségek miatt nem engedélyezik az MI által létrehozott tartalmak felhasználását. Számos, stock-fotót gyűjtő platform pedig a művészek és fotósok kérésére MI által létrehozott képek használatát tiltotta be . A ChatGPT alkalmazásának terjedésével megnőtt az oktatásban a plágium kockázata, ezért bizonyos városok állami iskoláiban tilos a nyelvi modell használata.

Bizonytalanság az MI-ben: mennyire lehetünk benne biztosak, hogy helyes a kimenet?

Mit nevezünk kimenetnek? Amikor egy feltett kérdésre választ adunk, gyakran kezdjük mondatunkat azzal, hogy „Nem vagyok biztos benne, de…”, vagy „Ez csak egy sejtés, de…” – attól függően, hogy mennyire vagyunk biztosak válaszunk helyességében. Ezzel szemben a ChatGPT gyakran szabadkozás nélkül kimenetet produkál. A ChatGPT korlátait sorolva az Open AI így fogalmaz: „A ChatGPT néha hihetően hangzó, ugyanakkor helytelen válaszokat ad.” Egy kódolással foglalkozó Q&A platform éppen ezért tiltotta be a ChatGPT használatát: „A ChatGPT által generált válaszok közzététele kifejezetten káros az oldalra nézve… mivel ezen válaszok jónak tűnhetnek, mégis nagy arányban tévesek”. Több olyan esetről is tudunk, amikor a ChatGPT nevetséges hibát vétett a matematika és a logika területein, előfordult, hogy az algebrai jelöléseket használta rosszul, illetve olyan területeken, amilyen pl. a sakk is, ahol a számítógépek köztudottan képesek felülmúlni az emberi teljesítményt, a ChatGPT irracionális lépéseket hajtott végre, tökéletes pókerarccal.

A chatbot hamis önbizalmán keresztül megnő a téves információ terjesztésének, a félretájékoztatásnak a kockázata. A ChatGPT információs oldala kifejti, hogy ez kihívást jelent, mivel „jelenleg a biztonságos információforrás nem áll rendelkezésre” és „ha a modellt nagyobb óvatosságra tanítják, elutasíthatja azoknak a kérdések megválaszolását, amelyekre egyébként helyesen tudna válaszolni”.

„Ugyan tesztelési célokból érdemes lehet inkább helytelenül megválaszolni egy kérdést, mint a választ megtagadni, valós helyzetben történő alkalmazás esetén a rossz válasz nagyobb károkkal és költségekkel járhat, mint a semmilyen válasz. Az elővigyázatosság szükséges mértéke téma- és feladatkörönként eltérő lehet. Annak érdekében, hogy a felhasználók megbízhassanak a generált szöveg tartalmában, a létrehozott szöveg nem lehet egyformán magabiztos minden témában. Az olyan nagy nyelvi modelleknek – Large Language Models, LLM – , amilyen a ChatGPT is, jelenlegi formájukban fontolóra kellene venniük, hogy tisztázó kérdéseket tegyenek fel, ismerjék fel a tudásbázisuk korlátait, kis mértékű bizonyossággal adják meg a válaszokat és adott esetben egy egyszerű „nem tudom a választ” szöveggel térjenek vissza.” – mondta Barta Gergő.

Megmagyarázhatóság: honnan származik a generált információ?

A fő kihívás a ChatGPT kimenetelének azonosításában az, hogy nem rendelkezik egy egyértelmű információforrással. Ellentétben más MI alapú személyi asszisztensekkel, amilyen a Siri vagy az Alexa, melyek internetes keresőmotorok segítségével keresik a választ, a ChatGPT-t úgy tanították, hogy a mondatokat a következő, statisztikailag valószínű nyelvi egységre vonatkozó találgatások sorozatával alkossa meg. Emiatt nevezik az LLM-eket néha „sztochasztikus papagájoknak” is.

A tudományos kutatások során minden információ megbízhatóságát annak forrása alapján határozzák meg. Egyes nyelvi modellek, több különböző forrást szintetizálnak annak érdekében, hogy megadjanak egyetlen választ. Ezek a rendszerek különböző megbízhatósági szinteket rendelhetnek a különböző forrásokhoz azok reputációja alapján. Például, ha az információ megkérdőjelezhető forrásból származik módosíthatják válaszukat oly módon, hogy a felmerült kételyt kifejezzék, vagy több lehetséges választ is bemutathatnak, ha a különböző források nem értenek egyet egy bizonyos témában. Érdemes lehet megfontolni ezeknek a típusú modelleknek a használatát egy-egy speciálisabb téma során.

„A megmagyarázhatóság kritériuma nélkülözhetetlen lesz, hiszen abban az esetben, ha az eredmény megkérdőjelezhető, az lehetővé teszi az információ befogadója számára, hogy felmérje a kontextust, és betekintést nyerjen a további feltételezésekbe, vagy az alkalmazott logikába.” – mondta Puskás Attila, a Deloitte Kockázatkezelési Tanácsadás Vezető Tanácsadója.

Ennek hiánya többek között a képgenerátorokat is érinti. A szintetikus, szöveget képpé alakító programok az interneten elérhető képekből tanulnak. Egy vizuális médiával foglalkozó cég beperelte az egyik MI eszköz létrehozóit, amiért megfelelő engedély nélkül használták fel képeiket. Művészek egy csoportja korábban a szerzői jogok megsértéseként értékelt, ezért bojkottált egy MI által generált képeket tartalmazó alkalmazást, mivel az MI egy valós művész stílusát utánzó képeket generált. Bár a jogi kihívások összetettek, az MI által generált műalkotások inspirációforrásának azonosítása – tehát annak a forrásnak, ahonnan az MI nagyrészben másolta a meglévő műalkotást, lehetővé teszi a pénzügyi kompenzációt és elszámolást.

Előítélet: mi történik, ha „rossz” forrásból tanul a rendszer?

Ha a modellt nagy volumenű, szöveget és képeket tartalmazó adathalmazon tanítják, akkor a modell természetesen megismétli a forrásban található torzításokat. Ez gyakorlatban azt jelenti, ha a felhasznált tanító adathalmaz pl. egy arcfelismerő rendszer esetében felül-reprezentált egy adott etnikai csoport tekintetében, akkor megvan a kockázata annak, hogy más csoportokat nem fog sikeresen felismerni, tehát elfogult lesz a tanító adatban szignifikánsan megjelenő mintákkal szemben – ez pedig igazságtalan kimenetet eredményezhet.

Bár a ChatGPT tartalommoderálási korlátokat alkalmaz a szexuális, gyűlöletkeltő, erőszakos vagy káros tartalmak generálásának megelőzése érdekében, ezeket a beépített szűrőket könnyű megkerülni az utasítások átfogalmazásával. A Galactica, a ChatGPT elődje pl. 3 nap után állt le, mert hamis és rasszista tartalmakat generált. Sok munkát kell még elvégezni ahhoz, hogy a tanításra használt adatokban a torzításokat azonosítani és csökkenteni lehessen – nemcsak a generatív MI esetében, hanem az MI összességében. Egyes tudósok a tanításhoz használt adatok gondos összegyűjtése mellett érveltek a hatalmas mennyiségű és könnyen elérhető internetes források használata helyett.

Összességében a generatív MI népszerűségének növekedése következtében jelentkező potenciális kockázatokat és etikai megfontolásokat teljes mértékben figyelembe kell vennie az ilyen modellt implementálni kívánó vállalkozásnak. Ezeknek a technológiáknak új, izgalmas alkalmazási lehetőségei vannak, fontos azonban ezeket a lépéseket összhangba hozni és arányosan mérlegelni a felmerült kockázatokkal, elszámoltathatósággal és az esetleges visszaélésekkel, mert így lehet korlátozni az előre nem látható negatív hatásokat.

„Átgondolt kockázatkezelésre és irányításra van szükség ahhoz, hogy biztonságosan és magabiztosan lehessen használni a generatív MI innovációit. A generatív MI kockázatait az olyan klasszikus vállalati kockázati tényezőkkel, amilyen a működési, adatvédelmi, jogi, vagy technológiai kockázat is, együtt kell azonosítani és értékelni, annak biztosítása érdekében, hogy a maradványkockázatok ne jelentsenek fenyegetést se a vállalati működésre, se a társadalomra vagy a környezetre.” – mondta Barta Gergő.

A magyarok egy kis része havonta egyszer sem takarít

A magyarok több mint 80 százaléka hetente legalább egyszer takarítja lakását, ezen belül 40 százalékuk egy héten többször is, míg 17 százalékuk naponta - derül ki a Kärcher megbízásából készült felméréséből, amely kimutatta azt is, hogy az emberek mintegy 5 százaléka még a havi egy takarítást is túlzásnak tartja.
2025. 09. 14. 17:00
Megosztás:

Megújul a fonyódi kikötő

A KÉSZ Csoport leányvállalata, a MA-HARD Hajózási és Vízépítő Kft. nyerte el a fonyódi kikötő modernizációjának kivitelezését, a majdnem 600 millió forintos beruházás keretében teljesen megújul a partfal, korszerűsödik a mólósétány és a világítás, emellett új közösségi tereket, pihenőhelyeket, zöldfelületeket, fasorokat és játszófelületeket is kialakítanak - közölte a MA-HARD Kft. az MTI-vel.
2025. 09. 14. 16:00
Megosztás:

Csoportos adóelkerülési kísérletet leplezett le a NAV

Csoportos adóelkerülési kísérletet leplezett le a Nemzeti Adó- és Vámhivatal (NAV), amikor Borsod-Abaúj-Zemplén vármegyei revizorai kiutalások felülvizsgálatakor felfigyeltek egy gyanúsan gyakran előforduló számlaszámra, amelyre több, egymástól független személy is kérte az általa visszaigényelt összegek átutalását - közölte az adóhatóság vasárnap az MTI-vel.
2025. 09. 14. 15:00
Megosztás:

Kisebb gazdasági növekedésre számít az idén Romániában a Nemzetközi Valutaalap

A Nemzetközi Valutaalap (IMF) arra számít, hogy a román gazdaság teljesítménye az idén 1 százalékkal nő - jelentette be Joong Shik Kang, a pénzügy szervezet romániai missziójának vezetője pénteken Bukarestben sajtótájékoztatón.
2025. 09. 14. 14:00
Megosztás:

Szigorúbb szabályokkal kell megvédeni az európai rizstermesztést

Közös felelősségünk, hogy megőrizzük az európai rizstermelés biztonságát, versenyképességét és fenntarthatóságát, éppen ezért szigorúbb uniós piacvédelmi szabályokra van szükség - jelentette ki az Agrárminisztérium közleménye szerint Nagy István agrárminiszter a Riso Nemzetközi Rizsfesztiválon pénteken, Vercelliben.
2025. 09. 14. 13:30
Megosztás:

Hol lesz a Bitcoin 5 év múlva?

A Bitcoin (CRYPTO: BTC) a nyár folyamán új történelmi csúcsot ért el, 124 457 dolláron, és ezzel együtt a vezető elemzők és iparági szereplők is frissíteni kezdték hosszú távú előrejelzéseiket.
2025. 09. 14. 12:00
Megosztás:

Tokenizált államkötvény jelentése és szerepe a modern pénzügyekben

A digitális forradalom elérte az államkötvényeket is: megjelentek a tokenizált államkötvények. De mit is jelent ez pontosan? Hogyan működik? És miért lehet ez fontos a kriptovaluta-piac jövője szempontjából? Ebben az átfogó, közérthető elemző cikkben mindent elmagyarázunk a tokenizált államkötvényekről – példákkal, analógiákkal és gyakorlati betekintéssel, még azok számára is, akik sosem hallottak még sem a kötvényről, sem a tokenről.
2025. 09. 14. 11:00
Megosztás:

Hová meneküljünk, ha zuhan a kriptó? – A biztonságos kripto-befektetések toplistája medvepiacon

A kriptovaluta piac viharai idején sok befektető pánikszerűen keres menedéket: de vajon mely eszközök számítanak igazán biztonságosnak? A cikkben utánajárunk, hogyan érdemes átrendezni portfóliónkat, ha elindul a lejtmenet – legyen szó stabilcoinokról, aranyról, vagy akár passzív jövedelemtermelő stratégiákról.
2025. 09. 14. 10:00
Megosztás:

Extra védelmet kaphatnak a gyerekek is

A sulikezdés miatt is érdemes megnézni a lakásbiztosítást. Az új tanév kezdetével nemcsak a tanszereket érdemes beszerezni, hanem a család biztonságáról is gondoskodni.
2025. 09. 14. 09:00
Megosztás:

Négy aranyérmet nyertek a magyarok Európa legnagyobb szakmai versenyén

Négy aranyérmet nyertek a magyarok Európa legnagyobb szakmai versenyén, a EuroSkills Herning 2025 bajnokságon - tájékoztatta a Magyar Kereskedelmi és Iparkamara (MKIK) szombat este közleményben az MTI-t.
2025. 09. 14. 07:00
Megosztás:

Felavatták a Nemzeti Űrközpontot Moszkvában

Hivatalosan megnyitotta az új orosz Nemzeti Űrközpontot (NKC) Vlagyimir Putyin elnök szombaton Moszkva nyugati részén, a Mihail Hrunyicsev mérnök altábornagy nevét viselő Állami Űrkutatási és Gyártási Központ (GKNPC) területén.
2025. 09. 14. 05:00
Megosztás:

A fővárosi önkormányzat idén is megrendezi a Budapest Állásbörzét

A fővárosi önkormányzat idén is megrendezi a Budapest Állásbörzét, ahol az érdeklődők megismerhetik a fővárosi fenntartású és üzemeltetésű cégek, intézmények tevékenységét és személyesen találkozhatnak a toborzási feladatokat ellátó kollégákkal - közölte a Főpolgármesteri Hivatal pénteken az MTI-vel.
2025. 09. 14. 04:00
Megosztás:

Ukrán elnök: Ukrajna kész segíteni lengyel katonák kiképzésében

Ukrajna kész megosztani tapasztalatait Varsóval, segíteni a lengyel katonák kiképzésében, valamint közös védelmi rendszert kiépíteni Lengyelországgal - jelentette ki közösségi oldalain Volodimir Zelenszkij ukrán elnök pénteken, miután Kijevben fogadta Radoslaw Sikorski lengyel külügyminisztert.
2025. 09. 14. 03:00
Megosztás:

Átverések - Önkiszolgáló kasszák a LIDL-ben TESCO-ban, ALDI-ban

Az önkiszolgáló kasszák bevezetésével a vásárlás folyamata egyszerűbbé és kényelmesebbé vált mind a fogyasztók, mind az üzletek szempontjából. Ugyanakkor ez a megoldás nem csupán előnyöket kínál, hanem új teret is nyitott azok számára, akik visszaélésekre törekednek. Mutatjuk hogyan!
2025. 09. 14. 02:00
Megosztás:

Politikai döntés: kötelező jogosítványcsere Magyarországon

2033-ig az Európai Unió minden tagállamában be kell vezetni az új formátumú vezetői engedélyeket. Kinek, mikorra kell lecserélni a jogsiját, hogyan érinti ez a magyar lakosságot?
2025. 09. 14. 01:01
Megosztás:

Mennyi áramot fogyaszt a hűtőszekrény? Mennyibe kerül havonta?

Hűtőszekrény fogyasztása havi szinten, forintban. Hány forintba kerül havi szinten egy folyamatosan működő hűtőszekrény egy háztartásnak? Villamos energia fogyasztás kalkuláció.
2025. 09. 14. 00:03
Megosztás:

Solana árfolyam előrejelzés, fontos XRP ETF fejlemény, és a legjobb mémcoin 2025-re 100-szoros hozampotenciállal

A kriptopiac pezseg, ahogy a befektetők figyelik a legfrissebb Solana árfolyam-előrejelzéseket, valamint az XRP ETF körüli új fejleményeket. A SOL komoly emelkedést mutat a hálózati frissítése után, miközben az intézményi figyelem egyre inkább az XRP felé irányul az ETF-várakozások miatt. A kereskedők most azt mérlegelik, hol lehet a következő 100-szoros lehetőség.
2025. 09. 13. 23:00
Megosztás:

Duna House: Budapesten nőtt az első lakást vásárlók aránya

Augusztusban az ingatlanpiacot az Otthon Start Program hatásai határozták meg, mely a lakáspiacon évek óta nem tapasztalt élénkülést eredményezett - derült ki a Duna House pénteken kiadott legfrissebb ingatlanpiaci elemzéséből. A barométer adatai szerint a fiatal vásárlók előretörése különösen Budapesten szembetűnő: egy év alatt 23 százalékról 36 százalékra ugrott az első lakást vásárlók aránya, a trend összhangban van a program céljaival, amelyek az otthonteremtést ösztönzik.
2025. 09. 13. 22:00
Megosztás:

FLOKI, PEPE, BONK, SHIB és LBRETT: Szakértők szerint ez az egy mémcoin érheti el a 100-szoros nyereséget ebben a ciklusban

Nem minden mémcoin egyforma. Néhány pillanatok alatt berobban, majd eltűnik. Mások átvészelik a medvepiacot, és akkor emelkednek, amikor senki sem figyel. És van az a ritka néhány, amelyben a narratíva, az időzítés és a lendület éppen megfelelő elegyben van jelen ahhoz, hogy valóra váltsa a kriptos álmokat.
2025. 09. 13. 21:00
Megosztás:

Rétvári Bence: új funkcióval bővült az EgészségAblak applikáció

A vastagbélszűrésre szóló meghívó is megjelenik mostantól az EgészségAblak applikációban - mondta a Belügyminisztérium parlamenti államtitkára péF
2025. 09. 13. 20:00
Megosztás: