Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

Az utóbbi időszakban különösen nagy figyelmet kapott a különféle mesterséges intelligencia modellek nagyközönség számára való elindítása. A generatív mesterséges intelligencia használatával kapcsolatos potenciális kockázatok megnövekedtek, különösen a szerzői jogi kérdések területén, de az ilyen eszközöket alkalmazó vállalatoknak olyan kockázatokra is komoly figyelmet kell fordítaniuk, mint a rendszer-kimenetek helyessége és megmagyarázhatósága, vagy a negatív előítéletek kiszűrése.

Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

A ChatGPT (társalgási nyelvi-rendszer) és a DALL-E (szöveget képpé alakító alkalmazás) elindításával a generatív mesterséges intelligencia (MI) különösen nagy figyelmet kap, és egyre népszerűbb. A generatív MI gépi tanulást használ új tartalmak, pl. szövegek, képek, programkódok, költemények vagy grafikák, előállításához. A legtöbb munkavállaló attól tart, hogy a DALL-E átalakíthatja a hirdetések, a filmkészítés, valamint a játékok világát, a ChatGPT pedig munkahelyeket válthat ki tartalom- és szöveggyártás, oktatás, szoftverfejlesztés és újságírás bizonyos területein.

„Ezek az aggodalmak nem alaptalanok, de nem is ennyire fekete-fehér a történet: a munkahelyek biztosan átalakulóban vannak, azonban továbbra is versenyben marad az, aki megtanulja az MI eszközöket jól és az előnyére használni, együtt élni velük, jól alkalmazni azokat munkájában, saját területén – aki az új eszközökkel együtt tud dolgozni, nem nélkülözhetetlen, hanem keresett szakember lesz.” – mondta Dr. Barta Gergő, a Deloitte Vezető MI szakértője.

Vannak vállalatok, melyek a szerzői jogok megsértésével kapcsolatos aggályok és felelősségek miatt nem engedélyezik az MI által létrehozott tartalmak felhasználását. Számos, stock-fotót gyűjtő platform pedig a művészek és fotósok kérésére MI által létrehozott képek használatát tiltotta be . A ChatGPT alkalmazásának terjedésével megnőtt az oktatásban a plágium kockázata, ezért bizonyos városok állami iskoláiban tilos a nyelvi modell használata.

Bizonytalanság az MI-ben: mennyire lehetünk benne biztosak, hogy helyes a kimenet?

Mit nevezünk kimenetnek? Amikor egy feltett kérdésre választ adunk, gyakran kezdjük mondatunkat azzal, hogy „Nem vagyok biztos benne, de…”, vagy „Ez csak egy sejtés, de…” – attól függően, hogy mennyire vagyunk biztosak válaszunk helyességében. Ezzel szemben a ChatGPT gyakran szabadkozás nélkül kimenetet produkál. A ChatGPT korlátait sorolva az Open AI így fogalmaz: „A ChatGPT néha hihetően hangzó, ugyanakkor helytelen válaszokat ad.” Egy kódolással foglalkozó Q&A platform éppen ezért tiltotta be a ChatGPT használatát: „A ChatGPT által generált válaszok közzététele kifejezetten káros az oldalra nézve… mivel ezen válaszok jónak tűnhetnek, mégis nagy arányban tévesek”. Több olyan esetről is tudunk, amikor a ChatGPT nevetséges hibát vétett a matematika és a logika területein, előfordult, hogy az algebrai jelöléseket használta rosszul, illetve olyan területeken, amilyen pl. a sakk is, ahol a számítógépek köztudottan képesek felülmúlni az emberi teljesítményt, a ChatGPT irracionális lépéseket hajtott végre, tökéletes pókerarccal.

A chatbot hamis önbizalmán keresztül megnő a téves információ terjesztésének, a félretájékoztatásnak a kockázata. A ChatGPT információs oldala kifejti, hogy ez kihívást jelent, mivel „jelenleg a biztonságos információforrás nem áll rendelkezésre” és „ha a modellt nagyobb óvatosságra tanítják, elutasíthatja azoknak a kérdések megválaszolását, amelyekre egyébként helyesen tudna válaszolni”.

„Ugyan tesztelési célokból érdemes lehet inkább helytelenül megválaszolni egy kérdést, mint a választ megtagadni, valós helyzetben történő alkalmazás esetén a rossz válasz nagyobb károkkal és költségekkel járhat, mint a semmilyen válasz. Az elővigyázatosság szükséges mértéke téma- és feladatkörönként eltérő lehet. Annak érdekében, hogy a felhasználók megbízhassanak a generált szöveg tartalmában, a létrehozott szöveg nem lehet egyformán magabiztos minden témában. Az olyan nagy nyelvi modelleknek – Large Language Models, LLM – , amilyen a ChatGPT is, jelenlegi formájukban fontolóra kellene venniük, hogy tisztázó kérdéseket tegyenek fel, ismerjék fel a tudásbázisuk korlátait, kis mértékű bizonyossággal adják meg a válaszokat és adott esetben egy egyszerű „nem tudom a választ” szöveggel térjenek vissza.” – mondta Barta Gergő.

Megmagyarázhatóság: honnan származik a generált információ?

A fő kihívás a ChatGPT kimenetelének azonosításában az, hogy nem rendelkezik egy egyértelmű információforrással. Ellentétben más MI alapú személyi asszisztensekkel, amilyen a Siri vagy az Alexa, melyek internetes keresőmotorok segítségével keresik a választ, a ChatGPT-t úgy tanították, hogy a mondatokat a következő, statisztikailag valószínű nyelvi egységre vonatkozó találgatások sorozatával alkossa meg. Emiatt nevezik az LLM-eket néha „sztochasztikus papagájoknak” is.

A tudományos kutatások során minden információ megbízhatóságát annak forrása alapján határozzák meg. Egyes nyelvi modellek, több különböző forrást szintetizálnak annak érdekében, hogy megadjanak egyetlen választ. Ezek a rendszerek különböző megbízhatósági szinteket rendelhetnek a különböző forrásokhoz azok reputációja alapján. Például, ha az információ megkérdőjelezhető forrásból származik módosíthatják válaszukat oly módon, hogy a felmerült kételyt kifejezzék, vagy több lehetséges választ is bemutathatnak, ha a különböző források nem értenek egyet egy bizonyos témában. Érdemes lehet megfontolni ezeknek a típusú modelleknek a használatát egy-egy speciálisabb téma során.

„A megmagyarázhatóság kritériuma nélkülözhetetlen lesz, hiszen abban az esetben, ha az eredmény megkérdőjelezhető, az lehetővé teszi az információ befogadója számára, hogy felmérje a kontextust, és betekintést nyerjen a további feltételezésekbe, vagy az alkalmazott logikába.” – mondta Puskás Attila, a Deloitte Kockázatkezelési Tanácsadás Vezető Tanácsadója.

Ennek hiánya többek között a képgenerátorokat is érinti. A szintetikus, szöveget képpé alakító programok az interneten elérhető képekből tanulnak. Egy vizuális médiával foglalkozó cég beperelte az egyik MI eszköz létrehozóit, amiért megfelelő engedély nélkül használták fel képeiket. Művészek egy csoportja korábban a szerzői jogok megsértéseként értékelt, ezért bojkottált egy MI által generált képeket tartalmazó alkalmazást, mivel az MI egy valós művész stílusát utánzó képeket generált. Bár a jogi kihívások összetettek, az MI által generált műalkotások inspirációforrásának azonosítása – tehát annak a forrásnak, ahonnan az MI nagyrészben másolta a meglévő műalkotást, lehetővé teszi a pénzügyi kompenzációt és elszámolást.

Előítélet: mi történik, ha „rossz” forrásból tanul a rendszer?

Ha a modellt nagy volumenű, szöveget és képeket tartalmazó adathalmazon tanítják, akkor a modell természetesen megismétli a forrásban található torzításokat. Ez gyakorlatban azt jelenti, ha a felhasznált tanító adathalmaz pl. egy arcfelismerő rendszer esetében felül-reprezentált egy adott etnikai csoport tekintetében, akkor megvan a kockázata annak, hogy más csoportokat nem fog sikeresen felismerni, tehát elfogult lesz a tanító adatban szignifikánsan megjelenő mintákkal szemben – ez pedig igazságtalan kimenetet eredményezhet.

Bár a ChatGPT tartalommoderálási korlátokat alkalmaz a szexuális, gyűlöletkeltő, erőszakos vagy káros tartalmak generálásának megelőzése érdekében, ezeket a beépített szűrőket könnyű megkerülni az utasítások átfogalmazásával. A Galactica, a ChatGPT elődje pl. 3 nap után állt le, mert hamis és rasszista tartalmakat generált. Sok munkát kell még elvégezni ahhoz, hogy a tanításra használt adatokban a torzításokat azonosítani és csökkenteni lehessen – nemcsak a generatív MI esetében, hanem az MI összességében. Egyes tudósok a tanításhoz használt adatok gondos összegyűjtése mellett érveltek a hatalmas mennyiségű és könnyen elérhető internetes források használata helyett.

Összességében a generatív MI népszerűségének növekedése következtében jelentkező potenciális kockázatokat és etikai megfontolásokat teljes mértékben figyelembe kell vennie az ilyen modellt implementálni kívánó vállalkozásnak. Ezeknek a technológiáknak új, izgalmas alkalmazási lehetőségei vannak, fontos azonban ezeket a lépéseket összhangba hozni és arányosan mérlegelni a felmerült kockázatokkal, elszámoltathatósággal és az esetleges visszaélésekkel, mert így lehet korlátozni az előre nem látható negatív hatásokat.

„Átgondolt kockázatkezelésre és irányításra van szükség ahhoz, hogy biztonságosan és magabiztosan lehessen használni a generatív MI innovációit. A generatív MI kockázatait az olyan klasszikus vállalati kockázati tényezőkkel, amilyen a működési, adatvédelmi, jogi, vagy technológiai kockázat is, együtt kell azonosítani és értékelni, annak biztosítása érdekében, hogy a maradványkockázatok ne jelentsenek fenyegetést se a vállalati működésre, se a társadalomra vagy a környezetre.” – mondta Barta Gergő.

Hétfőn kezdődik a Magyar Tudomány Ünnepe

Hétfőn kezdődik a Magyar Tudomány Ünnepe, amelynek során egy hónapon át több száz tudománynépszerűsítő programmal várja az érdeklődőket a Magyar Tudományos Akadémia (MTA) a fővárosban, vidéken és a határokon túl.
2024. 11. 03. 16:00
Megosztás:

Már több mint 1300 kifizetési kérelem érkezett a napenergia plusz programban

Már több mint 1300 záró kifizetési kérelem érkezett be a napenergia plusz programban, vagyis ennyi háztartás rendelkezik befejezett fejlesztésekkel - mondta az Energiaügyi Minisztérium energetikáért és klímapolitikáért felelős államtitkára vasárnap a szaktárca közösségi oldalán közétett videójában.
2024. 11. 03. 14:30
Megosztás:

Az amerikaiak negyede nem bízik meg az országos jelentőségű választások szavazatszámlálásában

Az Egyesült Államok regisztrált választóinak 48 százaléka teljes mértékben vagy nagy mértékben bízik a szavazatszámlálásban az országos jelentőségű választásokon, miközben 26-26 százalék csupán kis mértékben vagy egyáltalán nem gondolja, hogy becsületesen zajlik a szavazatok összesítése - derül ki az AP-NORC pénteken nyilvánosságra hozott közvélemény-kutatásából.
2024. 11. 03. 13:30
Megosztás:

Ezek húzzák vissza a magyar gazdaságot

A hazai fogyasztás erősödik, a belső kereslet és az ettől függő szektorok teljesítménye pozitív, a magyar gazdaságot külső tényezők, elsősorban a német járműipar visszaesése miatt érik sokkok - mondta a nemzetgazdasági miniszter a Világgazdaság gazdasági portál Makrogazdasági Meetup elnevezésű rendezvényén csütörtökön Budapesten.
2024. 11. 03. 12:30
Megosztás:

Konzultációt indít a MÁV-csoport a vasúti járművek karbantartására

A MÁV-csoport előzetes piaci konzultációt indít, amelynek célja a vasúti járműflotta rendelkezésre állásának javítása - közölte a MÁV-csoport az MTI-vel csütörtökön.
2024. 11. 03. 11:30
Megosztás:

Az amerikai választások hatására masszív bikapiaci előrejelzések születnek a NEIRO, FX Guys ($FXG) és a Toncoin számára

Ahogy a 2024-es amerikai választási szezon teljes lendülettel zajlik, a kriptovaluta piac a bikafutam korai jeleit mutatja.
2024. 11. 03. 10:30
Megosztás:

Folytatódik a kkv-k digitális felzárkóztatása

Modern Vállalkozások Program 2.0 (MVP 2.0) elnevezéssel folytatja a kkv-k digitális fejlettségének javítását célzó programját a Magyar Kereskedelmi és Iparkamara (MKIK) mintegy 2 milliárd forintos, 100 százalékban európai uniós, vissza nem térítendő támogatásból - közölte a kamara csütörtökön az MTI-vel.
2024. 11. 03. 08:00
Megosztás:

Friss Hír: Egy Egyszerű Passzív Jövedelem Ötlet, Amellyel Növelheted a Vagyonodat 2024-ben

A mai dinamikus kriptopénz-piacon a szemfüles befektetők folyamatosan keresik az új stratégiákat, hogy növeljék pénzügyi nyereségüket.
2024. 11. 03. 07:00
Megosztás:

Lerombolják Belgrád tíz hídjának egyikét

A belgrádiak tiltakozása ellenére lezárták Belgrád egyik legrégebbi - még a német megszállók által épített - hídját, hogy lebontsák, és újat építsenek a helyére.
2024. 11. 03. 06:00
Megosztás:

Díjmentes segítség és jogi tanács budapesti ügyvédektől

Idén ismét megszervezi a Budapesti Ügyvédi Kamara a Pro Bono Napot, amikor ingyenesen kaphat jogi tanácsot bárki rászoruló. Lehet ez egy függőben lévő peres ügy tovább lendítése, vagy kisebb jogvita a szomszéddal, de kérhetünk segítséget egy számunkra megfejthetetlen határozat szakszerű értelmezéséhez, vagy éppen egy hivatalos beadvány pontos megfogalmazásához is.
2024. 11. 03. 05:00
Megosztás:

Az MKOE tiltakozik a KSH-hoz igazított adózás ellen

A mindenszentek alkalmából bejelentett adóemelések mértékének megállapítása nem függhet a Központi Statisztikai Hivataltól. Korai még lustaságból automatizmusokat alkalmazni, mert az adóemelés az adóemelés, ahol hatástanulmánynak és társadalmi egyeztetésnek lenne helye. Az adóemelést nem generálhatja a KSH! Ezért az MKOE tiltakozik a Központi Statisztikai Hivatal adatai alapján megállapított adómértékek ellen!
2024. 11. 03. 04:00
Megosztás:

Amit az özvegyi nyugdíjról eltitkolnak, így sok jogosult nem tud róla

Az ideiglenes özvegyi nyugdíj megszűnése után az özvegy akkor kaphat özvegyi nyugdíjat, ha teljesíti valamelyik meghatározott jogosultsági feltételt. De vajon hol van itt a "buktató"?
2024. 11. 03. 02:30
Megosztás:

1945-1970 között született? Akkor sajnos rossz hírünk van!

Egyre több idős ember szenved magas vérnyomástól – de mit jelent ez valójában az egészségük szempontjából?
2024. 11. 03. 01:30
Megosztás:

Félmilliárd forintból újítják fel az egyik általános iskolát Gyomaendrődön

Több mint félmilliárd forint uniós támogatásból korszerűsítik energetikailag a Rózsahegyi Kálmán Általános Iskolát a Békés vármegyei Gyomaendrődön.
2024. 11. 03. 01:00
Megosztás:

Dogecoin 20 dollárra és Shiba Inu 1 dollárra emelkedne? Itt van, miért lehet ideje továbblépni

A Dogecoin és a Shiba Inu lenyűgözte a kriptovilágot meteorszerű emelkedésével. Azonban a várakozások, hogy a Dogecoin 20 dollárra, vagy a Shiba Inu 1 dollárra emelkedik, talán túlzottak lehetnek. Ahogy a piac fejlődik, új lehetőségek jelennek meg, amelyek jobb esélyeket kínálhatnak jelentős növekedésre. A befektetők elkezdték megkérdőjelezni, hogy ideje-e túllépni ezeken a népszerű tokeneken, hogy megtalálják a következő nagy lehetőséget.
2024. 11. 02. 23:59
Megosztás:

Bárcsak vásároltál volna Solanát 1 dollárért? Itt van 4 alacsony árú coin, amelyek készen állnak egy hasonló 5000-szeres emelkedésre

Sok befektető kihagyta a lehetőséget, hogy 1 dollárért vásároljon Solanát, majd nézte, ahogy az egekbe szökik az árfolyam. Most négy alacsony árú kriptovaluta mutat hasonló robbanásszerű növekedési jeleket. Ezek a coinok drámai emelkedési potenciállal rendelkeznek, és felkeltették azok figyelmét, akik a következő nagy lehetőséget keresik a kriptovilágban.
2024. 11. 02. 23:00
Megosztás:

Veterán Solana kereskedő 9000%-os új emelkedést jósol ennél a 0,035 dolláros DeFi tokennél — Pozíciók korai 2025-ös nyereségre

Egy tapasztalt kereskedő, akinek már szép sikerei voltak a Solanában, most egy DeFi tokenre figyelt fel, amelynek ára mindössze 0,035 dollár. Azt jósolja, hogy 2025 elejére akár 9000%-os növekedést is elérhet. Ez a merész előrejelzés felkeltette a kriptovilág érdeklődését. Milyen tényezők táplálják ezt az optimizmust? Merüljünk el, hogy felfedjük ennek az izgalmas tokennek a potenciálját!
2024. 11. 02. 22:00
Megosztás:

TradFi az FX Guys ($FXG) felé fordul a hatalmas nyereség reményében – Ez lesz az új Solana-gyilkos 2024-ben?

Ahogy a hagyományos pénzügyek (TradFi) egyre inkább a decentralizált pénzügyek (DeFi) felé mozdulnak el, az <a href="https://presale.fxguys.io/?utm_source=Publications&utm_medium=Article&utm_campaign=Private&utm_term=T1&utm_content=#1008" target="_blank">FX Guys ($FXG)</a> jelentős szereplővé vált a pénzügyi kereskedelmi szektorban. Fejlett staking jutalmaival és nyereségmegosztási modelljeivel az FX Guys gyorsan magára vonta a figyelmet, több mint 1,4 millió dollárt gyűjtve az előértékesítés során. A piaci szakértők az új Solana (SOL) gyilkosként emlegetik, mivel a DeFi és a TradFi egyesítésével hatalmas profitpotenciált kínál.
2024. 11. 02. 21:00
Megosztás:

A 3 legjobb Layer-1 blokklánc, amelyek idén felülmúlhatják az Ethereumot

Miközben az Ethereum régóta a decentralizált alkalmazások domináns platformja, egy új hullámú Layer-1 blokkláncok jelennek meg, amelyek idén felülmúlhatják teljesítményben és elfogadottságban. Ez a cikk három ígéretes kihívót mutat be, amelyek átalakíthatják a kriptovilágot, és veszélyeztethetik az Ethereum piaci pozícióját.
2024. 11. 02. 20:00
Megosztás:

5 Kihagyhatatlan Altcoin, amely 750 dolláros befektetést 1 millióvá változtathat 2025-re — A szakértők ezt a következő Bitcoin-szintű lehetőségnek nevezik!

A kriptovaluta-rajongók izgatottan beszélnek öt olyan alternatív coinról, amelyek forradalmasíthatják a piacot. Egy ma befektetett szerény 750 dollár 2025-re elképesztő 1 millió dollárrá válhat. Az iparági szakértők úgy vélik, hogy ezek a digitális eszközök megismételhetik a Bitcoin meteorszerű emelkedését. Fedezd fel, mely coinok készülnek hullámokat verni, és hogyan változtathatják meg a szerencsédet.
2024. 11. 02. 19:00
Megosztás: