Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

Az utóbbi időszakban különösen nagy figyelmet kapott a különféle mesterséges intelligencia modellek nagyközönség számára való elindítása. A generatív mesterséges intelligencia használatával kapcsolatos potenciális kockázatok megnövekedtek, különösen a szerzői jogi kérdések területén, de az ilyen eszközöket alkalmazó vállalatoknak olyan kockázatokra is komoly figyelmet kell fordítaniuk, mint a rendszer-kimenetek helyessége és megmagyarázhatósága, vagy a negatív előítéletek kiszűrése.

Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

A ChatGPT (társalgási nyelvi-rendszer) és a DALL-E (szöveget képpé alakító alkalmazás) elindításával a generatív mesterséges intelligencia (MI) különösen nagy figyelmet kap, és egyre népszerűbb. A generatív MI gépi tanulást használ új tartalmak, pl. szövegek, képek, programkódok, költemények vagy grafikák, előállításához. A legtöbb munkavállaló attól tart, hogy a DALL-E átalakíthatja a hirdetések, a filmkészítés, valamint a játékok világát, a ChatGPT pedig munkahelyeket válthat ki tartalom- és szöveggyártás, oktatás, szoftverfejlesztés és újságírás bizonyos területein.

„Ezek az aggodalmak nem alaptalanok, de nem is ennyire fekete-fehér a történet: a munkahelyek biztosan átalakulóban vannak, azonban továbbra is versenyben marad az, aki megtanulja az MI eszközöket jól és az előnyére használni, együtt élni velük, jól alkalmazni azokat munkájában, saját területén – aki az új eszközökkel együtt tud dolgozni, nem nélkülözhetetlen, hanem keresett szakember lesz.” – mondta Dr. Barta Gergő, a Deloitte Vezető MI szakértője.

Vannak vállalatok, melyek a szerzői jogok megsértésével kapcsolatos aggályok és felelősségek miatt nem engedélyezik az MI által létrehozott tartalmak felhasználását. Számos, stock-fotót gyűjtő platform pedig a művészek és fotósok kérésére MI által létrehozott képek használatát tiltotta be . A ChatGPT alkalmazásának terjedésével megnőtt az oktatásban a plágium kockázata, ezért bizonyos városok állami iskoláiban tilos a nyelvi modell használata.

Bizonytalanság az MI-ben: mennyire lehetünk benne biztosak, hogy helyes a kimenet?

Mit nevezünk kimenetnek? Amikor egy feltett kérdésre választ adunk, gyakran kezdjük mondatunkat azzal, hogy „Nem vagyok biztos benne, de…”, vagy „Ez csak egy sejtés, de…” – attól függően, hogy mennyire vagyunk biztosak válaszunk helyességében. Ezzel szemben a ChatGPT gyakran szabadkozás nélkül kimenetet produkál. A ChatGPT korlátait sorolva az Open AI így fogalmaz: „A ChatGPT néha hihetően hangzó, ugyanakkor helytelen válaszokat ad.” Egy kódolással foglalkozó Q&A platform éppen ezért tiltotta be a ChatGPT használatát: „A ChatGPT által generált válaszok közzététele kifejezetten káros az oldalra nézve… mivel ezen válaszok jónak tűnhetnek, mégis nagy arányban tévesek”. Több olyan esetről is tudunk, amikor a ChatGPT nevetséges hibát vétett a matematika és a logika területein, előfordult, hogy az algebrai jelöléseket használta rosszul, illetve olyan területeken, amilyen pl. a sakk is, ahol a számítógépek köztudottan képesek felülmúlni az emberi teljesítményt, a ChatGPT irracionális lépéseket hajtott végre, tökéletes pókerarccal.

A chatbot hamis önbizalmán keresztül megnő a téves információ terjesztésének, a félretájékoztatásnak a kockázata. A ChatGPT információs oldala kifejti, hogy ez kihívást jelent, mivel „jelenleg a biztonságos információforrás nem áll rendelkezésre” és „ha a modellt nagyobb óvatosságra tanítják, elutasíthatja azoknak a kérdések megválaszolását, amelyekre egyébként helyesen tudna válaszolni”.

„Ugyan tesztelési célokból érdemes lehet inkább helytelenül megválaszolni egy kérdést, mint a választ megtagadni, valós helyzetben történő alkalmazás esetén a rossz válasz nagyobb károkkal és költségekkel járhat, mint a semmilyen válasz. Az elővigyázatosság szükséges mértéke téma- és feladatkörönként eltérő lehet. Annak érdekében, hogy a felhasználók megbízhassanak a generált szöveg tartalmában, a létrehozott szöveg nem lehet egyformán magabiztos minden témában. Az olyan nagy nyelvi modelleknek – Large Language Models, LLM – , amilyen a ChatGPT is, jelenlegi formájukban fontolóra kellene venniük, hogy tisztázó kérdéseket tegyenek fel, ismerjék fel a tudásbázisuk korlátait, kis mértékű bizonyossággal adják meg a válaszokat és adott esetben egy egyszerű „nem tudom a választ” szöveggel térjenek vissza.” – mondta Barta Gergő.

Megmagyarázhatóság: honnan származik a generált információ?

A fő kihívás a ChatGPT kimenetelének azonosításában az, hogy nem rendelkezik egy egyértelmű információforrással. Ellentétben más MI alapú személyi asszisztensekkel, amilyen a Siri vagy az Alexa, melyek internetes keresőmotorok segítségével keresik a választ, a ChatGPT-t úgy tanították, hogy a mondatokat a következő, statisztikailag valószínű nyelvi egységre vonatkozó találgatások sorozatával alkossa meg. Emiatt nevezik az LLM-eket néha „sztochasztikus papagájoknak” is.

A tudományos kutatások során minden információ megbízhatóságát annak forrása alapján határozzák meg. Egyes nyelvi modellek, több különböző forrást szintetizálnak annak érdekében, hogy megadjanak egyetlen választ. Ezek a rendszerek különböző megbízhatósági szinteket rendelhetnek a különböző forrásokhoz azok reputációja alapján. Például, ha az információ megkérdőjelezhető forrásból származik módosíthatják válaszukat oly módon, hogy a felmerült kételyt kifejezzék, vagy több lehetséges választ is bemutathatnak, ha a különböző források nem értenek egyet egy bizonyos témában. Érdemes lehet megfontolni ezeknek a típusú modelleknek a használatát egy-egy speciálisabb téma során.

„A megmagyarázhatóság kritériuma nélkülözhetetlen lesz, hiszen abban az esetben, ha az eredmény megkérdőjelezhető, az lehetővé teszi az információ befogadója számára, hogy felmérje a kontextust, és betekintést nyerjen a további feltételezésekbe, vagy az alkalmazott logikába.” – mondta Puskás Attila, a Deloitte Kockázatkezelési Tanácsadás Vezető Tanácsadója.

Ennek hiánya többek között a képgenerátorokat is érinti. A szintetikus, szöveget képpé alakító programok az interneten elérhető képekből tanulnak. Egy vizuális médiával foglalkozó cég beperelte az egyik MI eszköz létrehozóit, amiért megfelelő engedély nélkül használták fel képeiket. Művészek egy csoportja korábban a szerzői jogok megsértéseként értékelt, ezért bojkottált egy MI által generált képeket tartalmazó alkalmazást, mivel az MI egy valós művész stílusát utánzó képeket generált. Bár a jogi kihívások összetettek, az MI által generált műalkotások inspirációforrásának azonosítása – tehát annak a forrásnak, ahonnan az MI nagyrészben másolta a meglévő műalkotást, lehetővé teszi a pénzügyi kompenzációt és elszámolást.

Előítélet: mi történik, ha „rossz” forrásból tanul a rendszer?

Ha a modellt nagy volumenű, szöveget és képeket tartalmazó adathalmazon tanítják, akkor a modell természetesen megismétli a forrásban található torzításokat. Ez gyakorlatban azt jelenti, ha a felhasznált tanító adathalmaz pl. egy arcfelismerő rendszer esetében felül-reprezentált egy adott etnikai csoport tekintetében, akkor megvan a kockázata annak, hogy más csoportokat nem fog sikeresen felismerni, tehát elfogult lesz a tanító adatban szignifikánsan megjelenő mintákkal szemben – ez pedig igazságtalan kimenetet eredményezhet.

Bár a ChatGPT tartalommoderálási korlátokat alkalmaz a szexuális, gyűlöletkeltő, erőszakos vagy káros tartalmak generálásának megelőzése érdekében, ezeket a beépített szűrőket könnyű megkerülni az utasítások átfogalmazásával. A Galactica, a ChatGPT elődje pl. 3 nap után állt le, mert hamis és rasszista tartalmakat generált. Sok munkát kell még elvégezni ahhoz, hogy a tanításra használt adatokban a torzításokat azonosítani és csökkenteni lehessen – nemcsak a generatív MI esetében, hanem az MI összességében. Egyes tudósok a tanításhoz használt adatok gondos összegyűjtése mellett érveltek a hatalmas mennyiségű és könnyen elérhető internetes források használata helyett.

Összességében a generatív MI népszerűségének növekedése következtében jelentkező potenciális kockázatokat és etikai megfontolásokat teljes mértékben figyelembe kell vennie az ilyen modellt implementálni kívánó vállalkozásnak. Ezeknek a technológiáknak új, izgalmas alkalmazási lehetőségei vannak, fontos azonban ezeket a lépéseket összhangba hozni és arányosan mérlegelni a felmerült kockázatokkal, elszámoltathatósággal és az esetleges visszaélésekkel, mert így lehet korlátozni az előre nem látható negatív hatásokat.

„Átgondolt kockázatkezelésre és irányításra van szükség ahhoz, hogy biztonságosan és magabiztosan lehessen használni a generatív MI innovációit. A generatív MI kockázatait az olyan klasszikus vállalati kockázati tényezőkkel, amilyen a működési, adatvédelmi, jogi, vagy technológiai kockázat is, együtt kell azonosítani és értékelni, annak biztosítása érdekében, hogy a maradványkockázatok ne jelentsenek fenyegetést se a vállalati működésre, se a társadalomra vagy a környezetre.” – mondta Barta Gergő.

Csökkent az ipari termelés Japánban

Japánban csökkent az ipari termelés áprilisban havi és éves összevetésben egyaránt.
2024. 06. 16. 13:00
Megosztás:

Megjelentek a feldolgozóüzemek beruházásait támogató pályázati kiírások

A kormány stratégiai ágazatként tekint az élelmiszeriparra, ezért az ágazat a következő években is kiemelt támogatási lehetőségekre számíthat. A 2027-ig tartó KAP Stratégiai Terv keretei között összesen 200 milliárd forint keretösszeggel, két új pályázati felhívás jelent meg a feldolgozóüzemek fejlesztéseinek támogatására - jelentette be Nagy István agrárminiszter a szaktárca közleménye szerint pénteken.
2024. 06. 16. 12:00
Megosztás:

MÁV nyári menetrend és Volán nyári menetrend: Így alakul a nyári főszezoni menetrend

A népszerű turisztikai úti célokat sűrűbb közlekedéssel kiszolgáló nyári főszezoni közlekedési menetrend június 22-től szeptember 1-jéig lesz érvényben, azt követően pedig utószezoni menetrenddel nyújtják meg a nyarat szeptember 22-ig - közölte a MÁV-Volán-csoport pénteken az MTI-vel.
2024. 06. 16. 11:00
Megosztás:

Támogatja a villamosenergia-ágazat szereplőinek kiberbiztonsági felkészülését az energiahivatal

Hatályba lépett a rendelet, amely európai szabályrendszert állít fel a határokon átnyúló villamosenergia-áramlás kiberbiztonságára; az egységes európai szabályozás hazai végrehajtásának felügyeletét a Magyar Energetikai és Közmű-szabályozási Hivatal (MEKH) látja el - közölte a hatóság pénteken az MTI-vel.
2024. 06. 16. 10:00
Megosztás:

Elrendelte a Centrál Workout pénzügyi vállalkozás végelszámolását az MNB

Visszavonta a Magyar Nemzeti Bank (MNB) a budapesti székhelyű Centrál Workout Pénzügyi Zrt. faktoring végzésére vonatkozó tevékenységi engedélyét és elrendelte végelszámolását - közölte a jegybank pénteken az MTI-vel.
2024. 06. 16. 09:00
Megosztás:

Minden termékcsoportban nőtt az építőanyag-értékesítés volumene

Az építőanyag-piacon minden termékcsoportban nőtt az értékesítés volumene májusban, az árak azonban csökkentek, ami kedvező jel az otthonfelújítási program júniusi indulása előtt és a lakásépítési szegmens lassú, de biztos felpörgésére utal - erről Juhász Attila, az Újház Zrt. és az ÉVOSZ Építőanyag-kereskedelmi tagozatának elnöke tájékoztatta az MTI-t pénteken.
2024. 06. 16. 08:00
Megosztás:

Átadták a felújított fiatfalvi Ugron-kastélyt Erdélyben

Átadták szombaton a felújított fiatfalvi Ugron-kastélyt Erdélyben, a székelyföldi műemlék épületet magyar kormánytámogatással restaurálták - számolt be a Székelyhon.ro.
2024. 06. 16. 07:00
Megosztás:

Meghirdették az év családbarát vállalata pályázatot

A Három Királyfi, Három Királylány Mozgalom az idén is meghirdette az év családbarát vállalata pályázatot.
2024. 06. 16. 06:00
Megosztás:

11,0 százalékkal emelkedett az építőipari termelés volumene

2024 áprilisában az építőipari termelés volumene a nyers adatok szerint 15,6 százalékkal meghaladta az egy évvel korábbit. Az építményfőcsoportok közül az épületek építésének termelése 10,8, az egyéb építményeké 22,6 százalékkal bővült - közölte a Központi Statisztikai Hivatal (KSH) pénteken.d
2024. 06. 16. 05:00
Megosztás:

A mesterséges intelligencia korszakába lép az audit

Valódi forradalmat indít a pénzügyi jelentéstétel és a könyvvizsgálat területén a mesterséges intelligencia: a vállalatok csaknem háromnegyede valamilyen szinten már most is alkalmazza ezt pénzügyi beszámolói elkészítéséhez, és ez az arány három éven belül 99 százalékra emelkedik majd - közölte a KPMG legújabb kutatása alapján pénteken az MTI-vel.
2024. 06. 16. 04:00
Megosztás:

8 Bitcoin bányász eléri az 1 milliárd dolláros piaci kapitalizációt, jelezve az iparági fellendülést, míg ez a legjobb 5 választás a hullám meglovagolásához

Mivel nyolc Bitcoin bányász már átlépte az 1 milliárd dolláros piaci kapitalizáció küszöbét, a kriptovaluta piac hihetetlen növekedést tapasztal, ami egy jelentős iparági fellendülésre utal. Az öt legjobban várt kriptovaluta, amely készen áll profitálni ebből a trendből, kiemelt figyelmet kap a befektetőktől és rajongóktól.
2024. 06. 16. 03:00
Megosztás:

Jövő Heti Horoszkóp – Komoly pénzt nyerhet 3 csillagjegy szülötte is!

Üdvözlünk a heti horoszkópban, ahol most különösen szerencsés és pénzügyi lehetőségekkel teli időszak vár rád! A jövő héten (június 16 -22. között) mindegyik csillagjegy számára izgalmas és váratlan eseményeket mutatnak a csillagok, amelyek a személyes életedet is pozitívan befolyásolják. Készülj fel szerencsés találkozásokra, kreatív üzleti fogásokra és váratlan pénzügyi nyereségekre! Olvasd el, milyen szerencsés napok és számok várnak rád, és ne feledd: a szerencséd a csillagokban rejlik!
2024. 06. 16. 02:00
Megosztás:

Figyelmeztetik a nyugdíjasokat – Hamarosan lejár a határidő, sokan rosszul járhatnak

Ebben a hónapban még lehetőség van a tavalyi feltételek szerint kérni a nyugdíj megállapítását - számolt be a tudasfajta.hu.
2024. 06. 16. 01:00
Megosztás:

Ez a három kutyás kriptó nagyot mehet ezen a nyáron

Vitathatatlan, hogy a 2024-es év a mém érmék nagy visszatéréséről szól. A befektetők elkapkodják ezeket az érméket, és várják, hogy elődeikhez hasonlóan elképesztő nyereséget hozzanak. Ez sok érmével meg is történik, ezért nem árt, ha alaposan tájékozódunk, és szemügyre vesszük az aktuális előértékesítéseket.
2024. 06. 16. 00:01
Megosztás:

Ezekkel a számokkal nyerhettél az ötös lottón!

A Szerencsejáték Zrt. tájékoztatása szerint a 24. héten megtartott ötös lottó és Joker számsorsoláson a következő számokat húzták ki:
2024. 06. 15. 23:00
Megosztás:

Mit gondol Ferenc pápa a mesterséges intelligenciáról?

Ferenc pápa elbűvölő, de félelmetes eszköznek nevezte a mesterséges intelligenciát, amelyhez szerinte "etikai algoritmusok" szükségesek. A katolikus egyházfő a hét legfejlettebb ipari ország (G7) állam- és kormányfőinek csúcstalálkozóján, a dél-olaszországi Borgo Egnazia üdülőhelyen mondott beszédet pénteken.
2024. 06. 15. 22:00
Megosztás:

Ingyenes startup dizájntábort szervez a Kék Bolygó Alapítvány

A fenntarthatósági témák, a dizájn és a startupok világa iránt érdeklődő középiskolások jelentkezését várják június 26-ig a Kék Bolygó Klímavédelmi Alapítvány (KBKA) és a HelloWood Junior ingyenes táborába - közölték a szervezők pénteken az MTI-vel.
2024. 06. 15. 21:00
Megosztás:

Megünnepelték a brit uralkodó hivatalos születésnapját

Hagyományos katonai pompával ünnepelték meg szombaton Londonban a 75 esztendős III. Károly király hivatalos születésnapját.
2024. 06. 15. 20:00
Megosztás:

Miért jó az alumínium autóbeálló?

Az alumínium autóbeállók nagyszerűen ötvözik az időtállóság, a modern megjelenés és a könnyű kezelhetőség minden előnyét. Ezeken keresztül kitűnő választást jelentenek mindazoknak, akik praktikusan és egyben stílusosan kívánják megválaszolni az autójuk parkolásának kérdését.
2024. 06. 15. 19:00
Megosztás:

Pénzt takaríthatsz meg a szerszámok biztonságos tárolásával

A szerszámok megfelelő tárolása elengedhetetlen a hatékony munkavégzéshez, legyen szó hobbiról, otthoni javításról vagy professzionális munkáról. A szerszámok rendezett és könnyen elérhető helyen történő tárolása nemcsak időt takarít meg, de megelőzi a szerszámok elvesztését és károsodását is.
2024. 06. 15. 18:00
Megosztás: