Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

Az utóbbi időszakban különösen nagy figyelmet kapott a különféle mesterséges intelligencia modellek nagyközönség számára való elindítása. A generatív mesterséges intelligencia használatával kapcsolatos potenciális kockázatok megnövekedtek, különösen a szerzői jogi kérdések területén, de az ilyen eszközöket alkalmazó vállalatoknak olyan kockázatokra is komoly figyelmet kell fordítaniuk, mint a rendszer-kimenetek helyessége és megmagyarázhatósága, vagy a negatív előítéletek kiszűrése.

Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

A ChatGPT (társalgási nyelvi-rendszer) és a DALL-E (szöveget képpé alakító alkalmazás) elindításával a generatív mesterséges intelligencia (MI) különösen nagy figyelmet kap, és egyre népszerűbb. A generatív MI gépi tanulást használ új tartalmak, pl. szövegek, képek, programkódok, költemények vagy grafikák, előállításához. A legtöbb munkavállaló attól tart, hogy a DALL-E átalakíthatja a hirdetések, a filmkészítés, valamint a játékok világát, a ChatGPT pedig munkahelyeket válthat ki tartalom- és szöveggyártás, oktatás, szoftverfejlesztés és újságírás bizonyos területein.

„Ezek az aggodalmak nem alaptalanok, de nem is ennyire fekete-fehér a történet: a munkahelyek biztosan átalakulóban vannak, azonban továbbra is versenyben marad az, aki megtanulja az MI eszközöket jól és az előnyére használni, együtt élni velük, jól alkalmazni azokat munkájában, saját területén – aki az új eszközökkel együtt tud dolgozni, nem nélkülözhetetlen, hanem keresett szakember lesz.” – mondta Dr. Barta Gergő, a Deloitte Vezető MI szakértője.

Vannak vállalatok, melyek a szerzői jogok megsértésével kapcsolatos aggályok és felelősségek miatt nem engedélyezik az MI által létrehozott tartalmak felhasználását. Számos, stock-fotót gyűjtő platform pedig a művészek és fotósok kérésére MI által létrehozott képek használatát tiltotta be . A ChatGPT alkalmazásának terjedésével megnőtt az oktatásban a plágium kockázata, ezért bizonyos városok állami iskoláiban tilos a nyelvi modell használata.

Bizonytalanság az MI-ben: mennyire lehetünk benne biztosak, hogy helyes a kimenet?

Mit nevezünk kimenetnek? Amikor egy feltett kérdésre választ adunk, gyakran kezdjük mondatunkat azzal, hogy „Nem vagyok biztos benne, de…”, vagy „Ez csak egy sejtés, de…” – attól függően, hogy mennyire vagyunk biztosak válaszunk helyességében. Ezzel szemben a ChatGPT gyakran szabadkozás nélkül kimenetet produkál. A ChatGPT korlátait sorolva az Open AI így fogalmaz: „A ChatGPT néha hihetően hangzó, ugyanakkor helytelen válaszokat ad.” Egy kódolással foglalkozó Q&A platform éppen ezért tiltotta be a ChatGPT használatát: „A ChatGPT által generált válaszok közzététele kifejezetten káros az oldalra nézve… mivel ezen válaszok jónak tűnhetnek, mégis nagy arányban tévesek”. Több olyan esetről is tudunk, amikor a ChatGPT nevetséges hibát vétett a matematika és a logika területein, előfordult, hogy az algebrai jelöléseket használta rosszul, illetve olyan területeken, amilyen pl. a sakk is, ahol a számítógépek köztudottan képesek felülmúlni az emberi teljesítményt, a ChatGPT irracionális lépéseket hajtott végre, tökéletes pókerarccal.

A chatbot hamis önbizalmán keresztül megnő a téves információ terjesztésének, a félretájékoztatásnak a kockázata. A ChatGPT információs oldala kifejti, hogy ez kihívást jelent, mivel „jelenleg a biztonságos információforrás nem áll rendelkezésre” és „ha a modellt nagyobb óvatosságra tanítják, elutasíthatja azoknak a kérdések megválaszolását, amelyekre egyébként helyesen tudna válaszolni”.

„Ugyan tesztelési célokból érdemes lehet inkább helytelenül megválaszolni egy kérdést, mint a választ megtagadni, valós helyzetben történő alkalmazás esetén a rossz válasz nagyobb károkkal és költségekkel járhat, mint a semmilyen válasz. Az elővigyázatosság szükséges mértéke téma- és feladatkörönként eltérő lehet. Annak érdekében, hogy a felhasználók megbízhassanak a generált szöveg tartalmában, a létrehozott szöveg nem lehet egyformán magabiztos minden témában. Az olyan nagy nyelvi modelleknek – Large Language Models, LLM – , amilyen a ChatGPT is, jelenlegi formájukban fontolóra kellene venniük, hogy tisztázó kérdéseket tegyenek fel, ismerjék fel a tudásbázisuk korlátait, kis mértékű bizonyossággal adják meg a válaszokat és adott esetben egy egyszerű „nem tudom a választ” szöveggel térjenek vissza.” – mondta Barta Gergő.

Megmagyarázhatóság: honnan származik a generált információ?

A fő kihívás a ChatGPT kimenetelének azonosításában az, hogy nem rendelkezik egy egyértelmű információforrással. Ellentétben más MI alapú személyi asszisztensekkel, amilyen a Siri vagy az Alexa, melyek internetes keresőmotorok segítségével keresik a választ, a ChatGPT-t úgy tanították, hogy a mondatokat a következő, statisztikailag valószínű nyelvi egységre vonatkozó találgatások sorozatával alkossa meg. Emiatt nevezik az LLM-eket néha „sztochasztikus papagájoknak” is.

A tudományos kutatások során minden információ megbízhatóságát annak forrása alapján határozzák meg. Egyes nyelvi modellek, több különböző forrást szintetizálnak annak érdekében, hogy megadjanak egyetlen választ. Ezek a rendszerek különböző megbízhatósági szinteket rendelhetnek a különböző forrásokhoz azok reputációja alapján. Például, ha az információ megkérdőjelezhető forrásból származik módosíthatják válaszukat oly módon, hogy a felmerült kételyt kifejezzék, vagy több lehetséges választ is bemutathatnak, ha a különböző források nem értenek egyet egy bizonyos témában. Érdemes lehet megfontolni ezeknek a típusú modelleknek a használatát egy-egy speciálisabb téma során.

„A megmagyarázhatóság kritériuma nélkülözhetetlen lesz, hiszen abban az esetben, ha az eredmény megkérdőjelezhető, az lehetővé teszi az információ befogadója számára, hogy felmérje a kontextust, és betekintést nyerjen a további feltételezésekbe, vagy az alkalmazott logikába.” – mondta Puskás Attila, a Deloitte Kockázatkezelési Tanácsadás Vezető Tanácsadója.

Ennek hiánya többek között a képgenerátorokat is érinti. A szintetikus, szöveget képpé alakító programok az interneten elérhető képekből tanulnak. Egy vizuális médiával foglalkozó cég beperelte az egyik MI eszköz létrehozóit, amiért megfelelő engedély nélkül használták fel képeiket. Művészek egy csoportja korábban a szerzői jogok megsértéseként értékelt, ezért bojkottált egy MI által generált képeket tartalmazó alkalmazást, mivel az MI egy valós művész stílusát utánzó képeket generált. Bár a jogi kihívások összetettek, az MI által generált műalkotások inspirációforrásának azonosítása – tehát annak a forrásnak, ahonnan az MI nagyrészben másolta a meglévő műalkotást, lehetővé teszi a pénzügyi kompenzációt és elszámolást.

Előítélet: mi történik, ha „rossz” forrásból tanul a rendszer?

Ha a modellt nagy volumenű, szöveget és képeket tartalmazó adathalmazon tanítják, akkor a modell természetesen megismétli a forrásban található torzításokat. Ez gyakorlatban azt jelenti, ha a felhasznált tanító adathalmaz pl. egy arcfelismerő rendszer esetében felül-reprezentált egy adott etnikai csoport tekintetében, akkor megvan a kockázata annak, hogy más csoportokat nem fog sikeresen felismerni, tehát elfogult lesz a tanító adatban szignifikánsan megjelenő mintákkal szemben – ez pedig igazságtalan kimenetet eredményezhet.

Bár a ChatGPT tartalommoderálási korlátokat alkalmaz a szexuális, gyűlöletkeltő, erőszakos vagy káros tartalmak generálásának megelőzése érdekében, ezeket a beépített szűrőket könnyű megkerülni az utasítások átfogalmazásával. A Galactica, a ChatGPT elődje pl. 3 nap után állt le, mert hamis és rasszista tartalmakat generált. Sok munkát kell még elvégezni ahhoz, hogy a tanításra használt adatokban a torzításokat azonosítani és csökkenteni lehessen – nemcsak a generatív MI esetében, hanem az MI összességében. Egyes tudósok a tanításhoz használt adatok gondos összegyűjtése mellett érveltek a hatalmas mennyiségű és könnyen elérhető internetes források használata helyett.

Összességében a generatív MI népszerűségének növekedése következtében jelentkező potenciális kockázatokat és etikai megfontolásokat teljes mértékben figyelembe kell vennie az ilyen modellt implementálni kívánó vállalkozásnak. Ezeknek a technológiáknak új, izgalmas alkalmazási lehetőségei vannak, fontos azonban ezeket a lépéseket összhangba hozni és arányosan mérlegelni a felmerült kockázatokkal, elszámoltathatósággal és az esetleges visszaélésekkel, mert így lehet korlátozni az előre nem látható negatív hatásokat.

„Átgondolt kockázatkezelésre és irányításra van szükség ahhoz, hogy biztonságosan és magabiztosan lehessen használni a generatív MI innovációit. A generatív MI kockázatait az olyan klasszikus vállalati kockázati tényezőkkel, amilyen a működési, adatvédelmi, jogi, vagy technológiai kockázat is, együtt kell azonosítani és értékelni, annak biztosítása érdekében, hogy a maradványkockázatok ne jelentsenek fenyegetést se a vállalati működésre, se a társadalomra vagy a környezetre.” – mondta Barta Gergő.

Enyhén csökkent a FAO élelmiszerár-indexe szeptemberben

Az ENSZ Élelmezésügyi és Mezőgazdasági Szervezetének (FAO) pénteki jelentéseszerint szeptemberben enyhén mérséklődött az élelmiszer-alapanyagok világpiaci mutatója, elsősorban a cukor- és tejtermékek árának visszaesése miatt.
2025. 10. 05. 04:00
Megosztás:

A terveknek megfelelő gazdasági eredményekkel zárta az 2025 első fél évét a Vajda-Papír cégcsoport

A Vajda-Papír cégcsoport sikeres első félévet zárt 2025-ben is: az értékesítés nettó árbevétele 11,8%-kal, az adózás előtti eredmény pedig 17%-kal nőtt az előző év azonos időszakához képest. Az év első hat hónapjában elért 38 milliárd forintos konszolidált árbevétel az egy évvel korábbi 34 milliárd forint után és a tavaly fél évit megközelítő, 4,1 milliárd forint EBITDA a cég hatékonyságnövelő intézkedéseinek, valamint stabil piaci jelenlétének köszönhető. A konszolidált adózás előtti eredmény a 2024 első félévi 3,2 milliárd forintról 3,7 milliárd forintra emelkedett.
2025. 10. 05. 03:00
Megosztás:

Világcsúcs gyorsan gazdagodnak a magyarok!

„Nem az az izgalmas kérdés, hogy sokan lettek milliárdosok, hanem az, hogy milyen gyorsan” – hangsúlyozza Karagich István. A Forbes ma megjelent vagyonos listája igazolja a Blochamps Capital előrejelzéseinek pontosságát: a társaság már 2019-ben – egyedüliként a piacon – azt jelezte előre, hogy 2025-re legalább öt magyar átlépi a 300 milliárdos vagyonhatárt. A magyar elit vagyonosodásának üteme egyébként világcsúcstartó, s ez a folyamat a következő évben – a választások ellenére – sem tompul, átrendeződésre először 2027-től lehet számítani.
2025. 10. 05. 02:00
Megosztás:

Rendkívüli hír! Rövidebb lesz a 2025-ös őszi szünet – itt a pontos dátum

Az iskolai szünetek minden évben kiemelt jelentőséggel bírnak a diákok és pedagógusok számára
2025. 10. 05. 01:00
Megosztás:

Szijjártó Péter: a Rheinmetall modern védelmi ipari központot létesít Zalaegerszegen

A Rheinmetall modern védelmi ipari fejlesztési és mérnöki központot létesít Zalaegerszegen nagyjából 3,7 milliárd forintos beruházással, nyolcvan, magas képzettséget igénylő munkahelyet teremtve - jelentette be Szijjártó Péter külgazdasági és külügyminiszter pénteken a helyszínen.
2025. 10. 05. 00:05
Megosztás:

A stabilcoinok biztonságosabbak lehetnek, mint más kriptók – de nem mindegy, melyiket választjuk

A legtöbb kriptovaluta ma még nem számít biztonságos befektetésnek a konzervatív befektetők számára. Az elmúlt évtizedben azonban népszerűvé váltak a stabilcoinok – olyan kriptók, amelyek az amerikai dollárhoz vagy más valódi eszközökhöz vannak kötve –, és alternatívát kínálnak a kockázatkerülő befektetőknek.
2025. 10. 04. 23:00
Megosztás:

Orbán Viktor: fix 3 százalékos hitel indul a vállalkozásoknak

Fix 3 százalékos kamatozású 150 millió forintos felső értékű hitelkonstrukció indul a magyar kis- és középvállalkozások számára a tervek szerint október 6-tól - jelentette be a miniszterelnök a Nagy Elekkel, a Magyar Kereskedelmi és Iparkamara (MKIK) elnökével közösen tartott sajtótájékoztatón szombaton Budapesten.
2025. 10. 04. 22:00
Megosztás:

Cseh választások - Az ANO nyerte a választást

Az eddig ellenzékben lévő, Andrej Babis korábbi kormányfő vezette Elégedetlen Polgárok Mozgalma (ANO) nyerte a képviselőházi választásokat Csehországban - jelentette be szombaton az eredményeket összesítő Cseh Statisztikai Hivatal.
2025. 10. 04. 21:00
Megosztás:

Rövidített útvonalon jár az M2-es metró

Az M2-es metró csak a Déli pályaudvar és a Deák Ferenc tér között közlekedik október 4-én és 5-én, szombaton és vasárnap egész nap. Az Örs vezér tere és a Deák Ferenc tér között pótlóbusz jár - tájékoztatta a Budapesti Közlekedési Központ közleményben szombaton az MTI-t.
2025. 10. 04. 20:00
Megosztás:

Több százmilliós nagyságrenddel bővült a Széchenyi Mikrohitel MAX+

Jelentősen bővültek a Széchenyi Mikrohitel MAX+ lehetőségei: a konstrukció kedvezőbb és rugalmasabb feltételekkel érhető el a hazai mikro- és kisvállalkozások számára - közölte a Vállalkozók és Munkáltatók Országos Szövetsége (VOSZ) szombaton közleményben az MTI-vel.
2025. 10. 04. 19:00
Megosztás:

Visit Hungary: október 14-15. között nemzetközi turisztikai konferenciát tartanak Budapesten

Október 14-15. között rendezik Budapesten a turisztikai szakma csúcstalálkozóját, a Tourism Summit nemzetközi konferenciát - közölte a szervező Visit Hungary az MTI-vel.
2025. 10. 04. 18:00
Megosztás:

Nyugdíjtévedés, lakásvásárlás és adóvisszatérítés - így látják a magyarok és a szakértők

Egyértelműen szükség van az önkéntes nyugdíj- és egészségpénztári megtakarítások után igénybe vehető szja-visszatérítés szabályainak változtatására a hazai lakosság és a szakértők szerint is; a nyugdíjkasszákat pedig vonzóbbá tenné, ha a megtakarítások egy részét a jövőben is fel lehetne használni lakáscélra. Az idei Pénztárkonferencián megkérdezett szakértők kétharmada arra számít, hogy az idén 100-150 milliárd forint áramolhat ki a nyugdíjpénztárakból lakóingatlan-vásárlásra, felújításra, hiteltörlesztésre.
2025. 10. 04. 17:00
Megosztás:

Átadták a Waberer’s kibővített mosonmagyaróvári szervizcsarnokát, amely a Széchenyi István Egyetem hallgatóinak tanműhelyt biztosít

A Budapesti Értéktőzsde prémium kategóriájában jegyzett Waberer’s újabb fontos mérföldkőhöz érkezett: ünnepélyes keretek között átadták a vállalat kibővített mosonmagyaróvári szervizcsarnokát. A közel 1 milliárd forintos beruházás nemcsak a több mint háromezer járműből álló flotta hatékony és üzembiztos működését segíti, hanem a Széchenyi István Egyetemmel közösen a jövő szakembereinek képzését is szolgálja, hiszen a létesítmény tanműhelyként is funkcionál majd.
2025. 10. 04. 16:00
Megosztás:

Magyarország az európai frisszöldség-exportőrök TOP10-es listáján

A nyár kellős közepén a friss zöldségek különösen nagy népszerűségnek örvendenek – nemcsak a magyar asztalokon, hanem a külföldi fogyasztók bevásárlókosaraiban is.
2025. 10. 04. 15:00
Megosztás:

Meglepő, hol költöttek idén nyáron a legtöbbet a K&H SZÉP kártyáival

Az idei nyári időszakban közel 10 milliárd forintos forgalmat generáltak a K&H SZÉP kártya birtokosai. A legtöbb tranzakció a legnagyobb ételkisszállító cégeknél valósult meg közel 550 millió forint összértékben, de a hazai üdülésfoglalások értéke is meghaladta a 70 millió forintot. Ezek az adatok összecsengenek a K&H kkv bizalmi index adataival is, jól példázva, hogy évről évre egyre nagyobb népszerűségnek örvend ez a juttatási forma a felhasználók körében is. A nyári időszakban a legnagyobb forgalmú elfogadóhelyek az ételkiszállító oldalak és egy szállásfoglaló honlap voltak.
2025. 10. 04. 14:00
Megosztás:

Folytatódnak a képviselőházi választások Csehországban

Csehországban folytatódnak a képviselőházi, azaz parlamenti alsóházi választások. Szombaton, a hagyományosan kétnapos választások második napján, reggel nyolctól délután kettőig lehet még szavazni, az eredményeket pedig az esti órákra ígéri a voksokat összeszámláló Cseh Statisztikai Hivatal.
2025. 10. 04. 13:00
Megosztás:

Világszerte minden második ember látásproblémával küzd

Világszerte minden második ember olyan látásproblémával küzd, amely megelőzhető. A látás világnapja alkalmából az Alensa Optika sokkoló tényeket tár fel, és bemutatja azokat az egyszerű lépéseket, amelyekkel ma elkezdhetjük megvédeni látásunkat. Mert ami ma egy apró változtatás, holnap akár az életünket is megváltoztathatja.
2025. 10. 04. 11:00
Megosztás:

Soha nem volt még ennél egyszerűbb a fűtésrendszer megtervezése

Egy ház vagy lakás fűtési rendszerének korszerűsítése, vagy épp egy új épületgépészeti megoldás kiválasztása komoly pénzügyi döntés, amely hosszú távon befolyásolja a rezsiköltségeket és a lakókomfortot. A legnagyobb hiba, melyet pontos tervezés helyett elkövethetünk, a hozzávetőleges becslés. Egy rosszul megválasztott, túl nagy vagy éppen túl kicsi teljesítményű berendezés nemcsak a pénztárcánkat terheli feleslegesen, de a várt kényelmet sem biztosítja, főként nem energia- vagy költséghatékonyan. A Gree innovatív hőszükséglet-kalkulátora most díjmentesen segít megtervezni az ideális fűtési rendszert.
2025. 10. 04. 10:00
Megosztás:

Angela Merkel Budapesten: „Nem akartam, hogy mások interpretáljanak engem”

Szerdán este mutatták be Budapesten Angela Merkel Szabadság című memoárját. A korábbi kancellár, aki 16 éven át vezette Németországot, arról is beszélt, hogy hogyan lehetett nőként érvényesülni a hazai és a nemzetközi politikában, és azt is elárulta: szívesen kóstolgatja az embereket.
2025. 10. 04. 09:00
Megosztás:

Kollektív elbocsátásokat jelentettek be két székelyföldi ruhaipari vállalatnál

Kollektív elbocsátásokat hajt végre két székelyföldi ruhaipari vállalat - írja az economedia.ro a Kovászna megyei munkaerő-elhelyezési ügynökség (AJOFM) közleménye alapján.
2025. 10. 04. 08:00
Megosztás: