Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

Az utóbbi időszakban különösen nagy figyelmet kapott a különféle mesterséges intelligencia modellek nagyközönség számára való elindítása. A generatív mesterséges intelligencia használatával kapcsolatos potenciális kockázatok megnövekedtek, különösen a szerzői jogi kérdések területén, de az ilyen eszközöket alkalmazó vállalatoknak olyan kockázatokra is komoly figyelmet kell fordítaniuk, mint a rendszer-kimenetek helyessége és megmagyarázhatósága, vagy a negatív előítéletek kiszűrése.

Felelősségteljes mesterséges intelligencia fejlesztés – jó úton járunk?

A ChatGPT (társalgási nyelvi-rendszer) és a DALL-E (szöveget képpé alakító alkalmazás) elindításával a generatív mesterséges intelligencia (MI) különösen nagy figyelmet kap, és egyre népszerűbb. A generatív MI gépi tanulást használ új tartalmak, pl. szövegek, képek, programkódok, költemények vagy grafikák, előállításához. A legtöbb munkavállaló attól tart, hogy a DALL-E átalakíthatja a hirdetések, a filmkészítés, valamint a játékok világát, a ChatGPT pedig munkahelyeket válthat ki tartalom- és szöveggyártás, oktatás, szoftverfejlesztés és újságírás bizonyos területein.

„Ezek az aggodalmak nem alaptalanok, de nem is ennyire fekete-fehér a történet: a munkahelyek biztosan átalakulóban vannak, azonban továbbra is versenyben marad az, aki megtanulja az MI eszközöket jól és az előnyére használni, együtt élni velük, jól alkalmazni azokat munkájában, saját területén – aki az új eszközökkel együtt tud dolgozni, nem nélkülözhetetlen, hanem keresett szakember lesz.” – mondta Dr. Barta Gergő, a Deloitte Vezető MI szakértője.

Vannak vállalatok, melyek a szerzői jogok megsértésével kapcsolatos aggályok és felelősségek miatt nem engedélyezik az MI által létrehozott tartalmak felhasználását. Számos, stock-fotót gyűjtő platform pedig a művészek és fotósok kérésére MI által létrehozott képek használatát tiltotta be . A ChatGPT alkalmazásának terjedésével megnőtt az oktatásban a plágium kockázata, ezért bizonyos városok állami iskoláiban tilos a nyelvi modell használata.

Bizonytalanság az MI-ben: mennyire lehetünk benne biztosak, hogy helyes a kimenet?

Mit nevezünk kimenetnek? Amikor egy feltett kérdésre választ adunk, gyakran kezdjük mondatunkat azzal, hogy „Nem vagyok biztos benne, de…”, vagy „Ez csak egy sejtés, de…” – attól függően, hogy mennyire vagyunk biztosak válaszunk helyességében. Ezzel szemben a ChatGPT gyakran szabadkozás nélkül kimenetet produkál. A ChatGPT korlátait sorolva az Open AI így fogalmaz: „A ChatGPT néha hihetően hangzó, ugyanakkor helytelen válaszokat ad.” Egy kódolással foglalkozó Q&A platform éppen ezért tiltotta be a ChatGPT használatát: „A ChatGPT által generált válaszok közzététele kifejezetten káros az oldalra nézve… mivel ezen válaszok jónak tűnhetnek, mégis nagy arányban tévesek”. Több olyan esetről is tudunk, amikor a ChatGPT nevetséges hibát vétett a matematika és a logika területein, előfordult, hogy az algebrai jelöléseket használta rosszul, illetve olyan területeken, amilyen pl. a sakk is, ahol a számítógépek köztudottan képesek felülmúlni az emberi teljesítményt, a ChatGPT irracionális lépéseket hajtott végre, tökéletes pókerarccal.

A chatbot hamis önbizalmán keresztül megnő a téves információ terjesztésének, a félretájékoztatásnak a kockázata. A ChatGPT információs oldala kifejti, hogy ez kihívást jelent, mivel „jelenleg a biztonságos információforrás nem áll rendelkezésre” és „ha a modellt nagyobb óvatosságra tanítják, elutasíthatja azoknak a kérdések megválaszolását, amelyekre egyébként helyesen tudna válaszolni”.

„Ugyan tesztelési célokból érdemes lehet inkább helytelenül megválaszolni egy kérdést, mint a választ megtagadni, valós helyzetben történő alkalmazás esetén a rossz válasz nagyobb károkkal és költségekkel járhat, mint a semmilyen válasz. Az elővigyázatosság szükséges mértéke téma- és feladatkörönként eltérő lehet. Annak érdekében, hogy a felhasználók megbízhassanak a generált szöveg tartalmában, a létrehozott szöveg nem lehet egyformán magabiztos minden témában. Az olyan nagy nyelvi modelleknek – Large Language Models, LLM – , amilyen a ChatGPT is, jelenlegi formájukban fontolóra kellene venniük, hogy tisztázó kérdéseket tegyenek fel, ismerjék fel a tudásbázisuk korlátait, kis mértékű bizonyossággal adják meg a válaszokat és adott esetben egy egyszerű „nem tudom a választ” szöveggel térjenek vissza.” – mondta Barta Gergő.

Megmagyarázhatóság: honnan származik a generált információ?

A fő kihívás a ChatGPT kimenetelének azonosításában az, hogy nem rendelkezik egy egyértelmű információforrással. Ellentétben más MI alapú személyi asszisztensekkel, amilyen a Siri vagy az Alexa, melyek internetes keresőmotorok segítségével keresik a választ, a ChatGPT-t úgy tanították, hogy a mondatokat a következő, statisztikailag valószínű nyelvi egységre vonatkozó találgatások sorozatával alkossa meg. Emiatt nevezik az LLM-eket néha „sztochasztikus papagájoknak” is.

A tudományos kutatások során minden információ megbízhatóságát annak forrása alapján határozzák meg. Egyes nyelvi modellek, több különböző forrást szintetizálnak annak érdekében, hogy megadjanak egyetlen választ. Ezek a rendszerek különböző megbízhatósági szinteket rendelhetnek a különböző forrásokhoz azok reputációja alapján. Például, ha az információ megkérdőjelezhető forrásból származik módosíthatják válaszukat oly módon, hogy a felmerült kételyt kifejezzék, vagy több lehetséges választ is bemutathatnak, ha a különböző források nem értenek egyet egy bizonyos témában. Érdemes lehet megfontolni ezeknek a típusú modelleknek a használatát egy-egy speciálisabb téma során.

„A megmagyarázhatóság kritériuma nélkülözhetetlen lesz, hiszen abban az esetben, ha az eredmény megkérdőjelezhető, az lehetővé teszi az információ befogadója számára, hogy felmérje a kontextust, és betekintést nyerjen a további feltételezésekbe, vagy az alkalmazott logikába.” – mondta Puskás Attila, a Deloitte Kockázatkezelési Tanácsadás Vezető Tanácsadója.

Ennek hiánya többek között a képgenerátorokat is érinti. A szintetikus, szöveget képpé alakító programok az interneten elérhető képekből tanulnak. Egy vizuális médiával foglalkozó cég beperelte az egyik MI eszköz létrehozóit, amiért megfelelő engedély nélkül használták fel képeiket. Művészek egy csoportja korábban a szerzői jogok megsértéseként értékelt, ezért bojkottált egy MI által generált képeket tartalmazó alkalmazást, mivel az MI egy valós művész stílusát utánzó képeket generált. Bár a jogi kihívások összetettek, az MI által generált műalkotások inspirációforrásának azonosítása – tehát annak a forrásnak, ahonnan az MI nagyrészben másolta a meglévő műalkotást, lehetővé teszi a pénzügyi kompenzációt és elszámolást.

Előítélet: mi történik, ha „rossz” forrásból tanul a rendszer?

Ha a modellt nagy volumenű, szöveget és képeket tartalmazó adathalmazon tanítják, akkor a modell természetesen megismétli a forrásban található torzításokat. Ez gyakorlatban azt jelenti, ha a felhasznált tanító adathalmaz pl. egy arcfelismerő rendszer esetében felül-reprezentált egy adott etnikai csoport tekintetében, akkor megvan a kockázata annak, hogy más csoportokat nem fog sikeresen felismerni, tehát elfogult lesz a tanító adatban szignifikánsan megjelenő mintákkal szemben – ez pedig igazságtalan kimenetet eredményezhet.

Bár a ChatGPT tartalommoderálási korlátokat alkalmaz a szexuális, gyűlöletkeltő, erőszakos vagy káros tartalmak generálásának megelőzése érdekében, ezeket a beépített szűrőket könnyű megkerülni az utasítások átfogalmazásával. A Galactica, a ChatGPT elődje pl. 3 nap után állt le, mert hamis és rasszista tartalmakat generált. Sok munkát kell még elvégezni ahhoz, hogy a tanításra használt adatokban a torzításokat azonosítani és csökkenteni lehessen – nemcsak a generatív MI esetében, hanem az MI összességében. Egyes tudósok a tanításhoz használt adatok gondos összegyűjtése mellett érveltek a hatalmas mennyiségű és könnyen elérhető internetes források használata helyett.

Összességében a generatív MI népszerűségének növekedése következtében jelentkező potenciális kockázatokat és etikai megfontolásokat teljes mértékben figyelembe kell vennie az ilyen modellt implementálni kívánó vállalkozásnak. Ezeknek a technológiáknak új, izgalmas alkalmazási lehetőségei vannak, fontos azonban ezeket a lépéseket összhangba hozni és arányosan mérlegelni a felmerült kockázatokkal, elszámoltathatósággal és az esetleges visszaélésekkel, mert így lehet korlátozni az előre nem látható negatív hatásokat.

„Átgondolt kockázatkezelésre és irányításra van szükség ahhoz, hogy biztonságosan és magabiztosan lehessen használni a generatív MI innovációit. A generatív MI kockázatait az olyan klasszikus vállalati kockázati tényezőkkel, amilyen a működési, adatvédelmi, jogi, vagy technológiai kockázat is, együtt kell azonosítani és értékelni, annak biztosítása érdekében, hogy a maradványkockázatok ne jelentsenek fenyegetést se a vállalati működésre, se a társadalomra vagy a környezetre.” – mondta Barta Gergő.

Hogyan fogyjak le 20 kilót könnyen és gyorsan?

Mégis hogyan fogyjak le? - Sokak álma, mások kétségbeesett vágya, hogy gyorsan, lehetőleg minél kevesebb szenvedéssel megszabaduljanak 20 kiló feleslegtől. Ez a cél első hallásra ijesztőnek tűnhet, hiszen a 20 kiló jelentős mennyiség, és a legtöbb divatdiéta, villámmódszer inkább csak ideiglenes eredményeket produkál. De vajon lehetséges-e mégis könnyen és gyorsan leadni ezt a súlyt? A válasz: igen, de fontos megérteni, hogy mit jelent valójában a könnyű és a gyors.
2025. 07. 12. 01:00
Megosztás:

Eldőlt! A nyugdíjakkal ez történik, ha Magyarország bevezeti az EURÓ-t

Az alábbi pénzügyi elemzői összefoglaló a magyar euróbevezetésről és annak nyugdíjakra gyakorolt hatásáról megbízható források alapján készült.
2025. 07. 12. 00:05
Megosztás:

Kerékpáros sebességkorlátozás tesztelését kezdik meg Hollandiában

Holland önkormányzatok a jövő év elejétől kísérleti jelleggel kötelező vagy ajánlott sebességkorlátozást vezethetnek be a kerékpárokra; a teszt a közlekedési szabályok kiigazításának szükségességét méri fel - tájékoztatott az NL Times című, angol nyelvű holland hírportál pénteken.
2025. 07. 11. 23:00
Megosztás:

Oroszország Franciaországot jelölte meg legfőbb európai ellenfelének

A francia vezérkari főnök szerint Moszkva Franciaországot jelölte meg legfőbb ellenfeleként Európában. Thierry Burkhard ennek okát mindenekelőtt abban látja, hogy Párizs támogatja az Oroszország által megtámadott Ukrajnát.
2025. 07. 11. 22:00
Megosztás:

A migráció miatt növekszik az EU népessége

Az Európai Unió népessége a negyedik egymást követő évben növekedett, január elsején elérte a 450,4 milliót, ami 1 070 702-vel több az előző évinél, az uniós népességnövekedés főként a migrációnak tulajdonítható - közölte az uniós statisztikai hivatal, az Eurostat pénteken.
2025. 07. 11. 21:00
Megosztás:

A kisnyugdíjak megduplázását szorgalmazza a DK

A kisnyugdíjak megduplázását sürgette pénteki online sajtótájékoztatóján Gy. Németh Erzsébet, a Demokratikus Koalíció (DK) alelnöke.
2025. 07. 11. 20:00
Megosztás:

A Katolikus Karitász tízmillió forint azonnali támogatást különített el a károsultaknak

Tízmillió forint azonnali támogatást különít el a Katolikus Karitász az e hét elején az országon végigsöprő viharok miatt nehéz helyzetbe került családok számára.
2025. 07. 11. 19:00
Megosztás:

A lakásokban több mint 7,5 milliárd, a vállalatoknál, intézményeknél csaknem 2 milliárd forintnyi kár keletkezett

A héten rendkívüli erejű vihar csapott le Magyarországra, az első három napon a Mabisz-tagbiztosítókhoz érkezett kárbejelentések alapján 45 734 lakásban 7 milliárd 526 millió forint kár keletkezett, ezáltal a lakásokban a vihar átlagosan 165 ezer forintnyi kárt okozhatott. A vállalatok, intézmények, önkormányzatok 1700 káreseményt jelentettek be, 1 milliárd 941 millió forint értékben - közölte a Magyar Biztosítók Szövetsége (Mabisz) pénteken az MTI-vel.
2025. 07. 11. 17:30
Megosztás:

Ha több hitelük lenne az embereknek, az előnyösebb lenne a magyar gazdaságnak

Noha a hazai háztartások alacsony eladósodottsága első ránézésre előnyös adottságnak tűnik, ugyanakkor több kutatás is rámutat: bizonyos esetekben a magasabb – de nem extrém – hitelállomány kifejezetten serkentőleg hat a gazdaságra, és a lakosság jóléte szempontjából is előnyös. Az MBH Elemzési Centrum szakértői szerint a magyarországi háztartási adósságállomány jelenleg alacsonyabb a régiós átlagnál, s így valószínűleg a növekedési szempontból optimális szinttől is elmarad.
2025. 07. 11. 17:00
Megosztás:

Nyár, diákmunka, első fizetés – és az első pénzügyi döntések

Játékkonzol, robogó, nyári utazás vagy egy régóta vágyott ruhadarab – ki ne emlékezne arra, mire költötte élete első fizetését? És mire gyűjtenek a mai fiatalok? A nyári szünetben sok kamasz és fiatal találkozik először a munka világával, így most különösen aktuális a kérdés.
2025. 07. 11. 16:30
Megosztás:

Egyedülálló élménygazdaságot alakítanak ki a gödöllői egyetemen

Egyedülálló növénytermesztési és állattenyésztési bemutatókertet alakítanak ki Gödöllőn, a Magyar Agrár- és Élettudományi Egyetem (MATE) Szent István Campusán - jelentették be pénteken a helyszínen tartott sajtótájékoztatón.
2025. 07. 11. 16:00
Megosztás:

Gyorsult az éves infláció Romániában

Júniusban 5,66 százalékra gyorsult az éves infláció Romániában - közölte pénteken az Országos Statisztikai Intézet (INS).
2025. 07. 11. 15:30
Megosztás:

Michelin-csillagos étterem séfje főz Budapesten Jennifer Lopeznek

Hatalmas megtiszteltetésnek nevezte az esztergomi 42 Restaurant séfje, hogy felkérést kaptak Jennifer Lopez budapesti koncertjére, a catering biztosítására. Koppány Levente elárulta, hogy az étlap összeállításánál fontos szempont volt az egészségtudatosság.
2025. 07. 11. 15:00
Megosztás:

Megvan a százezer (BUX, OTP…)

Tegnap elérte a BUX a lélektani százezer pontot, sőt – napközben – meg is haladta azt (akárcsak ma). Persze nem a magyar piac volt az egyedüli, amely új csúcsra emelkedett, hanem pl. az S&P500, a DAX, vagy éppen a varsói börze is. Az utóbbi esetében az az érdekes, hogy az is a 100.000 ponttal küzd mostanában.
2025. 07. 11. 14:30
Megosztás:

Borsot törhet az USA az oroszok orra alá

Donald Trump az NBC-nek adott interjújában arról beszélt, hogy várhatóan hétfőn kiad egy nyilatkozatot Oroszországgal kapcsolatban.
2025. 07. 11. 14:00
Megosztás:

A teljes használtautó-piac felpörgött júniusban

A korábbi hónapokban megszokhattuk, hogy az előző évekhez képest folyamatosan bővül az elektromos és hibrid hajtásláncú használt autók piaca, júniusban azonban a korábban csak stagnáló hagyományos (benzin, dízel) hajtású autók is újra szárnyra kaptak.
2025. 07. 11. 13:30
Megosztás:

120 ezer diák dolgozik a nyáron: itt vannak a legjellemzőbb órabérek

Nem meglepő módon a nyári szezon a legintenzívebb időszak a diákmunkások számára, de ma már közel sem igaz, hogy kizárólag erre az időszakra koncentrálódik a diákmunka.
2025. 07. 11. 13:00
Megosztás:

A fenntartható gazdaságélénkítés kulcsa az épületállomány energetikai megújítása

A hazai lakóépületek energiahatékonysági korszerűsítése egyszerre jelent gazdasági növekedési lehetőséget, társadalmi támogatottságot élvező beruházási irányt és klímavédelmi lépést. A K&H Bank az Egyensúly Intézet által koordinált szakmai szövetség tagjaként aktív szerepet vállal abban, hogy Magyarország épületenergetikai felújítási programja hosszú távon is fenntartható és igazságos módon valósuljon meg.
2025. 07. 11. 12:30
Megosztás:

Szinte önerő nélkül, 35 millió Ft Otthon Start hitelt venne fel egy átlagos érdeklődő

Úgy tűnik annyira megfogadták a kormány tanácsát a lakásvásárlók, hogy már önerőt is csak alig akarnak az első lakásuk vásárlásakor felhasználni – derül ki a Bankmonitor Otthon Start kalkulátorának adataiból. A nagy kérdés, hogy erre majd igent mondanak-e a bankok?
2025. 07. 11. 12:00
Megosztás:

Kriptokivégzés: 700 millió dollárnyi short pozíció égett el percek alatt – a Bitcoin bikák diadala

Valóságos mészárlás zajlott le a kriptopiacon: alig egy óra alatt több mint 700 millió dollár értékben likvidálódtak pozíciók – döntően azok, akik a bitcoin esésére fogadtak. A klasszikus short squeeze jelenség látványosan söpört végig a piacon, és újabb történelmi csúcsra repítette a Bitcoint. De mi indította be a lavinát, és mit jelent mindez a továbbiakra nézve?
2025. 07. 11. 11:30
Megosztás: