A fogyasztókat, vásárlókat védi a mesterséges intelligenciával kapcsolatos új szabályozás

Február 2-én lép életbe az Artificial Intelligence Act (AI Act), az EU első rendelete a mesterséges intelligenciáról (AI/MI). A szabályozás mindenkit érint, de leginkább a mindennapi életben, vásárlóként, fogyasztóként, ügyfélként láthatjuk hasznát. A jogszabály minden szervezetre és vállalatra vonatkozik, amely MI-t fejleszt, értékesít vagy használ az Európai Unió területén, függetlenül attól, hogy az EU-ban vagy azon kívül működik Ma már egyre több szervezet – leginkább technológiai, egészségügyi, biztonságtechnikai cég, pénzintézet, szolgáltató, startup, kormányzati intézmény - egyszerűsíti működését és gyorsítja fel folyamatait mesterséges intelligencia vagy chatbot használatával. Az automatizáció és a digitalizáció miatt Magyarországon is egyre gyakoribb a mesterséges intelligencia alkalmazása.

Előny a cégeknél az AI

A vállalkozások számára jelentős költség-és időmegtakarítást eredményez az AI használata.

Adatvezérelt döntéshozatallal nőhet a hatékonyság és a termelékenység, személyre szabott lehetőségeket tudnak kínálni, innovatívabb szolgáltatásokat, termékeket fejleszthetnek. A mesterséges intelligencia képes gyorsan felismerni biztonsági fenyegetéseket, például kibertámadásokat, eredményesebb banki csalásfelismerő rendszereket, videómegfigyelő rendszereket lehet működtetni a segítségével.

Segítség, vagy a magánéletbe való befurakodás a MI használata?

A talán misztikusnak tűnő alkalmazások köznapi szituációkban is működhetnek: például bolthálózatok kamerákat okosíthatnak fel és akár arcfelismerés, vagy a vásárlók boltban megtett útja alapján alakíthatják a marketingjüket. Extrém esetben lehetséges, hogy ezek alapján tudják, mikor vett a vevő utoljára intim higiéniai terméket és előrejelzik, mikor kell neki újra vásárolnia.

Az AI az élet számos más területén is megjelenhet, új kockázatokat és problémákat, de lehetőséget is teremtve. Az egészségügyben segítheti a diagnosztikát, betegségek korai felismerésében, személyre szabott kezelési tervek meghatározásában alkalmazható.

Az oktatásban, elektronikus tanulási felületeken a tanuló teljesítménye, tudása alapján egyéni előrehaladási, fejlődési lehetőséget kínálhat. Segíthet a munkaerő-kiválasztásban, a dolgozók hatékonyságának mérésében, ám kockázatot jelent a diszkrimináció vagy igazságtalan döntéshozatal és veszélyt hordozhatnak az adatvédelmi visszaélések. Sokszor előfordul a fekete doboz-hatás, azaz, hogy átláthatatlan a működés, nem érthető, hogyan és miért hozott meg egy döntést egy MI rendszer és az milyen hatással van az érintettekre.

A cél az, hogy úgy használják a cégek az AI-t, hogy az ne sértse senki magánéletét

Az AI Act célja nem a teljes tiltás, hanem az, hogy a MI rendszerek biztonságosak legyenek, minden fejlesztő és működtető felelősen alkalmazza a mesterséges intelligenciát, biztosított legyen az alapvető jogok védelme, a magánélethez és a méltányos bánásmódhoz való jog. A vállalkozásokat is védi, mivel az egységes szabályozási keret csökkenti a nemzetközi versenyből adódó káoszt és támogatja a tisztességes versenyt.

„Meg kell vizsgálni mindenkinek, aki AI alkalmazást használ, hogy ennek milyen kockázati besorolása van: tiltott, magas, közepes vagy alacsony. Az AI ACT hatályba lépésekor meg kell szüntetni a tiltott tevékenységeket és ezeket megfelelően dokumentálni is kell az elszámoltathatóság jegyében” – hívta fel a figyelmet Dr. Tóth Judit Lenke, adatvédelmi és pénzmosás elleni szakjogász. Kiemelte: az AI Act célja, hogy biztonságos, átlátható és emberközpontú mesterséges intelligencia alkalmazásokat hozzanak létre, miközben az MI elősegíti az innovációt.

4 szint alacsony kockázattól a tiltottig

Az AI Act kockázati szintek alapján osztályozza az MI-rendszereket.

Elfogadhatatlan kockázatú rendszerek - ezeket betiltják.
Tiltott az emberek manipulálása vagy a tömeges megfigyelés, tudatalatti befolyásolás, megtévesztő technikák alkalmazása, munkahelyeken és oktatási intézményekben érzelemfelismerő funkcióval bíró rendszerek léte és olyan alkalmazások, melyek személyek vagy csoportok sebezhetőségét használják ki. A jogszabály megakadályozza például, hogy MI alapú hitelminősítő rendszer indokolatlanul elutasítson valakit, vagy hogy arcfelismerő technológia sértse a magánéletét.

Magas kockázatú rendszerek - szigorú szabályozás alá esnek.

Ezek többek között az egészségügyi diagnosztikai MI-k és önvezető autók rendszerei.

Korlátozott kockázatú rendszerek - átláthatósági követelmények vonatkoznak rájuk:

ilyenek például a chatbotok.

Minimális kockázatú rendszerek - ezek szabadon használhatók. Ide sorolhatóak például a játékok vagy egyszerű MI-eszközök.

Hogyan valósul meg mindez a gyakorlatban?

A szabályozásból kitűnik, hogy fontos eleme a vásárlók, fogyasztók védelme, de még nincs konkrét iránymutatás, hogy honnan tudhatjuk, hogy a szolgáltató tevékenységére milyen kockázati besorolás vonatkozik. A cégeknek segítség is rendelkezésére is áll, hogy megfeleljenek az összetett szabályozásnak.

„A módszertant és a tájékoztatás módját nekünk kell kidolgozni és ismertté tenni. A minősítést a cégeknek kockázatértékelési szempontrendszer alapján kell meghatározni. Magas kockázat esetén a tájékoztatáson kívül szükséges a hatásvizsgálat, kell lennie az MI-szabályzatnak, valamint szükségessé válhat a Nemzeti Adatvédelmi és Információszabadság Hatóság bevonása is. A fogyasztóknak pedig lehetőséget kell biztosítani arra, hogy az automatikus döntéshozatal ellen tiltakozhassanak” – részletezte Dr. Tóth Judit Lenke.