Hogyan kategorizálja az EU AI Act a mesterséges intelligencia rendszereket?
A mesterséges intelligencia használata mára a legtöbb területen már fellelhető valamilyen formában, így a HR-szektorban is egyre nagyobb jelentőséget kap, különösen a toborzás és kiválasztás területén. Az AI Act szabályainak való megfelelés érdekében ellenőrizni kell, hogy az AI-rendszer melyik kockázati csoportba tartozik és ezáltal munkáltatónak, illetve a külsős HR-es cégnek milyen kötelezettségeknek kell megfelelnie. Az AI Act szabályozási struktúrája kockázatalapú megközelítést követ, négy kategóriába sorolja az AI rendszereket, modelleket az alapján, hogy azok milyen hatással lehetnek a társadalomra és az alapvető emberi jogokra. Ez alapján megkülönböztet elfogadhatatlan, nagy, korlátozott és minimális kockázatú AI-t.
Milyen szabályozást követ az EU AI Act a munkahelyi érzelemfelismerő rendszerek használatával kapcsolatban, avagy a HR-szektor és az „elfogadhatatlan kockázatú” AI.
A HR-ágazatban a legnagyobb veszélyt az „elfogadhatatlan kockázatú” AI gyakorlatok jelentik – hangsúlyozta Dr. Szabó Gergely Gábor, a Bán, S. Szabó, Rausch & Partners Ügyvédi Iroda szabályozási ügyekért felelős vezető ügyvédje. Ezek az EU értékeivel ellentétesek és használatuk tilos. Az AI Act alapján a legmagasabb kockázati csoportba tartoznak azok az AI rendszerek, amelyek a munkahelyi környezetben érzelmekre következtetnek. Az érzelemfelismerő rendszerek használata során a mesterséges intelligencia az ember biometrikus adataiból képes következtetni például a munkavállaló elégedettségi szintjére, mentális állapotára. Elég lehet tehát akár egy mozdulat, egy rosszalló mosoly, vagy akár az emberi hang egyes jellemzői is, például suttogás és az AI máris értékes következtetéseket tesz munkáltató számára. Az érzelemfelismerő rendszerek ilyen jellegű munkahelyi használatát az AI Act egyértelműen tiltja és 2025. február 2.-től komoly következményeket helyez kilátásba.
Az AI Act megsértése súlyos bírságot von maga után, melynek maximális összege akár 35 millió Euró, vagy a vállalkozás éves forgalmának 7%-a lehet, attól függően, hogy melyik súlyosabb. Vannak azonban olyan kivételes helyzetek, melyek esetében a munkahelyi érzelemfelismerő rendszerek használata mégsem válik tiltottá. Egy biztonsági vagy orvosi okból telepített, vagy forgalomba hozott munkahelyi környezetben használt AI, mely pl. balesetek megelőzése érdekében felismeri a fáradtságot tehergépkocsi-vezetők esetében olyan kivétel, melynek használata az AI Act alapján is engedélyezett. Fontos, hogy bár az ilyen rendszerek használata nem tiltott, de „nagy kockázatú” AI-rendszerek kategóriájába tartoznak, így a „nagy kockázatú” mesterséges intelligenciára vonatkozó szabályok irányadóak rájuk.
Hogyan szabályozza az AI Act a „nagy kockázatú” mesterséges intelligencia rendszereket a HR-ágazatban?
A foglalkoztatással kapcsolatos „nagy kockázatú” kategória hatálya alá tartozó tevékenységek várhatóan igencsak széles körben érintik majd a HR-ágazatot és a munkáltatókat. Ezek jelentős veszélyt jelentenek a természetes személyek egészségére, biztonságára vagy alapvető jogaira, és bár az AI Act nem tiltja, használatukat szigorú követelmények betartásához köti. A munkáltatóknak és a HR szakembereknek számos technikai, szervezési és védelmi intézkedést meg kell tenniük annak érdekében, hogy az ilyen AI-rendszer használata az AI Act rendelkezéseivel összhangban álljon – emelte ki a Bán, S. Szabó, Rausch & Partners Ügyvédi Iroda szakértője.
Ebbe a kategóriába tartoznak - a foglalkoztatással és a munkavállalók irányításával összefüggésben - a toborzásra vagy kiválasztására szánt AI-rendszerek, a munkaviszonyt érintő döntések meghozatalára használt AI, valamint számos olyan funkció, mint az előléptetés, felmondás vagy a teljesítmény értékelése. Épp ezért fontos, hogy az AI rendszerek bevezetésére megfontolt döntést követően hatékony jogi támogatás mellett kerüljön sor – emelte ki dr. Szabó Gergely Gábor.
A HR-ágazatban használt AI-rendszerekkel kapcsolatos követelmények célja az átlátható, megkülönböztetésmentes és méltányos működés biztosítása. A vonatkozó kötelezettségek a teljesség igénye nélkül a következők:
- Toborzás és kiválasztás
- Tájékoztatási kötelezettség: A munkáltatónak, illetve a külsős HR cégnek értesítenie kell az adott pozícióra jelentkezőket, hogy esetükben AI-rendszert alkalmaz az állásinterjúk vagy önéletrajzok értékelésére. A jelölteknek továbbá joguk van megismerni, hogy milyen adatokat és hogyan dolgozott fel az AI a kiválasztás során.
- Adatminőség: Az AI-rendszer által használt adatoknak relevánsnak és kellően reprezentatívnak kell lennie a modell rendeltetése szempontjából. Az adatok rendszeres felülvizsgálata elengedhetetlen az esetleges torzítások elkerülése végett, azért, hogy eredményesen biztosítható legyen a diszkriminációmentesség és megelőzhető legyen a téves döntéshozatal.
- Diszkriminációmentesség: A munkáltatónak, illetve a külsős HR cégnek gondoskodnia kell arról, hogy az AI-ban alkalmazott algoritmusok ne erősítsék a hátrányos megkülönböztetést, ne tartalmazzanak előítéleteket valamely védett tulajdonság (nem, etnikum, kor stb.) alapján.
- Emberi felügyelet: A munkáltatónak, illetve a külsős HR cégnek hatékonyan kell biztosítania az általa alkalmazott AI-rendszerek emberi felügyeletét, úgy, hogy a hozzá értő, kellő szakértelemmel rendelkező személy képes legyen többek között figyelemmel kísérni az AI működését, illetve dönteni a rendszer használatának mellőzéséről, vagy kimenetének figyelmen kívül hagyásáról.
- Munkavállaló értékelése
- Tájékoztatási kötelezettség: A munkavállalót, az értékelése során is tájékoztatni kell arról, ha a teljesítményének felméréséhez AI-rendszert vesznek igénybe és arról is, hogy az értékelés során az AI milyen adatokat és hogyan dolgozott fel, illetve milyen szempontokat vett figyelembe.
- Emberi felügyelet: Ahogy a toborzás és kiválasztás során is, úgy a munkavállaló értékelése során is biztosítani kell a hatékony emberi felügyeletet a kockázatok csökkentésének érdekében.
- Adatvédelem: Az értékelés során AI által felhasznált adatoknak meg kel felelnie a hatályos adatvédelmi szabályoknak.
- Munkaviszonyt érintő döntések meghozatala, a felmondás
- Tájékoztatási kötelezettség: Amennyiben a munkaviszonyra vonatkozó döntés, pl. előléptetés, vagy felmondás elhatározására AI-rendszer közreműködésével került sor, a munkáltatónak tájékoztatnia kell az érintettet arról, hogy a döntés meghozatala során AI-t használtak és arról is, hogy az hogyan, milyen szempontok alapján segítette a döntéshozatalt. A munkavállalót tájékoztatni kell továbbá a döntés indokairól és a mögötte húzódó folyamatokról.
- Diszkriminációmentesség: A munkáltatónak biztosítania kell a munkaviszony érintő döntések során, hogy az AI-rendszerek kerüljék a nem, kor, etnikum vagy egyéb védett tulajdonság alapján történő hátrányos megkülönböztetést. Azzal, hogy az alkalmazott AI nem válik a megkülönböztetés forrásává, a munkáltató fontos lepést tehet az egyenlő bánásmód eredményes biztosításának irányába.
A fent leírtakon felül általános követelményként fogalmazható meg még az AI-rendszerek használati utasításoknak megfelelő alkalmazása, az átlátható működéshez szükséges technikai feltételek megteremtése, szolgáltató tájékoztatása az AI használata során észlelt hibákról, incidensekről, valamint az AI-rendszer által automatikusan generált naplók megőrzése legalább 6 hónapig, kivéve, ha az uniós vagy nemzeti jog ettől eltérően nem rendelkezik.
Mi a helyzet a munkahelyi Chatbotok használatával?
Az AI Act alapján nem minősül minden munkahelyi felhasználási eset elfogadhatatlan vagy nagy kockázatúnak. Vannak, magukban csekélyebb veszélyt hordozó felhasználási módok, melyekre enyhébb átláthatósági követelmények vonatkoznak. Az ilyen korlátozott kockázatú AI-rendszerek nem esnek a „nagy kockázatú” kategóriába, mivel nem gyakorolnak jelentős hatást az érdemi döntéshozatalra, ezáltal nem jelentenek számottevő veszélyt az emberek alapvető jogaira, egészségére vagy biztonságára. Erre lehet példa egy szűkebb eljárási feladat elvégzésére használt, vagy egy döntés meghozatalát ténylegesen nem befolyásoló AI. Általában ilyen korlátozott kockázatú mesterséges intelligenciának minősülnek a munkáltatók által használt „Chatbotok”, vagy munkavégzést elősegítő rendszerek is, melyek használata során a legfontosabb követelmény a felhasználó számára egyértelművé tenni, hogy mesterséges intelligenciával kommunikál.
Elég az AI Act szabályainak megfelelni és hátradőlni?
Az AI Act kapcsán fontos tisztázni, hogy a munkavállalók személyes adatait kezelő, illetve feldolgozó AI-rendszerek esetén az adatvédelmi szabályok, így a GDPR és a Munka törvénykönyve („Mt.”) rendelkezéseit is be kell tartani.
A munkavállalókkal kapcsolatos AI használat kapcsán is fontos, hogy a munkáltató a munkavállalótól csak olyan nyilatkozat megtételét vagy személyes adat közlését követelheti, amely a munkaviszony létesítése, teljesítése, megszűnése szempontjából lényeges. A célhoz kötöttség elvéből következik, hogy az érintett személyes adatait a toborzás és kiválasztás, a munkavállaló értékelése, a munkaviszonyt érintő döntések meghozatala és felmondás során csak olyan mértékben lehet felhasználni, mely az elérni kívánt cél megvalósításához feltétlenül szükséges és erről az érintettet írásban tájékoztatni is kell.
Amennyiben egy korábban meghatározott célra felhasznált adatot kíván a munkáltató egyéb célra felhasználni, akkor ahhoz új jogalapra lesz szüksége (érintett hozzájárulása, törvényi felhatalmazás). Például, ha a HR-osztály a toborzási folyamatok során az érintett önéletrajzából gyűjt adatokat, azt kizárólag a kiválasztási folyamatok során használhatja fel.
Az Mt. és az AI Act vonatkozó szabályait együtt kell alkalmazni. Ez alapján, bár felmerülhet olyan eset, hogy a munkavállaló jogos érdeke alapján lehetőség mutatkozik, többek között a munkavállaló biometrikus adatainak - a beléptetés során, az érintett azonosítása érdekében történő - kezelésére, azonban az ilyen azonosítás során kezelt adatok sem használhatók fel más célra, például a munkavállaló érzelmeinek értékelésére.
A munkáltatónak az Mt. 11/A. §-a szerinti tájékoztatás mellett az AI Act szerinti tájékoztatást is meg kell adnia a munkaviszonnyal összefüggő ellenőrzése során. Amennyiben ehhez technikai eszközt alkalmaz, az Mt. 11/A. §-a alapján a munkavállaló írásbeli tájékoztatására van szükség. Abban az esetben viszont, ha a teljesítmény értékeléséhez AI-rendszert is igénybe vesznek, az Mt-ben foglaltakon túl szükséges a munkavállalót tájékoztatni arról is, hogy a teljesítményének felméréséhez AI-rendszert alkalmaznak, és arról, hogy az értékelés során milyen adatokat és hogyan dolgozott fel, illetve milyen szempontokat vett figyelembe az AI.
Hogyan érdemes felkészülni?
Mindezek alapján kellő körültekintéssel kell lenniük a munkáltatóknak és a HR szakembereknek az AI-rendszerek bevezetése és használata során, mivel számos feltételnek meg kell felelni mind az AI Act, mind a GDPR és az Mt. szempontjából.
Első körben a legfontosabb lépés a használt, vagy használni tervezett eszközök auditjának elvégzése, annak érdekében, hogy megérthessük, hogy a szabályozás hatálya mennyiben érinti a tevékenységünket. Ezt követően érdemes meghatározni, hogy jogszerű működés érdekében mit kell megváltoztatni, ha korábban már alkalmaztunk AI Act szabályozása alá tartozó rendszert. Fontos továbbá gondoskodni a szükséges technikai feltételekről, a megfelelő szabályzatokról, az eszközök felügyeletét ellátó személyek képzéséről, nyilvántartások vezetéséről, valamint a munkavállalók és képviselőik tájékoztatásáról.
