Mesterséges intelligencia jogszerűtlen alkalmazását büntette a NAIH

forrás: Prím Online, 2022. április 5. 13:56

Rekordbüntetést szabott ki a NAIH, melyet a március végén megjelent előző évi beszámolójában hozott nyilvánosságra. Amellett, hogy ez az eddigi legmagasabb adatvédelmi büntetés, egyben az első is, mely mesterséges intelligencia jogszerűtlen felhasználásából adódik.

A NAIH beszámolója szerint egy meg nem nevezett pénzintézeti szereplő (bank) mesterséges intelligenciával vezérelt szoftveres megoldást alkalmazott az ügyfelek érzelmi állapotának automatizált feldolgozására. A beszédjel-felismerő és értékelő rendszer az ügyfelek hangulati állapota alapján határozta meg, mely ügyfeleket szükséges visszahívni. A bank az alkalmazást panasz és ügyfélelvándorlás megelőzése érdekében üzemeltette. A NAIH utasította a bankot az érzelmi állapotok elemzésének abbahagyására, mivel az számos ponton sérti az Általános Adatvédelmi Rendeletet (GDPR).

 

A mesterséges intelligencia rendszerekkel kapcsolatos kutatások száma és a tanuláson alapuló alkalmazások üzleti felhasználása az előző évtizedben jelentősen megnövekedett. Ez nagyrészt a technológiai környezet megváltozásának köszönhető, azonban a hatályban lévő jogi szabályozása még várat magára. A mesterséges intelligencia rendszerek képesek többek között nyelvi elemek feldolgozására is, mely alkalmassá teszi az emberi beszéd és hangelemek kiértékelésére, így az érzelmi és hangulati ingadozások viszonylag pontos meghatározására. Az intelligens rendszerek efféle felhasználása számos kivetnivalót eredményezhet, mivel etikailag is megkérdőjelezhető felhasználásuk, rejtett előítéleteket tartalmazhat, ez pedig egyéb adatok felhasználásával diszkriminatív lehet az ügyfelekre nézve.

 

dr. Barta Gergő

„Az eset számos problémát felvet; először is az ügyben érintett bank nem szerepeltette az adatvédelmi tájékoztatójában, hogy az adatkezelésnek többek közt ügyfélmegtartó szerepe is van, az ügyfelek tájékoztatás hiányában így tiltakozni sem tudtak ellene. Ezenfelül, az érdekmérlegelési tesztben nem vizsgálják az érintettek oldalát, nem részletezik a hangulati állapot elemzését és az adatvédelmi hatásvizsgálatban sem javasolnak érdemi megoldást ennek a nem elhanyagolható kockázatnak a csökkenésére” – elemzi az ügyet dr. Barta Gergő, a Deloitte Kockázatkezelési tanácsadás üzletágának szakértője. 

 

A NAIH kötelezése felhívja a figyelmet az adatkezeléssel kapcsolatban az érintetti jogok megfelelő biztosítására, különösen, de nem kizárólagosan a megfelelő tájékoztatásra és a tiltakozáshoz való jognak a biztosítására. Az adatkezelésnek a szükségesre kell korlátozódnia, és ennek megfelelő tájékoztatást kell nyújtani az érintettek részére a kapcsolódó pontos következmények megjelölésével. 

 

A jelen eset kapcsán érdemes megemlíteni, hogy az EU-s mesterséges intelligenciáról szóló rendelettervezet 52. cikke alapján az érzelemfelismerő rendszerek esetében a tervezet szigorú tájékoztatási kötelezettségeket állapít meg, amelyek megszegése esetén magas, tiltott gyakorlatok alkalmazása esetén, akár 30 millió eurós bírsággal kell számolni. 

 

dr. Albert Lili

„Ez az ügy tökéletesen szemlélteti, hogy a mesterséges intelligenciára egy új típusú és fokozott kockázatú technológiaként kell gondolnunk, amit működési elvéből adódóan igen nehezen lehet átlátni és követni. A GDPR követelményei nem csak adminisztrációs feladatokat rónak az adatkezelőkre, a dokumentumokat nem elegendő csak formailag elkészíteni, a teendőt „kipipálni”. Jogos érdek alkalmazása esetén ez azt jelenti, hogy az érintetteket fenyegető adatvédelmi kockázatokat teljeskörűen fel kell tárni, és ezek kezelésére alkalmas szervezeti és technológiai garanciákat kell az adatkezelőnek életbe léptetnie. Nem magától értetődő tehát, hogy az adatkezelő jogos érdekére alapítva minden esetben megvalósítható az adatkezelés csak azért, mert erről egy teszt készül” – tette hozzá dr. Albert Lili, a Deloitte Legal Technológia és Adatvédelmi Csoportjának jogi szakértője.

Trend ROVAT TOVÁBBI HÍREI

Hazánkban is megkerülhetetlen lesz a mesterséges intelligencia

Magyarországon is versenyhátrányba kerülnek azok a munkavállalók, akik nem képesek alkalmazni a mesterséges intelligenciát (MI), és azon médiavállalatok, amelyek nem integrálják az új technológiákat a munkafolyamataikba – olvasható a Nemzeti Média- és Hírközlési Hatóság (NMHH) friss tanulmányában, hozzátéve: a magyarok inkább pozitívan gondolnak az MI-megoldásokra.

2024. május 21. 19:10

Indul az emberszabású robotok sorozatgyártása

Már jövőre megindulhat az első ipari célú humanoid robotok sorozatgyártása. Ezekkel az eszközökkel a manuális tevékenységek több mint fele automatizálható. Az emberszabású robotok bevezető ára 80.000 euró körül várható, de így is nagyjából másfél év alatt megtérül egy ilyen beruházás – mutatta ki tanulmányában a stuttgarti központú Horváth csoport, amelynek magyarországi tagja az IFUA Horváth.

2024. május 21. 13:02

KPMG: Az energiaipar sem ússza meg a genAI bevezetését

Óvatosak a generatív mesterséges intelligencia bevezetése kapcsán az energiaipari vezetők. A KPMG Global Energy CEO Outlook legutóbbi kutatása szerint a vezérigazgatók a jelenlegi ingatag geopolitikai és politikai helyzetben is bizakodóak a növekedési kilátásokat illetően, a befektetések terén pedig legfőbb prioritásuk a generatív mesterséges intelligencia. Lelkesedésüket mérséklik azonban az etikai problémák és a kiberbiztonsági kockázatok. A kutatásból az is kiderül, hogy a vezérigazgatók az ESG-t ma már az üzleti siker egyik alapjának tartják.

2024. május 21. 11:28

A műanyaghulladékot a felére csökkentették az ABB finnországi gyárában

A hulladékok újrahasznosítására irányuló innovatív eljárások bevezetésével az ABB finnországi Porvoóban találha-tó gyártóüzeme 50 százalékkal csökkentette a vegyes műanyaghulladék mennyiségét, és 2023-ban közel 20 száza-lékkal javította az újrahasznosítás arányát. Az újrahasznosítási erőfeszítések fontos lépést jelentenek a Föld erőfor-rásainak megőrzése és az ügyfelek fenntarthatósági kötelezettségvállalásainak támogatása felé; ezen erőfeszítések 2024-ben 16 égerfa átlagos súlyának megfelelő mennyiségű polipropilént takarítanak meg.

2024. május 21. 09:54

Kövess minket a Facebookon!

Cikkgyűjtő

További fontos híreink

Utazási konferencia az Angyalok városában

XX. E-KERESKEDELMI KONFERENCIA BY SAMEDAY

2024. május 17. 14:47

Az IKEA Kreativ megérkezett Magyarországra

2024. május 15. 17:52

Továbbra is Christian Klein az SAP első embere

2024. május 7. 13:17

Magyar siker: Nemzetközi díjat nyert a TIME magazintól a nyelvtanuló-applikáció

2024. május 3. 19:59