Kié a felelősség, ha rosszul dönt vagy diszkriminál az AI?

forrás: Prím Online, 2025. január 24. 10:16

Tavaly év végére a globális AI-beruházások elérték a nagyságrendileg 500 milliárd dolláros álomhatárt, de ez még csak a kezdet, hiszen a mesterséges intelligencia jó úton halad afelé, hogy minden szektorban alaptechnológiává váljon. Ahogy azonban egyre több területre férkőzik be a mindennapokban, úgy merülnek fel a jogi-etikai kételyek is, így például az AI "fekete doboz" problémája, a diszkrimináció vagy éppen a felelősség kérdése. 

Az Európai Unió a világon elsőként reagálva hozott létre átfogó szabályozási keretet, mégpedig kockázati alapon megközelítve a kérdést, ugyanakkor a kritikus hangok arra hívják fel a figyelmet, hogy a túlzó és bürokratikus rendelkezések ronthatják az egyébként is lemaradó kontinens versenyképességét. Miért olyan fontos az úttörő technológiát etikai szempontból is vizsgálni és hogyan biztosíthatják a cégek, hogy a fejlesztéseik ne hasaljanak el az AI Act miatt? Az AI bevezetése önmagában nem jó vagy rossz; az etikus vagy kevésbé etikus felhasználás attól függ, milyen céllal és milyen körülmények között alkalmazzuk – hangsúlyozzák a Stylers Group szakértői.

 

Kilőtt az AI biznisz

 

Dinamikusan nő a mesterséges intelligenciára épülő újabb és újabb fejlesztések száma, tavaly csak az amerikai piacon 130%-os növekedésről számoltak be a cégek 2023-hoz képest az AI büdzsék terén. Leginkább a generatív AI megoldások hasítanak, a legtöbbet pedig a szoftverek és információs szolgáltatások szegmensében, illetve a banki és kiskereskedelmi szektorban költik a mesterséges intelligenciára. Minden jel arra mutat, hogy akár már néhány éven belül AI-alapú lehet minden technológia. Ugyanakkor egyre több etikai kétely merül fel a mesterséges intelligencia használata kapcsán, melyek dinamikus térnyerésével párhuzamosan mind nagyobb aggodalmat keltenek. 

 

„Az algoritmusok pontos működése sokszor átláthatatlan, következtetései elfogultak vagy éppen diszkriminatívak lehetnek, sőt, arra is van példa, hogy az AI az emberek által elfogadott etikai normák áthágásától sem riad vissza” – mondja Gönczy Gábor, a Stylers Group információ-technológiai cégcsoport ügyvezető-tulajdonosa. A közelmúltban például egy vizsgálat rámutatott a ChatGPT azon képességére, hogy megtévessze az embereket és megpróbálja megkerülni a leállítására irányuló parancsokat, az OpenAI egy másik mesterséges intelligenciája pedig meghackelt egy sakkjátszmát, hogy egy nála erősebb ellenfél – egyébként szintén AI – ellen győzni tudjon, holott erre semmilyen utasítást nem kapott. „Nem nehéz belátni, hogy az algoritmusok megregulázása alapfeltétele annak, hogy biztonságos és etikus keretek között tudjuk kihasználni a bennük rejlő szinte korlátlan lehetőségeket” – teszi hozzá Gönczy Gábor.

 

Freepik

 

Kellenek a szabályok, de a szemlélet az igazán fontos

 

Mindez olyan etikai kérdésekhez vezet, melyek egyre inkább foglalkoztatják a szakmát és a közvéleményt is: kié a felelősség a hallucináló algoritmusokért vagy a tőlük érkező hibás, esetleg diszkriminatív döntésekért? Fontos leszögezni, hogy az AI működésével kapcsolatos következményeket – akár pozitív, akár negatív értelemben – mindig az ember viseli, még akkor is, ha döntéseit vagy cselekedeteit a mesterséges intelligenciára alapozza. Miközben kétségtelenül egyre több területen alakítja át a folyamatokat és a humán szerepköröket a technológia, napjaink egyik meghatározó félelme, hogy a gépek elveszik a munkánkat, megélhetésünket. Ha az AI-t kizárólag a munkaerő leépítésének céljával és a rövid távú profitmaximalizálás érdekében fejlesztik, annak komoly társadalmi ára lehet, de ha stratégiai szemlélettel automatizálunk és odafigyelünk a dolgozók átképzésére, akkor jelentősen hozzájárulhat a termelékenységhez és életmódunk drasztikus javulásához. Az etikus megközelítés tehát az egyensúlyt keresi az emberközpontú használat, a felelős döntéshozatal és a hosszú távú társadalmi előnyök között. 

 

Az ennek kapcsán felmerülő kihívások kezelésére – a világon elsőként – az AI Act, az Európai Unió Mesterséges Intelligenciáról szóló törvénye átfogó szabályozási keretet biztosít az AI-rendszerek fejlesztésére és alkalmazására, különös tekintettel az etikai normák betartására. A kockázatalapú szemlélettel megalkotott törvény főbb elvei között kitér például a megkülönböztetésmentesség és méltányosság kérdésére, illetve többszintű átláthatósági követelményeket is tartalmaz a megfelelő felügyelet érdekében. Egy jól felépített AI-fejlesztési folyamat, amely a technikai szempontokon túl magában foglalja az emberi és etikai elvárásokat is, segít elérni, hogy a rendszer biztonságos, megbízható és társadalmilag hasznos legyen. Így nemcsak a most formálódó AI Act-nek, hanem a hosszú távú fenntarthatósági elveknek is meg lehet felelni.

 

Az etikus fejlesztés hosszú távra tervez és bevonja a munkavállalókat is

 

Az etikus és az AI Act előírásainak megfelelő mesterséges intelligencia-fejlesztésekhez elengedhetetlen, hogy a folyamatot átgondolt és felelős gyakorlatok vezéreljék. Első lépésként kockázatelemzést kell végezni annak érdekében, hogy a termék vagy szolgáltatás besorolása és lehetséges hatásai egyértelműek legyenek. Fontos figyelmet fordítani az adatvédelemre, az adatminőségre és a privacy-követelmények, például a GDPR betartására. Emellett az algoritmusok tisztességes működésének érdekében gondoskodni kell a diszkrimináció megelőzéséről és az esetleges torzítások (bias) kezeléséről is. Ahhoz, hogy mindez teljes mértékben átlátható legyen, a fejlesztést megfelelő dokumentációval és belső megfelelés-kezelési folyamatokkal szükséges támogatni, az emberi felügyelet jelenléte és fenntartása pedig minden lépésénél nélkülözhetetlen. 

 

A munka persze nem fejeződik be a fejlesztéssel, a rendszerek monitorozása és felülvizsgálata hosszú távú elkötelezettség, melynek során érdemes bevonni a releváns szereplőket is. „Mindez egyben azt is jelenti, hogy a technológiát mélységeiben ismerő szakemberek közreműködése mellett az AI-rendszereket napi szinten használó munkavállalók is felkészülten vegyenek részt a folyamatban. Ehhez vezetői elkötelezettségre, folyamatos edukációra és célirányos képzési rendszerre van szükség, amely abban is támogatja a munkavállalókat, hogy valóban hatékony módon tudják használni a mesterséges intelligencia által kínált megoldásokat. Nem utolsó sorban, ennek komoly megtartó ereje is van: ha a kollégák kompetensnek érzik magukat az új technológiákban, az nagyban mérsékelheti félelmeiket, például azzal kapcsolatban, hogy bármikor átvehetik a helyüket az algoritmusok” – hangsúlyozza Gönczy Gábor.

 

Megoldás ROVAT TOVÁBBI HÍREI

Magyar és szaúd-arábiai digitalizációs fórum Rijádban

A Magyar-Szaúd-Arábiai Digitalizációs Klaszter tagjainak részvételével lezajlott Rijádban a magyar és szaúd-arábiai digitalizációval foglalkozó vállalkozások közötti üzleti kapcsolatok erősítését célzó üzleti fórum.

2025. február 17. 18:16

Vidéki Otthonfelújítási Program: Támogatás már nyugdíjasoknak is

A Vidéki Otthonfelújítási Program 2025 januárjában indult, és a legújabb kormánydöntés értelmében most már a nyugdíjasok is részt vehetnek benne. Bár nehéz pontosan meghatározni, hogy mekkora költséggel kell számolni egy átlagos fűtéskorszerűsítés esetén, van néhány tényező, amelyek segítenek megbecsülni a kiadásokat. Szakértői segítség nyújt a szabályok és a lehetőségek közötti eligibilitásban.

2025. február 17. 15:03

Innovatív akkumulátorok a cseh vasút jövőjéért

Az ABB és a Skoda Group bejelentették első közös partneri együttműködésüket, amely mérföldkőnek számít a vasúti villamosítás területén. Az együttműködés első szakaszában az ABB innovatív Traction Battery Pro Series akkumulátorokat szállít, melyek könnyűek, kompaktak, és úgy lettek tervezve, hogy növeljék a járművek teljesítményét, miközben csökkentik a karbantartás és az állásidő szükségességét. 

2025. február 17. 11:38

A magyar cégeknél háttérbe szorul a digitális átalakulás

A K&H 2024 második féléves innovációs index kutatása szerint a magyar vállalatok innovációs aktivitása nagyot zuhant az elmúlt időszakban. A megvalósult innováció alindex jelentős csökkenést mutatott, és a digitalizáció is megtorpanni látszik, ahogy kimerülni tűnik a mesterséges intelligencia-láz is. A vállalatok rendkívül óvatosak és egyre kevesebb erőforrást fordítanak új termékek, szolgáltatások és digitális megoldások fejlesztésére, ami hosszú távon versenyképességi kihívásokat jelenthet.

2025. február 17. 10:04

Kövess minket a Facebookon!

Cikkgyűjtő

További fontos híreink

Az ESET nyerte az AV-Comparatives 2024-es Év Terméke díját

2025. február 13. 10:03

Tudatos és biztonságos online jelenlét a fiataloknak

2025. február 10. 14:59

Szoboszlai Dominik és a Liverpool: Hogyan követhetjük nyomon a mérkőzéseiket?

2025. február 7. 15:20

IAB Hungary kihirdette az Év videós hirdetése 2024 versenyének győzteseit

2025. február 7. 09:54