Mi rejlik a chatbotok „fejében”? – A mesterséges intelligencia rejtett működése
A mesterséges intelligencia (MI) egyre több feladatban segít a mindennapjainkban, de vajon mi történik egy chatbot „fejében”, amikor válaszol egy kérdésre vagy végrehajt egy utasítást? Többek között erre a kérdésre keres választ a Szegedi Tudományegyetem Mesterséges Intelligencia Kompetencia Központjának kutatása, amely áprilisban indul az amerikai Rutgers Egyetem és a német Ludwig-Maximilians-Universität közreműködésével. A kutatás célja, hogy jobban megértsük a generatív nyelvi modellek működését, és ezzel hozzájáruljunk a technológia biztonságosabb és hatékonyabb alkalmazásához.
A generatív MI modellek működésének megértése
A mesterséges intelligencia képes utánzani az emberi gondolkodást, de vajon tényleg érti a döntéseit? A generatív modellek – amelyek különféle algoritmusok és gépi tanulási módszerek segítségével új tartalmakat hoznak létre adott utasítások alapján – akár sakkot is játszhatnak, de vajon valóban értik a játékszabályokat, vagy csak mintákat követnek, anélkül, hogy tudnák, hogyan működik a játék?
A RAItHMA projekt keretében végzett kutatás egyik fontos témája annak feltárása, hogyan reprezentálják a generatív MI modellek az egyes fogalmakat, és milyen kapcsolatban állnak ezek egymással. Például ha egy chatbot igaznak talál egy állítást, akkor vajon automatikusan hamisnak tekinti-e annak tagadását? Az emberi gondolkodás számára ez magától értetődő, de a nyelvi modellek esetében nem mindig ez a helyzet.
A chatbotok korlátai
„A nagy nyelvi modellek nem a valódi tudást vagy a szabályok megértését sajátítják el, hanem csupán a szövegek folytatására alapoznak. Emiatt a chatbotok néha olyan alapvető kérdésekben is tévednek, amelyeket egy kisgyerek is képes megválaszolni. Ha például felsoroljuk a hét törpe nevét, majd megkérdezzük, hogy egy adott név szerepelt-e a listán, a modell nem mindig tudja a helyes választ. Az MI képes akár összetett matematikai feladatok megoldására is, viszont a halmaz fogalmával és néhány egyszerű feladvánnyal is nehezen birkózik meg. Ha sikerül megérteni ennek okait, nagy lépést tehetünk előre a mesterséges intelligencia jobb megértésében és biztonságosabb alkalmazásában” – mondta Dr. Jelasity Márk, az Interdiszciplináris Kutatásfejlesztési és Innovációs Kiválósági Központ Mesterséges Intelligencia Kompetenciaközpontjának vezetője.
A kutatók arra is kíváncsiak, mi áll ezeknek a zűrzavaroknak a hátterében, milyen belső tudással rendelkeznek a modellek, és hogyan csökkenthető a kommunikációs zűrzavar az emberek és a gépek között. A kutatás nemcsak a generatív MI megbízhatóságának javítását célozza, hanem új lehetőségeket is teremthet a modellek alkalmazásában számos területen.
Bízhatunk a mesterséges intelligenciában?
Ahogy a mesterséges intelligencia egyre több területen nyer alkalmazást, egyre nagyobb kockázatot jelent, ha nem értjük pontosan, hogyan működnek ezek a rendszerek. Egy önvezető autó például képes felismerni az előtte haladó járműveket és a közlekedési táblákat, de nem tudja megérteni a közlekedési helyzetek összefüggéseit. Egy ember tudja, hogy ha egy labda gurul az útra, akkor valószínűleg egy gyerek fog utána szaladni – a mesterséges intelligencia viszont ezt a kontextust jelenleg nem képes érzékelni.
A problémát az jelenti, hogy a modellek nem alakítanak ki stabil világmodellt, amely kulcsfontosságú lenne a megbízható működéshez. A Szegedi Tudományegyetem kutatói nemzetközi partnereikkel együtt azon dolgoznak, hogy feltárják a generatív MI modellek korlátait és jobban megértsék a működésüket. Az első lépés az, hogy pontosabb képet kapjunk arról, hogyan „gondolkodnak” ezek a rendszerek és milyen hibákkal küzdenek, ami hosszú távon segíthet új megközelítéseket kidolgozni. Az így szerzett tudás hozzájárulhat a jövő MI-rendszereinek fejlesztéséhez, biztosítva azok hatékonyabb és megbízhatóbb működését. A mesterséges intelligencia nem csupán egy technológiai eszköz, hanem egy tudományos terület, amelynek alaposabb megértése elengedhetetlen a jövőbeli fejlődéshez.
English Summary
Artificial intelligence (AI) is increasingly assisting in everyday tasks, but how do generative language models like chatbots work? A research project starting in April at the University of Szeged, in collaboration with Rutgers University and Ludwig-Maximilians-University, aims to explore how these models process information and represent concepts. The goal is to understand their limitations and improve their reliability and efficiency, ensuring safer AI applications. The research will focus on the inner workings of generative models and how they sometimes struggle with basic reasoning, despite their advanced capabilities.
Kapcsolódó cikkek
- A jövő technológiája, amely már ma is formálja életünket
- Okosotthon, okos döntés?
- Bosch: A magyarokat is megkérdezték a MI-ről
- Fel fog-e lépni Zámbó Jimmy saját emlékkoncertjén?
- Új AI kurzus a Debreceni Egyetemen
- Hogyan vált a mesterséges intelligencia és egy magyar bankszámla egy csalás főszereplőjévé?
- A Bridgestone integrálja a mesterséges intelligenciát a gumiabroncs-fejlesztésbe
- Egyre inkább elfogadott a mesterséges intelligencia Németországban
- Mi várható az SAP szerint az AI-ban 2025-ben?
- Itt a jövő, megérkeztek az okos asszisztenssel felvértezett telefonok!
E-világ ROVAT TOVÁBBI HÍREI
Kreatív zsenik Győrből: Különdíj és közönségdíj az ArtHungry versenyen
A győri Széchenyi István Egyetem Művészeti Karának két tervezőgrafikus hallgatója kiemelkedő eredményt ért el az ArtHungry grafikai és designversenyen. Ratkovic Ljubica a „gi x er” nevű organikus betűtípusával különdíjat nyert, míg Ozvald Mária Trilogie d'Or című ékszerkollekciójával elnyerte a közönségdíjat.
Hozd ki a legtöbbet a tavaszból: Hasznos telefonos tanácsok
A tavasz a megújulás időszaka: hosszabb nappalok, friss energia és több lehetőség a szabadban való időtöltésre. Ahhoz, hogy telefonod lépést tartson veled, érdemes követned a HONOR hasznos tanácsait!
Médiafogyasztási trendek Magyarországon
Összességében alacsony a bizalom különböző médiaplatformok iránt, de Magyarországon továbbra is a televízió élvezi a legjobb megítélést. Ezzel szemben a legkevésbé hitelesnek a nyomtatott sajtót tartják. Ezt a következtetést a Nemzeti Média- és Hírközlési Hatóság legfrissebb, a hazai médiatudatosságról és a médiába vetett bizalomról készített kutatásából nyerhetjük. A bizalom a legmagasabb a 18–29 évesek körében, míg az idősebb korosztályok egyre kritikusabban szemlélik a különböző médiumokat.
Az AI új világa: Influenszerek és a reklámipar forradalma
A mesterséges intelligencia robbanásszerűen tört be az élet minden területére, így a reklámiparba is, és mostanra már az influenszerek világát is átalakítja. Az AI alkalmazásával a kis- és középvállalkozások számára is lehetőség nyílik arra, hogy költséghatékony módon, élethű, meggyőző karaktereken keresztül juttassák el üzeneteiket a célcsoportjukhoz. Ez pedig komoly kihívást jelenthet a kisebb követőtáborral rendelkező véleményvezérek számára.
Új HR vezetőt kapott a Schneider Electric dunavecsei okosgyára
Kecskés Krisztinát a Schneider Electric dunavecsei okosgyára, a Duna Smart Power Systems (DSPS) HR vezetőjévé nevezték ki. Feladatai közé tartozik, hogy a folyamatosan fejlődő üzem számára megfelelő szakembereket találjon, támogassa a szervezet fejlődését, és javítson a HR folyamatok hatékonyságán. Emellett stratégiai célja, hogy elősegítse a Schneider Electric azon törekvését, hogy vonzó karrierlehetőségeket kínáljon a fiatal tehetségeknek, és biztosítson számukra szakmai fejlődési lehetőségeket a DSPS-nél vagy akár a vállalatcsoport más területein, legyen szó szakmai előrehaladásról vagy a legmodernebb technikai megoldásokkal rendelkező munkakörnyezetről.