Beszélt és írott magyar szöveg feldolgozását lehetővé tevő modellt építettek a Pécsi Tudományegyetemen
Mindenki szívesebben használja az anyanyelvét chat és más automatizált alkalmazásokban. Mivel azonban a magyar nyelvet mindössze 15 millióan beszélik világszerte, a cégek számára gyakran nem éri meg kifejleszteni a feldolgozásához szükséges szoftvereket. A Pécsi Tudományegyetem (PTE) Alkalmazott Adattudományi és Mesterséges Intelligencia-csapata felismerve ezt a problémát a Microsoft Azure mesterséges intelligencia és az ONNX Runtime megoldások alkalmazásával megépítette és betanította saját BERT-large modelljét magyar nyelven, méghozzá kevesebb, mint 200 munkaóra és 1000 euró befektetésével.
A Pécsi Tudományegyetem számára kulcsfontosságú terület lett a mesterséges intelligencia és a felhőalapú oktatás, amióta partnerkapcsolatot építettek ki a Microsoft Mesterséges Intelligencia Tudásközpont program keretein belül 2019-ben.
A nagy mennyiségű magyar nyelvű adat kezelését megkönnyítendő a PTE természetes nyelvfeldolgozási (NLP) módszerek kutatásába fogott. A megoldást egy magyar nyelvű BERT-large modell (HILBERT) létrehozása jelentette, ami egy nyílt forráskódú gépi tanulás keretrendszer. A modell célja, hogy segítse a számítógépet a többféleképpen értelmezhető szövegrészek megértésében oly módon, hogy a szövegkörnyezetből kontextust épít.
A csapat az Azure mesterséges intelligencia használata mellett döntött a saját, magyar nyelvű BERT-large modelljük megalkotásához.
“A Microsoft piacvezető a nyelvi modellek betanításának területén. Természetes, hogy a legjobb technológiát akartuk használni” – mondta el Hajdu Róbert, az Alkalmazott Adattudományi és Mesterséges Intelligencia Központ volt tervezőmérnöke. Ráadásul a csapat már ismerte az Azure szolgáltatást, ez is egy érv volt mellette.
Ahelyett, hogy gyenge minőségű adatokat gyűjtöttek volna az internetről, a Nyelvtudományi Kutatóközpont szakemberei segítségével készítették elő az alapokat. Az Azure pedig mindent megkönnyített és felgyorsított.
A modell betanítására szintén gyors és költséghatékony megoldást kerestek: a Microsoft ONNX Runtime DeepSpeed könyvtárát választották a feladathoz, amit az Azure Machine Learning (AML) platformon futtattak. E platform segítségével hatékonyan tudtak haladni a mesterséges intelligencia modellek építésével, munkába állításával, menedzsmentjével és nyomonkövetésével. Így a csapat közben olyan más feladatokra koncentrálhatott, mint például az adatkezelés.
A modell működéséhez egyébként legalább 3,5 milliárd szót tartalmazó folyószöveg szükséges, ezt az adatbázist a Nyelvtudományi Kutatóközpont, a projekt másik résztvevője többek között a Magyar Nemzeti Szótárból, online médiatárakból és az opensubtitles.org ingyenesen hozzáférhető filmfelirat-adatbázis magyar nyelvű anyagai közül gyűjtötte a csapat.
Habár a pandémia alatt mindannyian otthonról dolgoztak, a BERT-large betanítási folyamata az Azure-on semmilyen problémát nem okozott.
“200 munkaóra alatt végeztünk. Ez a világon az eddigi legolcsóbb BERT-large. Kevesebb, mint 1000 euróba került” – mesélte büszkén Dr. Feldmann Ádám, a PTE Adattudományi és AI csoport vezetője. “Az ONNX Runtime nélkül a HILBERT-large modellünk betanítása 1500 órát, vagyis megközelítőleg két hónapot vett volna igénybe” – hívja fel a figyelmet.
A Pécsi Tudományegyetem BERT-large modellje jelentős lehetőségeket rejt magában az írott és beszélt szöveg feldolgozása, az intelligens keresés, az entitásérzékelés, a dokumentációs klasszifikáció terén. A HILBERT közreműködhet újabb, jobb teljesítményű chatbotok létrehozásában is.
Mindez pedig segítheti a magyarokat a könnyen érthető, releváns információkhoz való hozzáférésben, különösen a Covid-19 körüli félretájékoztatás elleni küzdelemben. Számos egészségügyi és kormányzati szereplő is érdeklődött már a HILBERT-large modell iránt.
A projekt teljes ismertetője ezen a linken olvasható.
Kapcsolódó cikkek
- Német művész érkezik a SZTAKI-ba, hogy robotot építő robotot építsen
- A Xiaomi öt új okoseszközt mutatott be
- A Dell Technologies Omnia szoftverével felgyorsíthatók az innovációs folyamatok
- Az adathalászat által legjobban sújtott brand továbbra is a Microsoft
- A hibrid munkakörnyezet több érzékenységet és rugalmasságot kíván meg a vezetőktől
- A jövő AI alapú ellátási láncai most alakulnak
- A Fujitsu mesterséges intelligenciája vigyázza a Nürburgring versenypálya biztonságát
- OMSZ–Dyntell: látják a jövőt
- Digitális készségekkel vértezte fel magát a hazai civil szektor
- MI TUDÁSKÖZPONTOK: Robotszimuláció támogatja az önvezető járművek fejlesztését
Megoldás ROVAT TOVÁBBI HÍREI
Együttműködésre lép a CETIN Hungary és a Pécsi Tudományegyetem
A független, integrált távközlési infrastruktúra-szolgáltató CETIN Hungary Zrt. és a Pécsi Tudományegyetem Műszaki és Informatikai Kara a jövőben három kiemelt területen működik együtt: a kiberbiztonsági szolgáltatások fejlesztésében, a kutatás-fejlesztési tevékenység színvonalának további emelésében, illetve az építőiparban egyre elterjedtebb és ismertebb építményinformációs modellezéssel (BIM) kapcsolatos kölcsönös tudástranszferben.
Bevállalós ötletekkel versenyeznek a Megoldások a holnapért döntősei
Kiválasztották a legjobb nyolc csapatot a Samsung és az EdisonKids Megoldások a holnapért kihívásán. A jövő oktatása, a fenntarthatóság és a közösségfejlesztés iránt elkötelezett fiatalok megkezdhetik a felkészülést a döntőre. A következő hetekben a csapatok elképzelésük prototípusát alkothatják meg és tesztelhetik működését a mentorok közreműködésével. A diákok a szakértők segítségével készülnek a végső, májusi megmérettetésre, ahol a három legjobb csapat összesen 6 millió forint összértékű Samsung készülékkel bővítheti egyéni és oktatási intézménye eszközparkját.
A boldog gyerekekből lesznek sikeres felnőttek
Több mint 600 támogatott, 105 diploma, 606 nyelvvizsga, 246 informatikai bizonyítvány. Csak néhány eredmény, amit a 19 éve működő Csányi Alapítvány és az általa mentorált fiatalok elértek. Az alapítvány valódi sikere a számok mögött, a személyes történetekben rejlik – hangzott el Zánkán az Alapítvány által szervezett idei Életút Fesztiválon április 20-án. A kiemelkedő informatikai és idegen nyelvi képzések mellett a végzett fiatalok a megszerzett kapcsolati tőkét, a közösség erejét tartják a legfontosabbnak. Nemcsak a Csányi Alapítvány nagykorú már, hanem egyre több mentoráltból vált olyan fiatal felnőtt, akik büszkén támaszkodhatnak az alapítvány segítségével megszerzett tudás mellett egymásra, „Csányisokra” is.
Állásbörzét és karrierfelkészítést tart szerdától a Corvinus
Több mint kétszáz állásajánlat közül lehet válogatni a Corvinus Egyetem idei karrierexpóján április 24-én és 25-én. Az eseményen részt vevők sok tippet gyűjthetnek karrierjük beindításához, kiteljesítéséhez is. Ebben nemcsak több tucat, corvinusos diplomával színes és sikeres életutakat bejáró szakember segít személyesen, de megtanulható a ChatGPT és a LinkedIn munkakeresői célokra optimalizált, profi használata is.