Beszélt és írott magyar szöveg feldolgozását lehetővé tevő modellt építettek a Pécsi Tudományegyetemen

forrás: Prím Online, 2021. augusztus 27. 12:55

Mindenki szívesebben használja az anyanyelvét chat és más automatizált alkalmazásokban. Mivel azonban a magyar nyelvet mindössze 15 millióan beszélik világszerte, a cégek számára gyakran nem éri meg kifejleszteni a feldolgozásához szükséges szoftvereket. A Pécsi Tudományegyetem (PTE) Alkalmazott Adattudományi és Mesterséges Intelligencia-csapata felismerve ezt a problémát a Microsoft Azure mesterséges intelligencia és az ONNX Runtime megoldások alkalmazásával megépítette és betanította saját BERT-large modelljét magyar nyelven, méghozzá kevesebb, mint 200 munkaóra és 1000 euró befektetésével.

A Pécsi Tudományegyetem számára kulcsfontosságú terület lett a mesterséges intelligencia és a felhőalapú oktatás, amióta partnerkapcsolatot építettek ki a Microsoft Mesterséges Intelligencia Tudásközpont program keretein belül 2019-ben.

 

A nagy mennyiségű magyar nyelvű adat kezelését megkönnyítendő a PTE természetes nyelvfeldolgozási (NLP) módszerek kutatásába fogott. A megoldást egy magyar nyelvű BERT-large modell (HILBERT) létrehozása jelentette, ami egy nyílt forráskódú gépi tanulás keretrendszer. A modell célja, hogy segítse a számítógépet a többféleképpen értelmezhető szövegrészek megértésében oly módon, hogy a szövegkörnyezetből kontextust épít.

 

A csapat az Azure mesterséges intelligencia használata mellett döntött a saját, magyar nyelvű BERT-large modelljük megalkotásához.

 

 

“A Microsoft piacvezető a nyelvi modellek betanításának területén. Természetes, hogy a legjobb technológiát akartuk használni” – mondta el Hajdu Róbert, az Alkalmazott Adattudományi és Mesterséges Intelligencia Központ volt tervezőmérnöke. Ráadásul a csapat már ismerte az Azure szolgáltatást, ez is egy érv volt mellette.

 

Ahelyett, hogy gyenge minőségű adatokat gyűjtöttek volna az internetről, a Nyelvtudományi Kutatóközpont szakemberei segítségével készítették elő az alapokat. Az Azure pedig mindent megkönnyített és felgyorsított.

 

A modell betanítására szintén gyors és költséghatékony megoldást kerestek: a Microsoft ONNX Runtime DeepSpeed könyvtárát választották a feladathoz, amit az Azure Machine Learning (AML) platformon futtattak. E platform segítségével hatékonyan tudtak haladni a mesterséges intelligencia modellek építésével, munkába állításával, menedzsmentjével és nyomonkövetésével. Így a csapat közben olyan más feladatokra koncentrálhatott, mint például az adatkezelés.

 

 

 

A modell működéséhez egyébként legalább 3,5 milliárd szót tartalmazó folyószöveg szükséges, ezt az adatbázist a Nyelvtudományi Kutatóközpont, a projekt másik résztvevője többek között a Magyar Nemzeti Szótárból, online médiatárakból és az opensubtitles.org ingyenesen hozzáférhető filmfelirat-adatbázis magyar nyelvű anyagai közül gyűjtötte a csapat.

 

Habár a pandémia alatt mindannyian otthonról dolgoztak, a BERT-large betanítási folyamata az Azure-on semmilyen problémát nem okozott.

 

“200 munkaóra alatt végeztünk. Ez a világon az eddigi legolcsóbb BERT-large. Kevesebb, mint 1000 euróba került” – mesélte büszkén Dr. Feldmann Ádám, a PTE Adattudományi és AI csoport vezetője. “Az ONNX Runtime nélkül a HILBERT-large modellünk betanítása 1500 órát, vagyis megközelítőleg két hónapot vett volna igénybe” – hívja fel a figyelmet.

 

A Pécsi Tudományegyetem BERT-large modellje jelentős lehetőségeket rejt magában az írott és beszélt szöveg feldolgozása, az intelligens keresés, az entitásérzékelés, a dokumentációs klasszifikáció terén. A HILBERT közreműködhet újabb, jobb teljesítményű chatbotok létrehozásában is.

 

Mindez pedig segítheti a magyarokat a könnyen érthető, releváns információkhoz való hozzáférésben, különösen a Covid-19 körüli félretájékoztatás elleni küzdelemben. Számos egészségügyi és kormányzati szereplő is érdeklődött már a HILBERT-large modell iránt.

 

A projekt teljes ismertetője ezen a linken olvasható.

Megoldás ROVAT TOVÁBBI HÍREI

2021 harmadik negyedévében az OPPO Európában 45 százalékos éves növekedést ért el

A Canalys* piackutató adatai szerint 2021 harmadik negyedévében az OPPO növekedés tekintetében minden versenytársat maga mögé utasított a közép- és kelet-európai régióban, az olyan fontos piacokon is mint például Románia (+130% év/év), Törökország +60% (év/év), vagy Lengyelország (+44%/év). Az összességében 45 százalékos éves növekedés rávilágít az OPPO  egyre nagyobb népszerűségére a régióban, illetve hozzájárult ahhoz, hogy a márka megszilárdítsa pozícióját Európa negyedik legnagyobb okostelefon-gyártójaként.

2021. december 8. 12:29

6,5 milliárdos közbeszerzést nyert a Delta Systems

Jelentős értékű, 6,5 milliárd forintos közbeszerzés nyertese lett a Delta Technologies Nyrt. 100 százalékos tulajdonában álló Delta Systems Kft. A Klebelsberg Központ nevében eljáró Digitális Kormányzati Ügynökség (DKÜ) harmincezer darab notebook beszerzésével kapcsolatos feltételes közbeszerzés nyerteseként nevezte meg a cégcsoportot. Az informatikai eszközök nyolc megye köznevelési intézményeiben járulnak hozzá az oktatási szektor digitális felzárkóztatásához. 

2021. december 8. 11:10

Az Eplan bemutatta az eManage új, kibővült funkcionalitású verzióját

Az eManage ingyenes verziója már korábban is lehetővé tette a felhasználók számára az Eplan Platform projektek felhőkörnyezetben történő feltöltését, megosztását és kezelését. Az Eplan most bemutatta a szoftver teljes funkcionalitású verzióját, amely lényegesen több hozzáadott értéket tartalmaz: a felhőben elérhetők a törzsadatok, valamint a kiegészítő dokumentumok, a kapacitást pedig nagyobb teljesítmény növeli. Az OEM-eket, rendszerintegrátorokat, gépgyártókat és üzemeltetőket összekapcsoló alkalmazás középpontjában az együttműködés áll.

2021. december 8. 09:47

Kövess minket a Facebookon!

Cikkgyűjtő

További fontos híreink

Egy évtized alatt 260-szorosára nőtt a mobil adatforgalom

2021. december 8. 18:01

December elején nyit az első magyar kriptotőzsde

2021. november 30. 21:13

Dr. Charaf Hassan a Vodafone Magyarország Alapítvány kuratóriumának új elnöke

2021. november 18. 16:49

A Magyar Telekom 2021. harmadik negyedévi eredményei

2021. november 9. 21:45