Prim Hírek

A szoftverszolgáltatás automatikusan észleli az elfogultságot, és elmagyarázza a MI döntéseinek hátterét - a döntések meghozatalának pillanatában. A technológia az IBM Cloud szolgáltatásán keresztül érhető el és számos iparágban működő MI rendszer kezelésében segít a szervezeteknek. Az IBM abban is segít a vállalkozásoknak, hogy azok a lehető legjobban kihasználják az új szoftverszolgáltatás képességeit.

Ezen túlmenően az IBM Research a nyílt forrású közösség részére is elérhetővé tesz egy MI elfogultságészlelési és -csökkentési eszköztárat, hogy eszközök biztosításával és oktatással is ösztönözze a globális együttműködést a MI-ban felmerülő elfogultság kezelésében.

„Az IBM vezető szerepet vállalt az iparágban az új MI technológiák fejlesztése terén alkalmazandó bizalmi és átláhatósági elvek kidolgozásában" - mondta el Beth Smith, az IBM Watson AI  ügyvezető igazgatója. „Itt az ideje, hogy az elveket a gyakorlatban is alkalmazzuk. Új átláthatóságot és ellenőrzést adunk azon vállalkozások kezébe, amelyek mesterséges intelligenciát használnak, és a legnagyobb kockázattal néznek szembe hibás döntéshozatal esetén."

A most bejelentett fejlesztések szükségességét támasztja alá az IBM Institute for Business Value új kutatása is, ami szerint míg a vállalatok 82 százaléka fontolgatja valamilyen mesterséges intelligencia telepítését, 60 százalékuk tart a felelősségi kérdésektől, és 63 százalékuknál házon belül hiányzik a technológia biztos kezeléséhez szükséges kompetencia.

Láthatóvá tenni a mesterséges intelligencia döntéseit

Az IBM Cloud szolgáltatásában elérhető új "Trust and Transparency" (bizalom és átláthatóság) képességek számos gépi tanulás (machine learning) keretrendszerben és MI fejlesztési környezetben - mint például a Watson, a Tensorflow, a SparkML, az AWS SageMaker vagy az AzureML - épített modellel működnek. Ez azt jelenti, hogy a szervezetek a vállalatok által leggyakrabban alkalmazott MI keretrendszerekben kihasználhatják ezen új eszközök előnyeit. A szoftverszolgáltatás arra is programozható, hogy bármilyen üzleti folyamat egyedi döntési tényezőit figyelemmel kísérje, így az adott szervezeti felhasználáshoz testreszabható.

A teljesen automatizált szoftverszolgáltatás a futtatás folyamán, a döntések meghozatalakor magyarázatot ad a döntésekre és észleli a MI modellek torzítását, a potenciálisan igazságtalan kimeneteleket azok felmerülésekor azonosítva. Fontos, hogy a rendszer automatikusan javaslatot tesz arra, hogy milyen adatok hozzáadásával lehet az észlelt torzítást csökkenteni a modellben.

Az egyszerűen, érthető nyelven megfogalmazott magyarázatok bemutatják, milyen tényezők befolyásolták a döntést az adott irányba, mennyire megbízható az ajánlás, és mi áll a megbízhatósági szint mögött. Ezen felül a modell pontosságának, teljesítményének és igazságosságának, valamint a MI rendszerek fejlesztési háttértörténetének nyilvántartása is könnyen nyomon követhető és visszakereshető akár ügyfélszolgálati, szabályozási vagy megfelelőségi (például a GDPR-ral kapcsolatos) okokból.

Mindezek a képességek vizuális kezelőfelületeken keresztül érhetők el, így az üzleti felhasználók páratlan képességet kapnak a mesterséges intelligencia segítségével meghozott döntések megértésére, elmagyarázására és kezelésére, valamint arra, hogy csökkentsék a szervezet függőségét a speciális MI-szaktudástól.

Az IBM új tanácsadói szolgáltatásokat is elérhetővé tett, amelyek segítik a vállalatokat, hogy olyan üzleti folyamatokat és ember-MI interfészeket tervezzenek, amelyek tovább csökkentik a döntéshozatali elfogultság hatásait.

Eszközök a nyílt forrású közösség számára az igazságosabb AI létrehozásáért

Az IBM Research mindezen felül a nyílt forrású közösség rendelkezésére bocsátja az AI Fairness 360 eszköztárat - új algoritmusok, kód és oktatóanyagok könyvtárát, amely oktatók, kutatók és adattudósok számára biztosít eszközöket és tudásanyagot, hogy a gépi tanulási modellek építésekor és üzembe helyezésekor integrálni tudják az elfogultságészlelést. Míg más nyílt forrású anyagok kizárólag a gépi tanuláshoz használt adatok elfogultságának ellenőrzésére koncentráltak, az IBM Research által létrehozott IBM AI Fairness 360 eszközkészlet segít ellenőrizni és mérsékelni a MI modellek torzítását. Egyúttal felhívást intéz a nyílt forrású közösségnek, hogy közösen dolgozva mozdítsák előre a tudományt és könnyítsék meg a MI elfogultság kezelését. Minderről bővebben ezen a blogon olvashatnak.

Felmérés az AI széles körű bevezetésének prioritásairól és akadályairól

Az IBM közzétette az 5000 felsővezető bevonásával készített IBM Institute for Business Value AI 2018 felmérését, ami megállapította, hogy jelentős változás észlelhető abban, ahogy az üzleti vezetők tekintenek a mesterséges intelligencia értékteremtő és bevételnövelő potenciáljára.

A kutatás legfontosabb megállapításai:

• A vállalkozások 82%-a, és a kiemelkedően teljesítő vállalkozások 93%-a fontolgatja mesterséges intelligencia alkalmazását vagy már alkalmazza a technológiát a bevételnövelésre összpontosítva.
• 60%-uk fél a felelősségi kérdésektől, és 63%-nak nincs meg házon belül a tudása a mesterséges intelligencia lehetőségeinek kihasználására. 
• A felsővezetők szerint az MI leginkább az IT, az információbiztonság, az innováció, az ügyfélszolgálat és a kockázatkezelés terén képviselhet értéket.
• Az AI alkalmazása nagyobb mértékű és várhatóan a jövőben még gyorsabban terjed az erősebben digitalizált iparágakban, például a pénzügyi szolgáltatások szektorában.

Az IBM és a mesterséges intelligencia

Az IBM világvezető az üzleti MI szoftverek, szolgáltatások és technológiák terén. A vállalat több ezer ügyfele számára tette elérhetővé Watson MI megoldását 20 iparágban és 80 országban. Az IBM Watson AI megoldásait széles körben alkalmazzák ipari vállalatok, így a tíz legnagyobb autóipari vállalat közül hét, a tíz legnagyobb olaj- és gázipari vállalat közül pedig nyolc cég.