Американски експерти разработват невронна мрежа, която може да обясни решенията, взети от бойните роботи. Това ще увеличи нивото на човешкото доверие в „електронните войници“.
Проектът Explavable Artificial Intelligence или просто XAI (Explaible Artificial Intelligence) ще позволи на хората и роботите да се разбират по-добре. Невронната мрежа XAI ще изгради логическа верига от "разсъждения" на робота и ще покаже на човека защо машината е взела точно такова решение - например да открие огън по конкретна цел.
В процес на разработка е създаването на смесени бойни единици робот-човек в армията на САЩ. Засега е трудно да си представим, но след няколко десетилетия роботи ще станат пълноценни войници - също като хората. Освен това те са способни да заменят човек в ситуации, в които може да се наложи да се открие огън по жива цел. Подобна подмяна официално ще освободи човек от отговорност за вземане на смъртоносно решение, но няма да може да го лиши от съмнения и угризения, а също така може да предизвика недоверие към роботи. Никога не знаете - може би роботите всъщност са електронни маниаци, които обичат да убиват?
Проектът XAI трябва да реши този проблем при взаимодействието човек-робот. Благодарение на въвеждането на новата система военните (онези, които все още са живи хора) ще могат да разберат по какъв критерий машината е оценила този или онзи обект или човек като заплаха. Освен това XAI ще улесни бойните роботи да се адаптират към реалностите на конкретен военен конфликт и ще намали степента на безсмислена жестокост.
Новата разработка ще бъде полезна не само за военните. Може да се използва и в гражданската сфера - в промишлеността, системите за сигурност и медицината. Пример за такава употреба дава Бил Фъргюсън, водещ специалист в Raytheon, който е пряко участващ в развитието на невронна мрежа. „Ако изкуственият интелект открие признаци на рак на белия дроб на рентгена, лекарят може да разбере защо машината е решила така. Компютърът ще подчертае всички подозрителни области, които лекарят би могъл да игнорира, като обърка артефактите с изображения. След това лекарят ще може сам да определи дали си струва да коригира диагнозата или невронната мрежа е сгрешила “, обяснява ученият.