Учените и програмистите спряха да разбират как изкуственият интелект взема решения. Този проблем беше обявен от няколко специалисти на основната AI конференция - Невронни системи за обработка на информация - проведена в Лонг Бийч (Калифорния).
Експертите, интервюирани от Quartz, казват, че трябва да действат, преди системата да стане твърде сложна.
„Не искаме да приемаме решенията за AI като даденост, без да разбираме тяхната логика“, казва Джейсън Йосински от Uber. "За да може обществото да приеме модели на машинно обучение, трябва да знаем как ИИ стига до определени заключения."
Проблемът, който много експерти наричат „черната кутия“, е наистина сериозен. Предишният опит показва, че AI има тенденция да взема предубедени решения и да прави аналогии там, където не трябва. Тъй като невронните мрежи постепенно проникват в органите на реда, здравната система, научните изследвания и алгоритмите, които определят това, което виждате във вашата емисия за новини във Facebook, AI грешката може да бъде много скъпа.
Като пример Кири Вагстаф, експерт по изкуствен интелект в Лабораторията за реактивни реактиви (НАСА), посочва мисия до Марс. Устройствата са разположени на 200 мили мили от Земята и струват стотици милиони долари, така че всякакви грешки в работата на AI са просто неприемливи.
„Хората трябва да знаят какво прави AI и защо. В противен случай как могат да му се доверят да контролира скъпото оборудване? “, Казва Вагстаф.
В момента ученият работи по алгоритъм, който сортира изображения, направени от различни космически кораби на НАСА. Тъй като броят на изображенията е в милиони, компютърът ви позволява да сортирате и маркирате най-интересните, без да отделяте огромно време за този процес. Проблемът обаче се крие във факта, че често само AI сам знае защо определени изображения, които избира, са необичайни.
По този начин, заключава Wagstaff, ако има грешка в този алгоритъм, един ден може да пропусне много важна информация.
Промоционално видео:
„По принцип компютърът ви дава изображение и казва:„ Вижте, това е интересно “. Но не винаги можете да разберете защо е интересно: поради цвета, формата на предметите или местоположението им в пространството - вероятно не знаете това “, казва ученият.
Хана Уолах, старши изследовател в Microsoft, е съгласна със заключенията на своите колеги.
„Когато машинното обучение става все по-широко разпространено и залозите се увеличават, ние вече не можем да разглеждаме тези системи като черни кутии. Трябва да разберем какво се случва вътре в тях и какво правят”, казва изследователят.
Учените за щастие се опитват да намерят методи за разбиране на логиката на изкуствения интелект. Така изследователят на Google Митра Рагю представи доклад, който описва процеса на проследяване на действията на отделни „неврони“на невронна мрежа. Анализирайки милиони операции, тя успя да разбере кой от изкуствените „неврони“се фокусира върху погрешни схващания и да ги изключи. Това доказва, че превеждането на работата на невронните мрежи във форма, достъпна за човешкото разбиране, не е толкова невъзможна задача.
Друг вариант за решаване на проблема е редовното тестване на уменията, разработени от изкуствения интелект.
„Сякаш училищните учители молят децата да преразказват със собствените си думи това, което са разбрали от обяснението на учителя“, казва Вагстаф.
Като се има предвид, важността на разбирането на вътрешността на алгоритъма не е само да се предотврати падането на хипотетичен роувър от марсианска скала; осъзнавайки какъв е провалът, можете да направите съществуващите системи още по-добри.
„Ако системата ви не работи и не знаете защо, е много трудно да направите нещо за това“, казва Йосински. "Ако знаете какво се е случило, тогава ситуацията винаги може да се коригира."
Използвани материали от сайта hightech.fm
