Ново проучване показа, че проявяването на предразсъдъци към другите не изисква специална интелигентност и може лесно да се развие в изкуствено интелигентни машини.
Психолози и специалисти по информационни технологии от Университета в Кардиф и MIT показаха, че групи от автономни машини могат да проявяват предубеждения, като просто дефинират такова поведение, копират го и взаимно го преподават.
Може да изглежда, че предразсъдъците са чисто човешки феномен, изискващ човешката интелигентност да формира мнения или стереотипи за човек или група. Докато някои видове компютърни алгоритми вече проявяват предубеждения като расизъм и сексизъм, основаващи се на проучването на публичните записи и други генерирани от човека данни, новата работа демонстрира способността на AI да развива самостоятелно предубедени групи.
Изследването е публикувано в Scientific Reports. Тя се основава на компютърни симулации за това как предубедените виртуални агенти могат да формират групи и да взаимодействат помежду си. По време на симулацията всеки индивид решава дали да помогне на някого от своята група или от друг, в зависимост от репутацията на този индивид, както и от собствената си стратегия, която включва техните нива на предразсъдъци към външни лица. След провеждането на хиляди симулации, всеки индивид научава нови стратегии, като копира други - независимо дали са членове на собствената си група или на цялото „население“.
Относителната кумулативна честота на характеристиките на агентите според нивото на предразсъдъци / Роджър М. Уитакър.
„След като извършихме тези симулации хиляди и хиляди пъти подред, ние започнахме да разбираме как се развива пристрастието и какви условия са необходими за култивирането или предотвратяването му“, казва съавторът на проучването проф. Роджър Уитакър от Института за изследвания на престъпността и сигурността и Училището по компютърни науки и компютърни науки в Университета в Кардиф. „Нашите симулации показват, че пристрастията са мощна сила на природата и чрез еволюцията тя може да бъде стимулирана във виртуални популации, за да навреди на по-широки връзки с другите. Защитата срещу предубедени групи може по невнимание да доведе до формиране на други предразсъдъчни групи, провокирайки по-голямо разделение на населението. Подобно разпространение на предразсъдъците е трудно да се обърне."
Данните от изследването също включват хора, които повишават нивата си на пристрастие, като преференциално копират тези, които получават най-добрите краткосрочни резултати, което от своя страна означава, че такива решения не изискват непременно специални способности.
„Напълно правдоподобно е, че автономните машини, способни да се идентифицират с дискриминация и да копират други, в бъдеще могат да бъдат податливи на явленията на предразсъдъци, които виждаме в обществото“, продължава професор Уитакър. „Много разработки на AI, които виждаме днес, включват самостоятелност и самоконтрол, тоест поведението на устройствата също се влияе от хората около тях. Последните примери включват транспорт и Интернет на нещата. Нашите изследвания предоставят теоретична представа за това къде симулираните агенти периодично се обръщат към другите за ресурси."
Промоционално видео:
Изследователите откриха също, че при определени условия, включително наличието на по-разделени подгрупи на едно и също общество, пристрастията са по-трудни за засилване.
„С голям брой субпопулации, обективните групови обединения могат да си сътрудничат, без да бъдат експлоатирани. Това също намалява техния малцинствен статус, като същевременно намалява тяхната склонност към установяване на пристрастия. Това обаче изисква и обстоятелства, при които агентите са по-благоприятно разположени към взаимодействия извън тяхната група “, заключи проф. Уитакър.
Владимир Гилен