Проучване на учени от Масачузетския технологичен институт разкри детайлите на процеса на анализ на данни чрез изкуствен интелект, който често се ръководи от сексистки и расистки стереотипи при вземане на решения. Няколко системи, които участваха в експеримента, демонстрираха чувствителност към предразсъдъци на човека.
Британският вестник „Дейли мейл“пише, че след като получи резултатите от изследването, екипът от учени се ангажира да препрограмира изкуствения интелект, премахвайки предишните проблеми. Според Ирен Чен, която работи в Масачузетския технологичен институт, компютърните учени са склонни да бързат с извода, че единственият начин за премахване на елементите на расизма и сексизма в алгоритмите за изкуствен интелект е подобряване на софтуерния код. Качеството на алгоритмите е пряко пропорционално на данните, върху които работят. Изследване на Чен с Дейвид Сонтаг и Фредрик Д. Йохансън показва, че повече налични данни могат коренно да променят нещата към по-добро.
В един експеримент екипът разгледа система, която прогнозира доходите на човека въз основа на наличната информация. Анализът показа, че в 50% от случаите алгоритъмът е склонен да прогнозира, че доходът на жената ще бъде средно по-малък от този на мъжа. Увеличавайки количеството на наличните данни 10 пъти, учените установили, че факторът на такава грешка намалява с 40%.
Освен това, в проучване на системата, която се използва в болниците и прогнозира оцеляването на пациентите, подложени на тежка операция, точността на прогнозите беше много по-ниска за монголоидната раса, отколкото за кавказците и негрите. Учените обаче твърдят, че използването на усъвършенстваната техника за анализ може значително да намали точността на прогнозиране при пациенти, които не принадлежат към монголоидната раса. Това показва, че повече налични данни не винаги могат да коригират грешки в алгоритъма. Вместо това учените трябва да получават повече информация за дискриминирани групи.
Новият метод повдига друг въпрос за изследователите на машинно обучение за това как да анализират ефективно данните без съществуваща дискриминация.
Как работи машинното обучение в системите, работещи с AI?
Системите за изкуствен интелект се основават на изкуствени невронни мрежи (ANNs), които екстраполират техниките за съхранение и учене, използвани от човешкия мозък, към механични системи. ANN обучават да намират модели в наличните източници на информация, включително реч, текст и изображения. Подобряването на точността на анализа на данните е една от основните предпоставки, предшестващи най-новите разработки на изкуствения интелект.
"Нормалният" изкуствен интелект използва входните данни, за да каже на алгоритъма за обекта на анализ, като същевременно оперира с огромно количество информация.
Промоционално видео:
Практическите приложения на машинното обучение включват преводачески услуги на Google, разпознаване на лица от снимки във Facebook и филтри в Snapchat, които сканират лица, преди да се прилагат визуални ефекти онлайн.
Процесът на въвеждане на данни често отнема време и обикновено е ограничен от потока информация за един аспект на обекта, който се изследва. Нов тип ANN - генеративно-състезателна невронна мрежа - се противопоставя на възможностите на два различни робота с изкуствен интелект наведнъж, провокира по-малко интелигентна система да се учи за сметка на втория без човешко участие. Тази техника значително подобрява ефективността и бързината на машинното обучение, като същевременно повишава качеството на анализа на данните.
Олий Курилов