Изследователи от Масачузетския технологичен институт (MIT) са разработили техника за измама с изкуствен интелект (AI) за анализ на текст (AI), съобщи Wired.
Изследователите са забелязали, че лека промяна в фраза, разбираема за човек, може да измами ИИ. Те разработиха алгоритъм за заместване на думите със синоними и измама текст за разпознаване на AI. Нюансът е, че самият атакуващ алгоритъм използва AI за избор на синоними.
Като пример, фразата „Героите, хвърлени в невъзможно измислени ситуации, са напълно отчуждени от реалността“. („Героите, играни в невероятно измислени ситуации, са напълно извън допир с реалността“), което е отрицателно ревю на филма.
Ако заменим думите в него със синоними, тогава фразата „Героите, хвърлени при невъзможно конструирани обстоятелства, са напълно отчуждени от реалността“(„Героите, играни при невероятно умели обстоятелства, са напълно разведени от реалността“), тогава AI счита рецензията за положителна.
Други видове AI системи също могат да бъдат измамени; в този случай уязвимостите бяха демонстрирани главно в системи за разпознаване на изображения и реч.
Изследователите отбелязват, че подобни фини изкривявания на данни могат да заблудят ИИ и да бъдат използвани за атака на системи, което става значително с разпространението на AI в областта на финансите, здравеопазването и други.