Учени от Чикагския университет (САЩ) проведоха проучване, по време на което показаха как ИИ може да се използва за писане на сложни фалшиви отзиви. Подобни отзиви не се различават от реалните по съвременни методи и неподозиращите читатели ги намират за много надеждни.
Отзивите за ресторанти са генерирани с помощта на повтарящи се невронни мрежи (техники за задълбочено обучение), които преди това са били обучавани по хилядите рецензии в реалния живот, достъпни онлайн.
Според изследователите генерираните рецензии практически не се различават от реалните. И така, авторите на работата показаха, че потребителите не само не разпознават фалшивите отзиви, но и ги считат за полезни като истински, написани от хора.
Последното е може би най-тревожното. Тъй като това по същество означава, че отзивите, написани от AI, изпълняват основната си функция - те целенасочено влияят на мнението на хората.
Отбелязва се, че при такива отзиви (с помощта на софтуер) рядко се среща плагиатство. Това се дължи на факта, че AI ги генерира по характер и не изтръгва думи от реални отзиви.
Днес има доста голяма подземна индустрия, където хората пишат фалшиви отзиви (за пари). Както отбелязва професорът от Чикагския университет в Бен Й. Джао в интервю за Business Insider, въвеждането на AI може да го подкопае. Ученият казва, че все още не знае за използването на такива алгоритми в тази индустрия. Но няма гаранция, че някой няма да измисли нещо подобно и няма да го използва за лична изгода.
В същото време изследователите пишат, че отговорите на невронната мрежа все още не са били идеални. Оказа се, че алгоритъмът използва по-малък набор от знаци - и това не е трудно да се види. Според авторите на работата обаче бъдещите невронни мрежи може да са още по-сложни и съответно обратната връзка, която генерират, ще бъде по-трудна за откриване.
Джиао отбелязва, че не става въпрос само за фалшиви отзиви за ресторанти: такива технологии обикновено могат да разклатят вярванията ни за това какво е реално и кое не.
Промоционално видео:
Текстът на изследването може да бъде намерен тук.