Почти всичко, което чувате за изкуствения интелект днес, идва от задълбоченото обучение. Тази категория алгоритми работи със статистически данни за намиране на модели в данните и се оказа изключително мощна в имитирането на човешки умения като нашата способност да виждаме и чуваме. В много тясна степен това може дори да имитира способността ни да разсъждаваме. Тези алгоритми поддържат Google Търсене, Facebook Newsfeed, препоръки на Netflix и оформят индустрии като здравеопазването и образованието.
Как се развива дълбокото обучение
Въпреки факта, че задълбоченото учене практически с една ръка представи изкуствен интелект за обществото, то представлява само една малка светкавица в историческата задача на човечеството да възпроизвежда собствения си разум. Той е начело на това търсене за по-малко от десетилетие. Ако оставим настрана цялата история на тази област, е лесно да разберем, че скоро тя също може да се отклони.
Внезапните възходи и падения на различни методи отдавна характеризират изследванията на ИИ, каза той. Всяко десетилетие има силна конкуренция между различни идеи. След това от време на време превключвателят се завърта и цялата общност започва да прави едно нещо.
Нашите колеги от MIT Technology Review искаха да визуализират тези проблеми и стартове. За тази цел те се обърнаха към една от най-големите бази данни от отворени научни трудове, известни като arXiv. Те изтеглиха откъси от общо 16 625 статии, достъпни в раздела за изкуствен интелект до 18 ноември 2018 г., и проследиха думите, споменати през годините, за да видят как еволюира полето.
Чрез техния анализ се очертаха три основни тенденции: преминаването към машинно обучение в края на 90-те и началото на 2000-те, нарастването на популярността на невронните мрежи, започнало в началото на 2010 г., и нарастването на обучението за подсилване през последните няколко години.
Промоционално видео:
Но първо, няколко предупреждения. Първо, разделът arXiv с AI датира от 1993 г., а терминът "изкуствен интелект" датира от 50-те години на миналия век, така че самата база данни представлява само последните глави от историята на полето. Второ, документите, добавяни в базата данни всяка година, представляват само част от работата, която се извършва в тази област в момента. Въпреки това, arXiv предлага отличен ресурс за идентифициране на някои от основните изследователски тенденции и за наблюдение на влекача между различните идеологически лагери.
Парадигмата за машинно обучение
Най-голямата промяна, която изследователите откриха, беше отдалечаването от базирани на знанието системи към началото на 2000-те. Такива компютърни системи се основават на идеята, че е възможно да се кодират всички човешки знания в система от правила. Вместо това учените се насочиха към машинното обучение - родителската категория алгоритми, които включват задълбочено обучение.
Сред 100-те споменати думи, тези, свързани със системи, базирани на знания - "логика", "ограничения" и "правило" - намаляха най-много. А тези, свързани с машинното обучение - „данни“, „мрежа“, „производителност“- нараснаха най-много.
Причината за тази промяна във времето е много проста. През 80-те системите, базирани на знания, набират популярност сред феновете, благодарение на вълнението около амбициозни проекти, които се опитват да пресъздадат здравия разум в машините. Но когато тези проекти се разгърнаха, изследователите се изправиха пред голямо предизвикателство: Твърде много правила трябваше да бъдат кодирани, за да може системата да направи нещо полезно. Това доведе до увеличаване на разходите и значително забави текущите процеси.
Отговорът на този проблем е машинното обучение. Вместо да изисква от хората ръчно да кодират стотици хиляди правила, този подход програмира машини автоматично да извличат тези правила от купчина данни. По същия начин това поле се отдалечи от базирани на знанието системи и се насочи към подобряване на машинното обучение.
Бумът на невронните мрежи
В рамките на новата парадигма на машинното обучение преходът към задълбочено обучение не се случи за една нощ. Вместо това анализ на ключови термини показа, че учените са тествали много методи в допълнение към невронните мрежи, основните механизми на дълбокото обучение. Други популярни методи включваха Bayesian мрежи, поддържащи векторни машини и еволюционни алгоритми, като всички те използват различни подходи за намиране на модели в данните.
През 90-те и 2000-те години съществува силна конкуренция между тези методи. След това, през 2012 г., драматичен пробив доведе до поредната промяна на времето. По време на ежегодното състезание ImageNet за ускоряване на напредъка в компютърното зрение, изследовател на име Джефри Хинтън, заедно с колегите си от Университета в Торонто, постигнаха най-добрата точност на разпознаване на изображения с граница на грешка от малко над 10%.
Използваната от него дълбока учебна техника породи нова вълна от изследвания, първо в общността на визуализацията, а след това и след това. Тъй като все повече и повече учени започват да го използват за постигане на впечатляващи резултати, популярността на тази техника, заедно с популярността на невронните мрежи, скочи бързо.
Ръстът на обучението за подсилване
Анализът показа, че няколко години след разцвета на задълбоченото обучение, има трета и последна промяна в изследванията на ИИ.
В допълнение към различните методи за машинно обучение има три различни типа: контролирано обучение, неподдържано обучение и усилено обучение. Контролираното обучение, което включва подаване на маркирани данни към машината, е най-често използваното и има най-практични приложения днес. Въпреки това, през последните няколко години, засилването на обучението, което имитира процеса на обучение на животни чрез моркови и пръчици, наказания и награди, доведе до бързо увеличаване на референциите в произведенията.
Самата идея не е нова, но не работи от много десетилетия. „Контролираните обучаващи се специалисти се присмиваха на обучаващите се специалисти“, казва Домингос. Но както при дълбокото учене, една повратна точка изведнъж изведе метода на преден план.
Този момент дойде през октомври 2015 г., когато AlphaGo на DeepMind, трениран с усилване, победи световния шампион в древната игра на гей. Въздействието върху изследователската общност беше незабавно.
Следващите десет години
Технологичният преглед на MIT предоставя само най-новата снимка на конкуренцията между идеи, характеризиращи изследванията на AI. Това обаче илюстрира несъответствието на стремежа към дублиране на разузнаването. „Важно е да се разбере, че никой не знае как да реши този проблем“, казва Домингос.
Много от методите, които се използват в продължение на 25 години, се появяват приблизително по същото време през 50-те години на миналия век и не успяват да отговорят на предизвикателствата и успехите на всяко десетилетие. Невронните мрежи например достигат своя връх през 60-те и леко през 80-те, но почти умират, преди да си възвърнат популярността благодарение на задълбоченото обучение.
Всяко десетилетие, с други думи, наблюдава доминирането на различна техника: невронни мрежи в края на 50-те и 60-те години, различни символични опити през 70-те, базирани на знанието системи през 80-те, байесовски мрежи през 90-те, референтни вектори в нулеви и невронни мрежи отново през 2010 г.
2020-те няма да бъдат по-различни, казва Домингос. Това означава, че ерата на дълбокото обучение може скоро да приключи. Но какво ще се случи по-нататък - стара техника в нова слава или напълно нова парадигма - това е обект на ожесточена полемика в общността.
Иля Кел
