Най-големият урок, който трябва да извлечем от 70-годишните изследвания на ИИ, е, че общите методи, които използват изчисленията, в крайна сметка са най-ефикасни - и с голям запас. Крайната причина за това е Законът на Мур. Или по-скоро неговото обобщаване: продължаващото, експоненциално намаляване на разходите за изчислителни процесори. Този "горчив урок" беше споделен от Ричард Сътън, канадски компютърен учен. По-нататък - от първо лице.
Защо изследванията за изкуствен интелект спират в продължение на 70 години?
Повечето изследвания на изкуствения интелект са проведени, сякаш изчисленията, достъпни за агента, са постоянни (и в този случай използването на човешко познание би било един от единствените начини за подобряване на работата). Но с течение на времето - много повече от необходимото за типичен изследователски проект - неизбежно става много повече изчисления. В търсене на подобрения, които могат да помогнат в краткосрочен план, учените се опитват да увеличат максимално човешките знания в тази област, но единственото нещо, което има значение в дългосрочен план, е все по-голямото използване на изчислителната техника. Тези два аспекта не трябва да противоречат един на друг, но на практика го правят. Времето, прекарано в една от тях, не е равно на времето, прекарано на другото. Има психологически задължения за инвестиране в един или друг подход. И подходът на човешкото познание има тенденция да усложнява методите по такъв начин, че те стават по-малко подходящи, за да се възползват от общите методи, които използват изчисленията.
Има много примери за това изследователите с ИИ със закъснение да разберат този горчив урок. Ще бъде поучително да разгледаме някои от най-ярките примери.
В компютърния шах методите, които побеждават световния шампион Каспаров през 1997 г., се основават на масово, дълбоко търсене. По онова време те бяха гледани с ужас от повечето изследователи на компютърни шахмати, които използваха методи, основани на разбирането от човека на специфичната структура на шаха. Когато един по-прост, базиран на търсенето подход със специализиран хардуер и софтуер се оказа много по-ефективен, изследователите, които надграждат човешкото разбиране на шаха, не признаха поражение. Те казаха: „Този път грубият подход може да е спечелил, но това няма да стане цялостна стратегия и със сигурност хората не играят шах по този начин. Тези учени искаха на базата на човешки методи да спечелят и бяха много разочаровани, когато не го направиха.
Промоционално видео:
Подобна картина на напредъка на научните изследвания се наблюдава при движението на компютри, само със закъснение от още 20 години. Първоначално бяха положени големи усилия, за да се избегне търсенето с помощта на човешко знание или игра, но всички тези усилия бяха ненужни или още по-лоши, след като търсенето беше приложено ефективно и в голям мащаб. Също така беше важно да се използва ученето в процеса на независима игра, за да се усвои ценностната функция (както беше в много други игри и дори в шахмата, само ученето не играе голяма роля в програмата през 1997 г., която победи световния шампион за първи път). Да се научиш да играеш със себе си, да учиш като цяло, е като търсене, което ти позволява да прилагаш огромни масиви от изчисления. Търсенето и обучението са два от най-важните класове техники, които включват огромно количество изчисления в изследванията на ИИ. В компютърКакто в компютърния шах, първоначалните усилия на изследователите бяха насочени към използване на човешкото разбиране (така че да има по-малко търсене), а много по-голям успех беше постигнат едва много по-късно чрез използването на търсене и учене.
В областта на разпознаването на реч през 70-те години се провежда спонсориран от DARPA конкурс. Участниците представиха различни методи, които се възползваха от човешкото познание - познаване на думи или фонеми, човешки гласов тракт и т.н. От другата страна на барикадите имаше по-нови методи, статистически по своя характер и извършване на повече изчисления, базирани на скрити модели на Марков (HMM). Отново статистическите методи спечелиха над базирани на знанието методи. Това доведе до големи промени във всички обработки на естествен език, които постепенно бяха въведени през десетилетията, докато в крайна сметка статистиката и изчисленията започнаха да доминират над полето. Скорошното нарастване на задълбоченото учене в разпознаването на реч е най-новата стъпка в тази последователна посока. Дълбокото обучение разчита още по-малко на човешкото познание и използва още повече изчисления, заедно с обучението върху огромни набори от образци и създава невероятни системи за разпознаване на реч.
Ричард Сътън, канадски компютърист.
Както в игрите, учените винаги са се опитвали да създадат системи, които да работят така, както си ги представяха в главите си - опитваха се да въведат това знание в своите системи - но всичко излезе изключително непродуктивно, учените просто губиха време, - поради закона на Мур - стават все по-масивни изчисления и намират отлични приложения.
Подобна картина имаше в областта на компютърното зрение. Първите методи бяха възприети като търсене на определени контури, обобщени цилиндри или използване на възможностите на SIFT (мащабно-инвариантно преобразуване на характеристиките). Но днес всичко това беше хвърлено в пещта. Съвременните невронни мрежи за дълбоко обучение използват само концепцията за конволюция и някои инварианти и се представят много по-добре.
Това е страхотен урок.
Накъдето и да погледнем, продължаваме да правим едни и същи грешки навсякъде. За да видите това и да се справите ефективно с това, трябва да разберете защо тези грешки са толкова привлекателни. Трябва да научим горчивия урок, който да изградим как мислим от това как мислим, че няма да работи в дългосрочен план. Горчив урок, основан на исторически наблюдения, показва, че: 1) изследователите на ИИ често се опитват да вграждат знания в своите агенти; 2) винаги е помагал в краткосрочен план и е носил удовлетворение на учените; 3) но в дългосрочен план всичко спря и пречи на по-нататъшния напредък; 4) разрушителният прогрес неизбежно дойде с противоположния подход, основан на изчисляване на мащабирането чрез търсене и учене. Успехът имаше горчив вкус и често не се усвояваше напълно.защото това е успехът на изчисляването, а не успехът на подходи, ориентирани към човека.
Едно нещо, което трябва да се поучи от този горчив урок, е огромната сила на методите с общо предназначение, методи, които продължават да мащабират с нарастването на изчисленията, дори когато наличните изчисления стават много големи. Два метода, които сякаш мащабират произволно по този начин, са търсене и учене.
Второто, което трябва да се научи от този горчив урок, е, че действителното съдържание на ума е изключително и ненужно сложно; трябва да спрем да се опитваме да намерим прости начини да осмислим съдържанието на ума, подобно на прости начини да осмислим пространството, предметите, множеството агенти или симетриите. Всички те са част от произволно сложен външен свят. Не трябва да се опитваме да надграждаме върху тях, защото тяхната сложност е безгранична; трябва да надграждаме мета-методи, които могат да намерят и уловят тази произволна сложност. Тези методи могат да намерят добри приближения, но търсенето на тях трябва да се извършва от нашите методи, а не от нас. Имаме нужда от агенти на ИИ, които могат да открият по същия начин, по който можем, и да не съдържат това, което сме открили. Надграждането на нашите открития само усложнява процеса на откриване и търсене.
Иля Кел