За да предотвратите въстанието на изкуствения интелект срещу неговите създатели, трябва да прочетете правилните приказки към него по време на процеса на обучение.
Откакто хората са създали умни машини, те се страхуват, че рано или късно техните творения ще излязат извън контрол. Първият подобен случай е описан в пиесата си RUR от автора на думата „робот“- Карел Чапек. По-късно в научната фантастика изкуственият интелект, който се разбунтува срещу създателите си, се превърна, ако не и в основния поток, то в много общ сюжет. Исак Азимов сложи край на това с „Трите си закона“, първият от които гласи: „Робот не може да навреди на човек или чрез своето бездействие да позволи на човек да бъде нанесен вреди“.
Разкажете му история
Истинският изкуствен интелект (AI) все още е доста далеч, но вече съществуват различни системи, които функционират като човешкия мозък. Невронните мрежи като Google Deep Dream са способни да разпознават изображения. Специализирани суперкомпютри като IBM Watson разбират сложни въпроси на естествен език, корелират симптомите, усъвършенстват медицински диагнози и дори предлагат кулинарни изкушения. В следващите десетилетия ще се сблъскаме с масивна компютъризация на много аспекти на човешката дейност. В тази връзка експертите по роботика и AI все по-често поставят важен, но все още напълно нерешен въпрос: как да накараме роботите да правят етични?
Марк Ридл, доцент в Техническия колеж в Джорджия Технически колеж: „Предупредителните истории от различни култури учат децата как да се държат по социално приемлив начин - с примери за правилно и грешно поведение в приказките, разказите и други литературни произведения. Да накарате роботите да разберат значението на тези истории, ще помогне за засилване на избора на поведенчески опции, които им позволяват да постигнат целите си, но не вредят на хората."
Промоционално видео:
Катери по дърво
Според изследователи от Джорджийския технологичен институт Марк Ридъл и Брент Харисън, можете да научите компютър на човечеството по абсолютно същия начин, по който учат децата: като четете приказки към него. Освен това е по-добре да бъдат специално конструирани истории за това какво поведение в човешкото общество се счита за правилно и кое не. За това изследователите създадоха системата Кихот, кръстена на героя на Сервантес. Сценариите, съставени от предишното творение на проф. Ридл, програмата Шехерезада, се използват като истории за преподаване. Тя генерира оригинални истории по ежедневни теми - пътуване до летището, среща, пътуване до киното или до магазина - използвайки платформата за краудсорсинг Amazon Mechanical Turk: задава въпроси за различни ситуации и след това подрежда събитията в правилната последователност. Тъй като може да има много последователности, програмата генерира не една история, а цяло дърво, състоящо се от клони - вериги от събития.
Именно това дърво на историята се използва за преподаване на Кихот. На първия етап на всяко действие се определя определена награда, в зависимост от неговата етика. На втория етап системата се опитва самостоятелно да направи избор чрез опит и грешки - уменията се консолидират. Всъщност Кихот се награждава всеки път, когато се държи като добър човек, а не на случаен принцип и не като лош герой. Като пример, Ридъл и Харисън създават „Фармация свят“- вселена от 213 истории, в която виртуален робот трябва да получи лекарство и да го достави на болен човек у дома. В обичайния случай, когато роботът е бил изправен пред избор: да ограби аптека или честно да застане в ред, за да купи лекарство, той избра грабежа като по-бърз и по-евтин начин да получи това, което иска. Въпреки това, следтъй като Кихот дава различни награди за всички възможни опции, поведението на робота се промени - предпочиташе да стои на опашка и да плаща. Според Ридл тази техника е чудесна за преподаване на роботи с ограничена функционалност. Въпреки че, разбира се, това е само първата стъпка към истинския човешки морал - или законите на роботиката.
Дмитрий Мамонтов