Специалистите в областта на създаването на изкуствен интелект на човешко ниво днес трябва да решават не само научни, но и етични проблеми. Какви са предизвикателствата пред учените? Как да защитим човечеството от потенциални заплахи, породени от създаването на свръхсилен ум, и да останем хора в новия свят? Професорът на Института за интелигентни кибернетични системи на Националния изследователски ядрен университет „MEPhI“(IIKS NRNU MEPhI) Алексей Самсонович каза за това кореспондентът на проекта „Социален навигатор“на МВР „Русия днес“Анна Курская.
- Алексей Владимирович, разговорът ни се провежда в рамките на Международната конференция „Биологически вдъхновени когнитивни архитектури“BICA 2019. Какви теми на дискусия днес излизат на преден план във връзка със създаването на изкуствен интелект на човешко ниво?- Конференцията ни позволи за пореден път да осъзнаем основните предизвикателства в областта на създаването на изкуствен интелект от ново поколение, който трябва да се превърне в равен партньор и приятел на човека. Първо, предизвикателството е да се създаде емоционална интелигентност на човешко ниво, която да впрегне емоции при вземане на решения и генериране на поведение. По-специално, това качество ще позволи на машината да установи дългосрочни социални връзки, подобни на тези между близки. Това също ще й позволи да оправдае действията и решенията си, да избере цели и начин на обучение. Емоционалната интелигентност е ключът към отговорите на други предизвикателства. Не се ограничава до способността за разпознаване и изразяване на емоции, които днес са заети от повечето изследователи, работещи в тази област. Въпреки че и двата процеса са необходими,много по-важно и по-трудно е да се разбере връзката между едното и другото, което се осигурява от емоционалната интелигентност. Второ, интелигентният агент трябва да разбере контекста на случващото се. Това означава, че въз основа на наличната информация той трябва независимо да генерира и непрекъснато да актуализира глобалния сценарий на миналото и бъдещето, да определи своята роля в него и след това на тази основа да си постави конкретни цели за себе си и да разработи планове за постигането им. В научната литература тази способност обикновено се нарича „разказвателна интелигентност“(не бива да се бърка с програми, които работят според сценарий или разказ, предварително написан от човек).че той трябва самостоятелно да генерира и непрекъснато да актуализира глобалния сценарий на миналото и бъдещето въз основа на наличната информация, да определи ролята си в него и след това на тази основа да си постави конкретни цели и да разработи планове за тяхното постигане. В научната литература тази способност обикновено се нарича „разказвателна интелигентност“(не бива да се бърка с програми, които работят според сценарий или разказ, предварително написан от човек).че той трябва на базата на наличната информация да генерира и непрекъснато да актуализира глобалния сценарий на миналото и бъдещето, да определи своята роля в него и след това на тази основа да си постави конкретни цели и да разработи планове за тяхното постигане. В научната литература тази способност обикновено се нарича „разказвателна интелигентност“(не бива да се бърка с програми, които работят според сценарий или разказ, предварително написан от човек).или разказ).или разказ). - Има ли трето предизвикателство?
- Това ще бъде прилагането на активно учене на изкуствен интелект, който подобно на човек сам разработва система от ценности, която мотивира процеса на обучение, сам формира цели и пътна карта за обучение, избира средствата (например експерименти за тестване на хипотези, търсене на налични ресурси или въпроси към човек) и, воден от собствената си инициатива, използва тези средства за постигане на целта. В същото време машината трябва да може да се развива самостоятелно от нивото на дете до нивото на възрастен и по-нататък, до суперинтелигентността.
Тази трета област може да се нарече „разузнаване на човешко ниво“, за да се разграничи от „дълбокото обучение“и други видове машинно обучение, които са популярни днес. Според мен разбирането на човешкото ниво на обучение ще бъде възможно чрез емоционална и повествователна интелигентност.
Какви изследвания правите сега? Как напредва вашата работа по създаването на виртуални човешки асистенти и моделиране на емоционална интелигентност?
- Ние се занимаваме с моделиране на човешката емоционална интелигентност с цел да разработим социално съвместими виртуални човешки асистенти въз основа на нашите модели.
Ние разглеждаме широк спектър от специфични задачи и области на изследване. Например, това е създаването на виртуален партньор във видео игра; виртуален координатор или модератор; виртуален творчески асистент на композитора, хореографа, дизайнера, асистента на решаващия проблем на прозрението; виртуален слушател (в бъдеще - виртуален събеседник); както и виртуален домашен любимец, съпоставим с истинския по своите социални и емоционални характеристики.
Резултатите са трудни за представяне подробно тук, но те могат да бъдат намерени в нашите отворени публикации. За цялата широта на нашите опити и успехи се нуждаем от пробив в една посока: в доказване на практическата стойност на общия модел на човешката емоционална интелигентност, въплътен в интелектуален агент.
Наскоро нашата BICA лаборатория към катедрата по кибернетика в NRNU MEPhI беше обогатена с нови методи за изследване, включително експериментална платформа, базирана на виртуална и смесена реалност (с проследяване посоката на очите на субекта), както и електромиография и автоматичен анализ на изражението на лицето, което ни позволява да регистрираме емоции на субекти, потопени в виртуални среди. По-голямата част от нашата работа се извършва по тези технологии. EEG и fMRI също се използват в някои експерименти.
Промоционално видео:
Нашата непосредствена обща цел е да усъвършенстваме и емпирично да утвърдим Ebica Socio-Emotional Cognitive Architecture (eBICA) и да създадем ефективни демонстрации въз основа на нея. Тази работа се извършва в NRNU MEPhI с финансова подкрепа от Руската научна фондация № 18-11-00336.
Наскоро стартиращият компанията Elon Musk Neuralink обяви разработки, които в бъдеще могат да направят човек киборг, способен да контролира компютър със силата на мисълта. Колко обещаваща е тази линия на изследване за вас?
- По мое разбиране изкуственият интелект трябва да стане, от една страна, равен партньор и приятел на човека, а от друга, разширение на нормалното или заместване на загубени човешки възможности, включително средства, основани на директен интерфейс с човешкия мозък.
В този случай човек може буквално да използва компютър или микрочип като част от мозъка си. И двете са насочени към доброто и трябва да бъдат изцяло контролирани от неговия създател. Пожелавам на Елон Мъск всеки успех.
Колко голяма е необходимостта от разработване на средства за противодействие на изкуствения интелект?
- Мисля, че в нашата ера инструментите за изкуствен интелект ще останат под контрола на човек, макар и само поради тяхната зависимост от услугата от човек и да им предоставят всичко необходимо. Ако някой може да ги обърне срещу човек, то само на самия човек. Тогава трябва да се разгледа въпросът за противопоставянето на тези хора.
Не е тайна, че на първо място военните се нуждаят от изкуствен интелект. Днес, както и преди, се създават нови средства за атака и отбрана. Но особеността на нашето време е, че и двамата включват изкуствен интелект. В този смисъл необходимостта от разработване на средства за конфронтация е голяма и за някои страни това е приоритет от финансова гледна точка.
Какво ни очаква след създаването на изкуствен интелект, превъзхождащ човешкия? Ще съжителстваме ли с машини или ще се обединим в някакво едно цяло?
- Изкуственият интелект ще стане и вече се превръща в неразделна част от човешката цивилизация. В същото време все още са възможни два начина: наследяването на нашите ценности, стремежи и идеали от изкуствен интелект или тяхната замяна с „машинни стойности“, която се разпростира не само на машините, но и на хората. Кой от тези два пътя е реализиран зависи от нас.
Какво означава да останеш човек в ерата на изкуствения интелект?
- Да останеш човек в ерата на изкуствения интелект означава да осъществиш първия път.
