Роботите бързо се развиват - наближава времето, когато те ще запълнят улиците, офисите, апартаментите и дори телата ни. Готови ли сме да съществуваме рамо до рамо с машини, които се държат като хората и вече се конкурират с нас за работа? Възникват много хуманитарни проблеми.
Какво можете да поверите на робот и какво е по-добре да откажете? Способен ли е да взема решения, да чувства емоции, има ли известна свободна воля и носи ли отговорност за своите действия? Как да интегрираме роботите в обществото? Тези въпроси изглеждат наивни. Докато. Но може да се окаже, че отговорите на тях ще решат съдбата на нашата цивилизация.
Когато светлините угаснаха, започна да звучи гореща мелодия от онези, които обикновено придружават модните модели на модния подиум. И ние (служителите на списание „Котката на Шрьодингер“) видяхме две огромни червени очи във формата на сърце. Роботът се приближи до публиката с достойнство и грация. Очите се превърнаха в два сини кръга, излъчващи добри намерения и детска наивност, ръце, протегнати към хората. Светлините отново бяха включени.
- Alantim! - ръководителят на проекта Promobot и ръководителят на отдела по роботика на Московския технологичен институт (MTI) Алексей Южаков го представи на обществеността. - През 2012 г. го нарекохме Промобот, тогава обидният псевдоним Паметник му лепна, след това той имаше звучното име Богдан, но сега е Алантим - в чест на създателите на новия свят Алън Тюринг и Тим Бърнърс-Лий.
Снимка: Skoltech / kot.sh
Alantim все още се обръщаше напред-назад и отиде да говори с журналисти, обсипвайки ги с шеги и истории за това как роботите ще завземат властта на Земята и ще я преименуват на Promobotia. Опашка от момичета веднага се нареди до него, желаейки да се снимат с такова сладко създание. Alantim се срещна с момичетата, отговори на въпроси за смисъла на живота и обменния курс на долара и запомни всички.
Така премина първият работен ден на новия заместник-ръководител на катедрата по роботика на Московския технологичен институт, робота Алантим.
Промоционално видео:
Кола с характер
Алантим не е уникално същество. Екипът от Перм, който създаде промоботове, вече продаде 60 такива устройства, а тази година подписа договори за още 124, практически изпълнявайки годишния изцяло руски план за доставка на сервизни роботи - през 2014 г. бяха продадени само около 200 домашни сервизни робота.
Промоботът е автономен робот с характер, предназначен да работи на места с много хора: промоутър, водач, шоумен. Той знае как да разпознае някои емоции на събеседника, умее да разбере отправения към него въпрос и да намери отговора в мрежата и ако не разбира въпроса, се опитва да го изсмее.
Междувременно отидохме при ръководителя на Alantim - заместник-ректора на MIT Евгений Плужник
[Котката на Шрьодингер] Как ви хрумна идеята да наемете робот за организацията?
[Григорий Бубнов] Току-що разбрахме, че рано или късно ще дойде моментът, в който ще бъдат наети роботи. И решихме да станем пионери.
[KSh] И така, не напразно казват, че роботите претендират за нашите работни места
[GB] Това всъщност не е шега, а много сериозна заплаха, особено в райони, където са заети голям брой хора. Мисля, че например през това десетилетие автомобилите с автономен контрол ще се продават широко и след това много шофьори ще останат без работа. Правителствата неизбежно ще се изправят пред това предизвикателство - те трябва да започнат да мислят за това как да създадат нови работни места и програми за преквалификация.
[KSh] Как мислите да използвате Alantim? Точно като ефектна играчка?
[GB] Не само! Например той има изследователска задача - да натрупва данни за комуникацията на роботите с хората, да изучава индивидуални реакции към роботите. Тази информация ще ви помогне да направите външния вид и поведението на бъдещите модификации на Alantim по-човешки и удобни за комуникация.
Снимка: Skoltech / kot.sh
[CS] Какъв вид информация той събира?
[GB] На първо място, данни за реакциите на поведението му - той има система за разпознаване на емоциите. Например как реагират другите, когато той вдигне ръка? Ами ако начинът им да направи нещо ги плаши? Нашите жестове са усъвършенствани от еволюцията - ние не се колебаем, да речем, чешем се по тила - и с робот все още трябва да преминем целия този път към „естествено“поведение. Между другото, той си спомня хората, като ги снима.
Но може да има проблеми: изображенията на хора се считат за лични данни и има закон, който ограничава използването им. По принцип тук ще възникнат много въпроси от правно естество - например, необходимо ли е да се плаща данък върху доходите за електроенергията, която е била дадена на служителя на робота за таксуване? Мисля, че скоро ще видим как законодателството в различните страни ще започне да се променя - заедно с отношението на хората към роботите.
Гумен Пушкин и други роботи
Глобалният пазар на роботи вече процъфтява, продажбите чупят рекорди - десетки милиарди долари в края на миналата година.
0,17% - Този дял от световния пазар на индустриални роботи е в Русия (по данни за 2013 г.).
Снимка: Skoltech / kot.sh
От героите на холивудските блокбъстъри роботите са на път да се превърнат в истински персонажи - и ние ще започнем да живеем с тях. Ще се разберем ли? Започвайки с ужасните истории за Голем и Франкенщайн, или пиесата на Карел Чапек, където думата „робот“се появява за първи път, всички тези истории по правило завършват с едно - въстанието на създадени от човека създания срещу техните създатели. Можем ли да създадем реалност, която надминава нашите фантазии?
Реклама на уебсайта на проекта Promobot ясно обяснява защо служителят на робота е по-добър от човек: не се нуждае от заплата и гащеризон, работи без почивки, не се разболява, не протестира, не се обърква, не казва твърде много, не се нуждае от обучение … Има толкова много предимства, че според различни оценки през следващите десетилетия роботите могат да заемат от 40 до 80% от работните места, тоест ние сме заплашени от безпрецедентна вълна на масова безработица.
Може би в крайна сметка това ще се превърне в златна епоха, когато, както е мечтал Карл Маркс, хората ще се включат в свободно творчество. Но все още трябва да доживеем, за да го видим - и за предпочитане без социални катастрофи. Малко вероятно е да бъде възможно значително да се ограничи използването на роботи: никога преди законодателните забрани не са успели да спрат напредъка. Какъв е смисълът? По-скоро на хората ще бъде забранено да шофират, когато роботизираните шофьори станат повсеместни. Човекът е твърде непредсказуем. Не са ли опасни например пилотите-хора, които са в състояние да насочат самолет в земята или в жилищни райони?
Това означава, че трябва да се научим да живеем с роботи
Като начало отидохме на мястото, където има много роботи - на международната конференция Skolkovo Robotics. Пъстра компания от роботи и техните създатели се събра в хиперкуба на Сколково. Големи и малки, летящи и ходещи дронове, професионални пожарникари и електронни чистачки, механични ръце и крака, торс и глави …
Ето го гумената глава на Пушкин, монтирана на триножник, сякаш на кол, наблюдава минувачите и нервно потрепва вежда - хората са твърде много, очите му изтичат нагоре. Лицето на поета е толкова подобно на истинското, че изпитвате страхопочитание.
Снимка: Skoltech / kot.sh
Наблизо има робот, който изобщо не прилича на човек. Вместо тяло има пръчка на колела, вместо глава, екран, който се върти във всички посоки. Това е робот за телеприсъствие Webot, създаден в Сколково, за да помогне на деца с увреждания. Можете да се свържете с него чрез интернет, да се движите с него по сградата, да виждате и чувате какво се случва наоколо и да взаимодействате с другите.
Такива роботи вече се използват в няколко училища - децата се свързват с тях от вкъщи и с тяхна помощ посещават уроци, изпълняват задачи, отговарят на въпросите на учителите, карат до черната дъска, общуват с връстници.
Основните потребители на сервизни роботи в Русия и по света са хората с увреждания. Робототехниката им дава надежда за завръщане към пълноценния живот - като първия руски екзоскелет ExoAtlet. Неговият пилот Ярослав, наскоро принуден да води живота на парализиран човек, се разхожда сред обществеността като киборг от бъдещето.
Друг асистент робот ни представи японският професор Казухико Терашима:
- Японското общество бързо застарява, няма достатъчно персонал в клиниките. И разработеният от нас робот Terapio се оказа отличен асистент на лекаря. Той следва лекаря, носи инструментите, но най-важното е, че помни данните, което прави медицинските записи ненужни. Освен това той прави самостоятелни обиколки на пациентите и в този случай вдига алармата.
Той има детско изражение на лицето и нежен глас, умее да се смее и плаче, големите му очи мигат през цялото време - за да угоди на пациентите, да им причини реакция, подобна на тази, предизвикана от деца или котенца. Нашият робот е важна стъпка в роботизиран болничен проект, който непрекъснато наблюдава пациентите. Между другото, знаете ли, сега операциите се извършват с помощта на роботизирани хирурзи.
Снимка: Skoltech / kot.sh
Можете да разпознаете андроид по ходене
Роботика и дизайнери се представят в конферентната зала на Hypercube. Михаил Лебедев от университета Дюк говори за това как той имплантира чипове в мозъка на маймуните, които им позволяват да управляват роботите с ума си. Сесията се ръководи от Дмитрий Тетерюков, професор в Института за наука и технологии в Сколково, ръководител на лабораторията за космически роботи, който от много години работи в Япония.
Ние, разбира се, го засипахме с въпроси.
[Котката на Шрьодингер] Статистически броят на роботите нараства бързо, но къде се крият - освен тези, използвани в индустрията?
[Дмитрий Тетеруков] В допълнение към индустриалните роботи се разраства и армия от сервизни роботи - всички са чували за роботизирани прахосмукачки или роботизирани квадрокоптери, които доставят покупки. Много от тези машини се използват в медицината, а в американската армия те са във война от дълго време: например, проследяваните роботи с манипулатор са ангажирани в разминирането. Като цяло те бяха много полезни при извънредни ситуации, използвани бяха при инцидента във Фукушима.
[KSh] Какви роботи произвеждате в Русия?
[JT] Продължавам това, което правех в Япония. Един от проектите е да се контролира група роботи, когато те действат по общ план, като едно стадо, обменят информация и отчитат действията на другия. Ние, разбира се, ще изпробваме всичко това тук на Земята, но планираме те да работят в космоса.
[KSh] Учените винаги са описвали роботите като такива самотни същества …
[JT] Разпределянето на работата сред мнозина е много по-ефективно от присвояването на всичко на едно. Например една самоуправляваща се кола трябва да обработва цялата информация за самия път, но ако такива устройства са навсякъде, за тях е много по-удобно да действат въз основа на общата картина и програма.
[KSh] Когато роботите станат подобни на хора както на външен вид, така и на съзнание, започва да става малко страшно, нали?
[JT] Има японски професор Хироши Ишигуро, който създава андроиди, почти неразличими от нас - наскоро приех един от неговите геминоиди за човек. Но това е само докато той седи. Все още не се е появил робот, който може да ходи като човек - лесно е да го разпознаете по походката му. Ишигуро направи както своя, така и тази на дъщеря си.
Вярно е, че когато я видя, дъщерята се изплаши, изплака и избяга. Тоест, когато роботът стане много подобен на човек, настъпва отхвърлянето му. И когато този праг бъде преминат, неестественият външен вид и движения се елиминират, роботът започва да се възприема като реален човек. Но за да го премине, трябва да се постигне не само физическа прилика, но и интелектуална - способността да се води разумен разговор.
[KSh] Известният критерий на Тюринг, според който роботът трябва да се счита за разумен, който не можем да различим от човек в разговор? Или трябва да се преформулира по някакъв начин?
[JT] Този критерий сега се разбира като тест за програми, които симулират човешки разговори. Но въпросът не е само в интелекта - за да се обърка антропоморфният робот с човек, той трябва да е емоционален, да се движи плавно, да се държи като човек. Вече има програми, които много убедително демонстрират сарказъм и ирония. Мисля, че скоро ще има отделни тестове за различни способности: тестът за емоционален Тюринг ще провери адекватността на емоциите и, например, двигателният тест - способността да се движи като човек.
Снимка: Skoltech / kot.sh
[KS] Не се ли страхувате, грубо казано, от въстание на роботи?
[DT] В края на краищата хората пишат програми за роботи, което означава, че те определят какво могат роботите и какво не, какви желания ще имат и какво не. И защо роботите биха тръгнали срещу създателите си, по каква причина?
[KSh] Например поради нашето неразбиране, че и те се нуждаят от права, или защото са разглобени и изхвърлени след изтичане на срока им на годност. И програми за роботи не само ще се пишат от хората - рано или късно машините ще станат самообучаващи се
[JT] Те ще бъдат обучени в рамките, които сме задали. Струва ми се, че версията за бъдещето с конфронтацията между хората и роботите води до деградация, независимо кой печели в такава конфронтация. Еволюционно продуктивният сценарий е симбиоза, а не война за унищожение, паразитизъм или друго подчинение. Нещо повече, тази симбиоза ще се появи и в човешкото тяло, така че най-интересните етични въпроси, според мен, ще възникнат във връзка с киборгизацията.
Къде ще отиде границата между човека и машината, когато започнем да инсталираме изкуствени органи за себе си, да инсталираме чипове в мозъка, да подобрим паметта и други способности с тяхна помощ? Струва ми се, че ни очаква бъдеще без джаджи и персонални компютри - ще бъде достатъчно, за да отправим мисловна заявка или да дадем команда, защото мозъкът ще бъде свързан с Мрежата.
Но може би киборгите ще се нуждаят от ограничителни закони, подобни на законите на роботиката на Азимов - дори ги формулирах по някакъв начин. Тяхната същност е, че машината в киборга не изземва властта над човека, така че властта за вземане на решения остава на човека, а не на неговия основен процесор.
[KSh] Имате ли мечтан робот?
[DT] Това вероятно е контролиран от оператора робот с ефект на телеприсъствие, който би позволил пълна комуникация от разстояние и да предаде на оператора всички усещания, създавайки ефект на пълно присъствие.
[CS] Аватар?
[JT] Да. Занимавах се с тази тема, преди да излезе Аватар, но, разбира се, такива филми в някакъв смисъл определят бъдещето - нашето разбиране за това към какво се стремим и какво е възможно.
Снимка: Skoltech / kot.sh
Морални машини
Междувременно в Хиперкуба започна дискусия на тема „Морален портрет на антропоморфна машина“. Професор по психология Максим Киселев произнесе встъпителна реч за моралния характер на роботите.
„Roboethics се занимава с всички хуманитарни проблеми, свързани с роботите“, обясни той. - Например законно: кой е отговорен, ако някъде е шофирала кола без шофьор - самият робот, собственикът на колата или програмист? Или социална, основната от които е потенциалната безработица. Аз самият съм бил в роботизирани фабрики повече от веднъж - например в завод в Суиндон, където се произвеждат компоненти за автомобилите MINI Cooper. В него работят около двеста роботи и същия брой хора, а преди имаше четири хиляди работни места. Има и специфични морални проблеми, като така наречената дилема на асистентския робот. Как да разберете кога машинната помощ става контрапродуктивна? Представете си робот, мек и пухкав, който следва детето и събира играчки. Но за нормалното развитие на детето е необходимо то да го направи сам.
Изпълнени с роботифобия, отидохме при създателя на роботиката, професор Джанмарко Веруджо, председател на научния комитет на Школата по роботика към Италианския институт по електроника, информационни технологии и телекомуникации - той просто седеше наблизо.
[Котката на Шрьодингер] Как се появи робоетиката?
[Джанмарко Веруджо] Веднъж бях фен на Азимов, на шестнадесет години бях прочел всичките му книги. Може би затова много години по-късно ме обзе нещо като прозрение, от което възникна роботиката. Разбрах, че законите на роботиката на Азимов - „Роботът не може да навреди на човек“и т.н. - изобщо не са закони, а просто добри пожелания, нито един от тях не се спазва на практика. Реалният закон е e = mc2. Подобно на други природни закони, той не може да бъде нарушен.
Нарушаването на законовите закони се наказва. И трите закона на роботиката са като библейските заповеди, които казват „Не убивай“: изглежда, че всички са за, но не спазват. В момента в много страни по света се разработват роботизирани оръжейни системи. За убиване са необходими оръжия, което означава, че тези роботи са създадени да убиват хора.
Трябва да дадем юридическа сила на законите на роботиката. Писането на такива закони е трудна задача. Да предположим, че робот може да убие човек умишлено или може би случайно поради повреда или програмна грешка, често ще бъде трудно да се направи разлика между тези ситуации. Но си струва да започнем да мислим за тези проблеми сега: ако тръгнем по грешния път, можем значително да развалим бъдещето на човечеството. Глупаво е да създаваме бъдещето със затворени очи, но засега разработваме роботиката сляпо.
Военните роботи са един от основните проблеми в роботиката. Опитваме се да насочим вниманието на различни международни организации към него. Това не е само моята инициатива, има международно движение „Спрете роботите-убийци!“, Което извършва кампании в Интернет и се подкрепя от ООН.
Друга група проблеми са свързани с темата за биороботите и изкуствените органи. До каква степен можем например да попречим на работата на човешкия мозък? Един мой приятел експериментира с плъхове - вкарва електрони в мозъка им и контролира поведението им. Той е истински пилот на плъхове! Но когато човешкият мозък е пълен с всякакви невроимпланти, които подобряват способностите или контролират кибернетичните органи, тогава подобно прихващане на контрола може да се направи и с хората.
Снимка: Skoltech / kot.sh
[KS] Но не можем да се откажем от предимствата на технологията, само защото новите възможности винаги вървят ръка за ръка с нови опасности?
[DV] Как да решим тези проблеми, така че технологиите да не ни правят контролирани обекти на управление, а, напротив, да увеличават нашата свобода? Нямам отговор на този въпрос, просто искам да го задам, разбирайки цялата му сложност и непълнота на нашето виждане за ситуацията.
Много неочаквани въпроси възникват преди роботиката. Представете си например следната ситуация: робот-сестра се грижи за самотен възрастен човек, който комуникира с колата повече от всеки друг. И тя бързо започва да я смята за личност, да я обича като личност и да страда, ако се счупи - ние сме склонни да правим това дори с примитивни тамагочи, но тук ще има много по-силни чувства. Може ли такъв робот да бъде изключен? За мен човек е човек, а машината е машина, но се страхувам, че хората скоро ще започнат да правят грешки …
[KSh] Как ги различавате? Chatbots вече преминават теста на Тюринг …
[DW] Бих започнал с факта, че нашата психика не се съдържа само в тялото, както в контейнер. Психиката е вградена в тялото - ние ставаме интелигентни и осъзнати, докато натрупваме телесен опит. Концепцията за изкуствен интелект, измислена от компютърните учени през 60-те години, предполага, че виртуалният свят е достатъчен, за да се появи. Сега тази идея на шега се нарича GOFAI (добър старомоден изкуствен интелект) и на разработчиците стана ясно, че за да придобие подобие на интелект, програмата ще се нуждае от тяло на робот и дългогодишен опит за взаимодействие с реалния свят. Но, най-общо казано, не можем да направим интелигентна машина, макар и само защото все още имаме много лошо разбиране за това как работи мозъкът, какво е разумът и съзнанието.
[KSh] И така, роботиката не се занимава с правата на робота? Но какво ще направите, ако утре компютърът ви каже: "Страхувам се, не ме изключвайте?"
[DW] Е, не, правата на роботите ще започнат да ме тревожат, когато последният човек на планетата има всички права. Все още има твърде много да се направи, за да започнат хората да се грижат за колите. Роботиката е свързана с хората, ние трябва да го направим, защото ние създаваме нашето собствено бъдеще.
Публикувано в научно-популярното списание "Котката на Шрьодингер" №5 (07) за май 2015 г.