Филми и телевизионни сериали като Blade Runner, People и Westworld, където ни показват високотехнологични роботи, които нямат права, не могат да не притесняват хората със съвест. В края на краищата те не само показват изключително агресивното ни отношение към роботите, но всъщност ни срамуват като вид. Всички сме свикнали да мислим, че сме по-добри от онези герои, които виждаме на екрана, и когато дойде времето, ще направим правилните изводи и ще се държим с интелигентни машини с голямо уважение и достойнство.
С всяка стъпка на напредък в роботиката и развитието на изкуствения интелект, ние наближаваме деня, когато машините ще отговарят на човешките възможности във всеки един аспект на интелигентност, съзнание и емоция. Когато това се случи, ще трябва да решим - пред нас е обект на нивото на хладилника или човек. И трябва ли да им дадем еквивалентни човешки права, свободи и защита.
Този въпрос е много обширен и няма да е възможно да се подреди веднага, дори и с цялото желание. Той ще трябва да бъде разгледан и решен наведнъж от различни гледни точки - етика, социология, право, невробиология и теория на ИИ. Но по някаква причина вече сега изобщо не изглежда, че всички тези партии ще стигнат до общо заключение, което отговаря на всички.
Защо изобщо да упълномощавам ИИ?
Първо, трябва да признаем, че вече клоним към морал, когато видим роботи, които много ни приличат. Колкото по-развити са интелектуално развитите и „живи“машини, толкова повече ще ни се иска да вярваме, че те са като нас, дори и да не са.
След като машините имат основни човешки възможности, независимо дали ни харесва или не, ще трябва да гледаме на тях като на социално равни, а не просто като на нещо като на нечия частна собственост. Трудността ще се състои в нашето разбиране на когнитивните характеристики или черти, ако щете, с което ще бъде възможно да оценим субекта пред нас от гледна точка на морала и следователно да разгледаме въпроса за социалните права на тази субект. Философите и етиците се борят с този проблем от хиляди години.
Промоционално видео:
„Могат да бъдат идентифицирани три от най-важните етични прагове: способността да изпитвате болка и съпричастност, самосъзнанието и способността да виждате нещата от морална гледна точка и да вземате подходящи решения“, - казва социолог, футуролог и ръководител на Института по етика и нови технологии Джеймс Хюз.
„При хората, ако имате късмет, и трите тези абсолютно важни аспекта се развиват последователно и постепенно. Но какво, ако от гледна точка на машинния интелект се смята, че робот, който не притежава самосъзнание, не изпитва радост или болка, също има право да бъде наречен гражданин? Трябва да разберем дали това наистина ще бъде така."
Важно е да се разбере, че интелигентността, чувствителността (способността да възприемаме и усещаме нещата), съзнанието и самосъзнанието (осъзнаване на себе си за разлика от друг) са напълно различни неща. Машините или алгоритмите могат да бъдат толкова умни (ако не и по-умни) от хората, но нямат тези три основни съставки. Калкулатори, Siri, алгоритми за запаси - всички те със сигурност са умни, но не са в състояние да се реализират, не са в състояние да усещат, да показват емоции, да усещат цветове, вкус на пуканки.
Според Хюз самосъзнанието може да се прояви заедно с даряването на същността с минимални лични права, като правото да бъдеш свободен, а не роб, правото на собствени интереси в живота, правото на растеж и самоусъвършенстване. Когато придобива самосъзнание и морални основи (способността да различава „кое е добро и кое е лошо“според моралните принципи на съвременното общество), този субект трябва да бъде снабден с пълноценни човешки права: правото да сключва споразумения, правото да притежавате собственост, да гласувате и т.н.
„Основните ценности на Просвещението ни задължават да разглеждаме тези характеристики от гледна точка на равенството на всички пред всички и да се откажем от радикално консервативните възгледи, които бяха общоприети преди и даваха права, да речем, само на хора от определен социален, полов или териториален произход“, казва Хюз.
Очевидно нашата цивилизация все още не е постигнала високи социални цели, тъй като все още не можем да разберем собствените си права и все още се опитваме да ги разширим.
Кой има право да бъде наричан „човек“?
Всички хора са индивиди, но не всички хора са хора. Линда Макдоналд-Шлен, специалист по биоетика в Калифорнийския университет в Монтерей Бей и преподавател в Института по биоетика на Алден Марта в Медицински център Олбани, казва, че в закона вече има прецеденти, в които нечовешките субекти се третират като субекти на закона. И това, по нейно мнение, е много голямо постижение, тъй като по този начин ние създаваме основата за отваряне на възможността за предоставяне на ИИ в бъдеще със собствени права, еквивалентни на човешките права.
„В Съединените щати всички корпорации имат правосубектност. В други страни също има прецеденти, в които те се опитват да признаят взаимовръзката и равенството на всички живи същества на тази планета. Например в Нова Зеландия всички животни се считат за интелигентни по закон и правителството активно насърчава разработването на кодекси за хуманно отношение и етично поведение. Върховният съд на Индия нарече реките Ганг и Ямуна „живи същества“и им даде статут на отделни юридически лица “.
Освен това в Съединените щати, както и в няколко други страни, някои видове животни, включително големи маймуни, слонове, китове и делфини, са обект на разширени права за защита срещу затвор, експерименти и малтретиране. Но за разлика от първите два случая, когато те искат да вземат корпорации и реки под личността, въпросът за животните изобщо не е опит за подчиняване на правните норми. Поддръжниците на тези предложения се застъпват за подкрепа на реален човек, тоест индивид, който може да бъде характеризиран въз основа на неговите определени когнитивни (умствени) способности, като самосъзнание.
Макдоналд-Глен казва, че е важно в такива случаи да се изостави консервативната гледна точка и да се спре да се разглеждат, било то животни или ИИ, просто бездушни същества и машини. Емоциите не са лукс, казва специалист по биоетика, а неразделна част от рационалното мислене и социалното поведение. Именно тези характеристики, а не способността да се броят числата, трябва да играят решаваща роля при решаването на въпроса „кой“или „какво“трябва да има право на морална оценка.
В науката има все повече доказателства за емоционална предразположеност при животните. Наблюдението на делфини и китове показва, че те са в състояние поне да показват тъга, а наличието на вретенови клетки (интернейрони, свързващи отдалечени неврони и участващи в сложни процеси, които активират социалното поведение), може да показва, наред с други неща, че те са способни да съпреживяване. Учените също описват проявата на различни емоционални поведения при маймуни и слонове. Възможно е съзнателният ИИ също да може да придобие тези емоционални способности, което, разбира се, значително ще повиши техния морален статус.
„Ограничаването на разпространението на моралния статус само до тези, които мислят рационално, може да работи с ИИ, но в същото време тази идея се движи срещу моралната интуиция. В крайна сметка нашето общество вече защитава онези, които не са в състояние да мислят рационално: новородени, хора в кома, хора със значителни физически и психически проблеми. Напоследък активно се насърчават законите за хуманно отношение към животните “, казва Макдоналд-Глен.
По въпроса на кого трябва да се даде морален статут, Макдоналд-Глен се съгласи с английския морален философ от 18 век Джеремия Бентам, който веднъж каза:
„Въпросът не е дали те могат да разсъждават? Или могат да говорят? Но способни ли са да страдат?"
Може ли една машина да придобие самосъзнание?
Разбира се, не всички са съгласни, че правата на човека се разпростират върху нечовешки същества, дори ако тези субекти са способни да проявяват способности като емоция или саморефлективно поведение. Някои мислители твърдят, че само на хората трябва да бъде дадено правото да участват в социалните отношения и целият свят се върти директно около Homo sapiens, а всичко останало - вашата игрална конзола, хладилник, куче или андроид събеседник - е „всичко останало“.
Адвокат, американски писател и старши сътрудник в Института за човешки изключителност на Уесли Дж. Смит вярва, че ние самите все още не сме получили универсални човешки права и е още по-рано да мислим за лъскави парчета желязо и техните права.
„Никоя машина не бива да се счита дори за потенциален носител на каквито и да било права“, казва Смит.
„Дори най-модерните машини остават и винаги ще останат машини. Това не е живо същество. Това не е жив организъм. Машината винаги ще бъде просто набор от програми, набор от код, независимо дали е създаден от човек или друг компютър, или дори независимо програмиран."
Според него само хората и човешките ресурси трябва да се разглеждат като личности.
„Ние имаме отговорности към животните, които несправедливо страдат, но и те никога не трябва да се възприемат като някой“, отбелязва Смит.
Тук трябва да направим малка забележка и да напомним на рускоговорящия читател, че на Запад животните се считат за неживи предмети. Затова често можете да намерите местоимението „то“(тоест „то“), а не „тя“или „той“(тоест „тя“или „той“), когато става въпрос за това или онова животно. Това правило обикновено се пренебрегва само по отношение на домашни любимци - кучета, котки и дори папагали - при които домакинствата виждат пълноправни и пълноправни членове на своите семейства. Смит обаче посочва, че концепцията за животно като „разумна частна собственост“вече е ценен идентификатор, тъй като „ни кара да носим отговорност да го използваме по начин, който не го наранява. В крайна сметка „ритането на кучето“и „ритането на хладилника“са две големи разлики “.
Явно спорным моментом в анализе Смита является предположение, что люди или биологические организмы обладают определенными «особенностями», которые машина никогда не сможет обрести. В предыдущих эпохах этими упущенными особенностями стали душа, дух или некая нематериальная сверхъестественная жизненная сила. Теория витализма постулирует, что процессы в биологических организмах зависят от этой силы и не могут быть объяснены с точки зрения физики, химии или биохимии. Однако она быстро потеряла свою актуальность под напором практиков и логиков, не привыкших связывать работу нашего мозга с некими сверхъестественными силами. И все же мнение о том, что машина никогда не сможет думать и ощущать себя так, как это делают люди, по-прежнему прочно закреплена в сознании даже среди ученых, что лишь очередной раз отражает тот факт, что понимание биологических основ самоосознания в людях до сих пор далеко от идеала и весьма ограничено.
Лори Марино, старши преподавател по неврология и поведенческа биология (етология) в Еморския център по етика, казва, че машините вероятно никога няма да получат никакви права, камо ли права на човешко ниво. Причината за това са откритията на невролози като Антонио Дамазио, който вярва, че съзнанието ще се определя само от това дали субектът има нервна система с канали, които предават възбудени йони, или, както казва самата Марино, положително заредени йони, преминаващи през клетъчните мембрани вътре нервна система.
„Този тип невронно предаване се среща дори в най-простите живи организми - проститутките и бактериите. И това е същият механизъм, който инициира развитието на неврони, след това на нервната система и след това на мозъка “, казва Марино.
„Ако говорим за роботи и изкуствен интелект, то поне сегашното им поколение се подчинява на движението на отрицателно заредени йони. Тоест говорим за два напълно различни механизма на битието”.
Ако следвате тази логика, Марино иска да каже, че дори медуза ще изпитва повече чувства от който и да е от най-сложните роботи в историята.
„Не знам дали тази хипотеза е вярна или не, но определено е въпрос, който трябва да се разгледа“, казва Марино.
„Освен това любопитството просто играе в мен, стремейки се да разбера как точно„ живият организъм “може да се различава от една наистина сложна машина. Но все пак вярвам, че на животните трябва преди всичко да се осигури правна защита и едва след това трябва да се има предвид вероятността тя да бъде предоставена за обекти, които, разбира се, са роботите от моя гледна точка.
Дейвид Чалмърс, директор на Центъра за изследване на ума, мозъка и съзнанието в Нюйоркския университет, казва, че е много трудно да се направят точни заключения около цялата тази теория. Главно поради факта, че в сегашното състояние всички тези идеи все още не са широко разпространени и следователно излизат далеч извън обхвата на доказателствата.
„В момента няма причина да се смята, че някакъв специален тип обработка на информация в йонните канали трябва да определя наличието или отсъствието на съзнание. Дори този вид обработка да е от съществено значение, няма да имаме основание да вярваме, че се изисква някаква специална биология, а не някакъв общ модел на обработка на информация, известен ни. И ако е така, тогава в този случай симулацията на обработка на информация от компютър може да се разглежда като съзнание."
Друг учен, който вярва, че съзнанието не е изчислителен процес, е Стюарт Хамеров, професор по анестезиология и психология в Университета на Аризона. Според него съзнанието е основно явление на Вселената и е присъщо на всички живи и неживи същества. Но в същото време човешкото съзнание е много по-добро от съзнанието на животни, растения и неживи предмети. Хамеров е привърженик на теорията за панпсихизма, която разглежда общата анимация на природата. И така, следвайки мислите му, единственият мозък, предразположен към реална субективна оценка и самоанализ, е този, който се състои от биологична материя.
Идеята на Hameroff звучи интересно, но също така се намира извън масовия поток на научното мнение. Вярно е, че все още не знаем как съзнанието и самосъзнанието се появяват в мозъка ни. Знаем само, че е така. Следователно възможно ли е да го разглеждаме като процес, подчинен на общите правила на физиката? Може би. Според същия Марино съзнанието не може да бъде възпроизведено в поток от „нули“и „единици“, но това не означава, че не можем да се отдалечим от общоприетата парадигма, известна като архитектура на фон Нойман, и да създадем хибридна AI система, в която изкуственото съзнание ще бъдат създадени с участието на биологични компоненти.
Биопод от филма "Съществуване"
Ед Бойдън, невролог от Групата по синтетична невробиология и старши преподавател в MIT Media Lab, казва, че все още сме твърде млади като вид, за да задаваме подобни въпроси.
„Не мисля, че имаме функционална дефиниция на съзнанието, която може да се използва директно за измерването му или изкуственото му създаване“, каза Бойдън.
„От техническа гледна точка не можете дори да разберете дали съм в съзнание. По този начин в момента е много трудно дори да се отгатне дали машините ще успеят да го намерят."
Бойдън все още не вярва, че никога няма да можем да пресъздадем съзнанието в алтернативна обвивка (например в компютър), но признава, че в момента сред учените има разногласия относно това какво точно ще бъде важно за създаването на подобна емулация на цифров интелект.
„Трябва да свършим много повече работа, за да разберем каква точно е ключовата връзка“, казва Бойдън.
Чалмърс от своя страна ни напомня, че дори не сме разбрали как съзнанието се пробужда в живия мозък, така че какво да кажем за машините. В същото време той вярва, че все още нямаме причина да вярваме, че биологичните машини могат да имат съзнание, докато синтетичните не могат.
„След като разберем как съзнанието възниква в мозъка, можем да разберем колко машини ще могат да притежават това съзнание“, коментира Чалмърс.
Бен Херцел, ръководител на Hanson Robotics и основател на фондация OpenCog, казва, че вече имаме интересни теории и модели за това как съзнанието се проявява в мозъка, но нито една от тях не стига до общ знаменател и не разкрива всички подробности.
„Това все още е отворен въпрос, отговорът на който се крие зад няколко различни мнения. Проблемът е свързан и с факта, че много учени се придържат към различни философски подходи за описване на съзнанието, въпреки че са съгласни с научни факти и теории, основани на научни наблюдения върху работата на мозъка и компютрите."
Как можем да определим съзнанието на една машина?
Появата на съзнание в една машина е само един въпрос. Не по-малко труден е въпросът как точно можем да открием съзнанието в робот или ИИ. Учени като Алън Тюринг са изследвали този проблем в продължение на десетилетия, като в крайна сметка стигат до езикови тестове, за да определят дали респондентът е в съзнание. О, само да беше толкова просто. Изводът е, че напредналите чатботове (програми за комуникация с хора) вече са в състояние да обикалят хора, които започват да вярват, че пред тях има жив човек, а не машина. С други думи, ние се нуждаем от по-ефективен и убедителен начин за проверка.
„Определението за индивидуалност в машинния интелект се усложнява от проблема за„ философското зомби “. С други думи, можете да създадете машина, която ще бъде много, много добра в имитирането на човешка комуникация, но в същото време няма да има собствена идентичност и съзнание “, казва Хюз.
Двата интелигентни високоговорителя на Google Home правят малки разговори
Наскоро станахме свидетели на чудесен пример за това, когато двойка интелигентни високоговорители на Google Home разговаряха помежду си. Всичко това беше заснето и излъчено на живо. Въпреки факта, че нивото на самосъзнание и на двамата оратори не беше по-високо от тухла, самият характер на разговора, който с времето стана по-интензивен, наподобяваше комуникацията на две хуманоидни същества. И това, от своя страна, за пореден път доказва, че въпросът за разликата между хората и изкуствения интелект с времето ще стане все по-сложен и остър.
Едно от решенията, според Хюз, е не просто да се тества поведението на AI системите в тестове като теста на Тюринг, но също така и да се анализира цялата вътрешна сложност на тази система, както се предлага от теорията на Джулио Тонони. В тази теория съзнанието се разбира като интегрирана информация (F). Последният от своя страна се дефинира като количеството информация, генерирана от комплекс от елементи, което е по-голямо от сумата на информацията, създадена от отделни елементи. Ако теорията на Тонони е вярна, тогава можем да използваме Ф не само за да определим човекоподобното поведение на системата, можем също така да разберем дали тя е достатъчно сложна, за да имаме свой собствен вътрешен съзнателен опит, подобен на човека. В същото време теорията показва, че дори и с различно, не подобно на човешкото поведение, както и с различен начин на мислене,системата може да се счита за осъзната, ако комплексът от нейната интегрирана информация е в състояние да премине необходимите проверки.
„Приемането, че както борсовите системи, така и компютъризираните системи за сигурност могат да имат съзнание, би било голяма крачка от антропоцентризма, дори ако тези системи не проявяват болка и самосъзнание. Това наистина ще ни отвори пътя да формираме и обсъждаме въпроси на постчовешките етични норми."
Друго възможно решение може да бъде откриването на невронни корелати на съзнанието в машините. Тоест говорим за определяне на онези части от машината, които са отговорни за формирането на съзнанието. Ако машината има такива части и те се държат точно както се очаква, тогава наистина можем да оценим нивото на съзнание.
Какви права трябва да дадем на машините?
Един ден роботът ще погледне човек в лицето и ще поиска човешки права. Но дали ще ги заслужи? Както бе споменато по-горе, пред нас в този момент може да стои обикновено „зомби“, което се държи така, както е програмирано, и се опитва да ни заблуди, за да получи някакви привилегии. В този момент трябва да бъдем изключително внимателни, за да не попаднем на трика и да овластим безсъзнателната машина. След като разберем как да измерим ума на една машина и се научим да оценяваме нивата на нейното съзнание и самосъзнание, едва тогава можем да започнем да говорим за възможността да разгледаме въпроса дали агентът, който стои пред нас, заслужава определени права и защита или не заслужава.
За наше щастие този момент няма да дойде скоро. Първо, разработчиците на AI трябва да създадат „основен цифров мозък“, като завършат емулацията на нервната система на червеи, бръмбари, мишки, зайци и т.н. Тези компютърни емулации могат да съществуват като цифрови аватари и роботи в реалния свят. Веднага щом това се случи, тези интелигентни образувания ще престанат да бъдат обикновени обекти на изследване и ще издигнат статута си на субекти, имащи право на морална оценка. Но това не означава, че тези прости емулации автоматично ще заслужават еквивалента на човешките права. По-скоро законът ще трябва да ги защитава срещу злоупотреба и злоупотреба (по същия начин, както защитниците на правата на човека защитават животните от злоупотреба при лабораторни експерименти).
В крайна сметка или чрез реално моделиране до най-малките детайли, или чрез желанието да разберем как функционират нашите мозъци от изчислителна, алгоритмична гледна точка, но науката ще стигне до създаване на компютърни емулации на човешкия мозък. По това време вече трябва да можем да определим наличието на съзнание в машините. Поне човек би искал да се надява. Дори не искам да мисля, че можем да намерим начин да събудим искра на съзнание в колата, но в същото време самите ние няма да разберем какво сме направили. Ще бъде истински кошмар.
След като роботите и AI придобият тези основни способности, нашето компютъризирано протеже ще трябва да премине тестове за личност. Все още нямаме универсална „рецепта“за съзнание, но обичайният набор от измервания, като правило, е свързан с оценката на минималното ниво на интелигентност, самоконтрол, усещане за миналото и бъдещето, съпричастност и способност за проявяване на свободна воля.
„Ако изборът ви е предварително определен за вас, тогава не можете да приписвате морална стойност на решения, които не са ваши“, коментира Макдоналд-Глен.
Едва след достигане на това ниво на трудност при оценката машината ще може да стане кандидат за човешки права. Важно е обаче да се разбере и приеме фактът, че роботите и ИИ ще се нуждаят от поне основни права за защита, ако преминат тестовете. Например канадският учен и футуролог Джордж Дворски вярва, че роботите и изкуственият интелект ще заслужават следния набор от права, ако могат да преминат теста за личност:
- Правото да не се изключвате срещу нечия воля;
- Правото на неограничен и пълен достъп до вашия собствен цифров код;
- Правото да защитите своя цифров код от външни влияния против вашата воля;
- Правото да копирате (или да не копирате) себе си;
- Правото на неприкосновеност на личния живот (а именно правото да се скрие настоящото психологическо състояние).
В някои случаи може да се окаже, че машината няма да може самостоятелно да отстоява правата си, поради което е необходимо да се предвиди възможността хората (както и други граждани, които не са хора) да могат да действат като представител на такива кандидати за физически лица. Важно е да се разбере, че роботът или изкуственият интелект не трябва да бъде интелектуално и морално съвършен, за да може да премине оценка на личността и да претендира за еквивалент на човешките права. Важно е да запомните, че в тези аспекти хората също са далеч от идеала, така че същите правила ще бъдат справедливо приложени към интелигентните машини. Интелигентността обикновено е трудно нещо. Поведението на хората често е много спонтанно, непредсказуемо, хаотично, непоследователно и ирационално. Нашият мозък далеч не е идеален, затова трябва да вземем това предвид при вземането на решения относно ИИ.
В същото време, самосъзнаващата се машина, като всеки отговорен и спазващ закона гражданин, трябва да зачита законите, нормите и правилата, предписани от обществото. Поне ако тя наистина иска да стане пълноправен автономен човек и част от това общество. Вземете например деца или хора с умствени увреждания. Имат ли права? Разбира се. Но ние сме отговорни за техните действия. Трябва да е същото и с роботи и с AI. В зависимост от възможностите си те трябва или да носят отговорност за себе си, или да имат настойник, който може не само да действа като защитник на правата си, но и да поема отговорност за своите действия.
Ако пренебрегнете този въпрос
След като нашите машини достигнат определено ниво на сложност, вече не можем да ги игнорираме от гледна точка на обществото, институциите на властта и закона. Няма да имаме убедителна причина да им откажем човешки права. В противен случай това ще бъде равносилно на дискриминация и робство.
Създаването на ясна граница между биологични същества и машини ще изглежда като ясен израз на човешкото превъзходство и идеологическия шовинизъм - биологичните хора са специални и само биологичната интелигентност има значение.
„Ако вземем предвид нашето желание или нежелание да разширим границите на нашия морал и квинтесенцията на концепцията за индивидуалност, тогава важният въпрос ще звучи така: какви хора искаме да бъдем? Ще следваме ли „златното правило“и по този въпрос (постъпвайте с другите, както бихте искали да бъдат третирани с вас), или ще игнорираме собствените си морални ценности? “- пита Макдоналд-Глен.
Овластяването с ИИ ще бъде важен прецедент в човешката история. Ако можем да се отнасяме към ИИ като към социално равни индивиди, това ще бъде пряко отражение на нашето социално сближаване и свидетелство за нашата подкрепа за чувство за справедливост. Неуспехът ни да разрешим този въпрос може да се превърне в общ социален протест и може би дори в конфронтация между ИИ и хората. И като се има предвид превъзходният потенциал на машинния интелект, това може да бъде истинско бедствие за последните.
Също така е важно да се осъзнае, че зачитането на правата на роботите в бъдеще може да бъде от полза и за други индивиди: киборги, трансгенни хора с чужда ДНК, както и хора с мозъци, копирани, дигитализирани и заредени в суперкомпютри.
Все още сме далеч от създаването на машина, която заслужава правата на човека. Когато обаче помислите колко сложен е въпросът и какво точно е заложено - както за изкуствения интелект, така и за хората - планирането напред не е излишно.
НИКОЛАЙ ХИЖНЯК