Ако някога сте играли ролеви игри - независимо дали онлайн или в старомоден задния двор - знаете колко лесно е да се привържете към своя аватар, тоест да свикнете с ролята на „казашкия разбойник“. Буквално усещате болка, когато герой е бит от трол, печен от дракон или убит от шаман. Американският социолог (и запален геймър) Уилям Симс Бейнбридж взе тази връзка още повече, като създаде виртуални представи на 17 починали членове на семейството. В есе от 2013 г. за онлайн аватарите той предвижда време, когато можем да заредим личността си в изкуствена интелигентна симулация на себе си, която може да действа независимо от нас и дори да остане, след като умрем.
Каква отговорност можем да поемем върху тези симулирани хора? Въпреки че сме подозрителни към насилствени компютърни игри, никой сериозно не смята за убийство да подкопае виртуален нападател. Въпреки това вече не е абсурдно да си представим, че някога моделирани хора ще съществуват и също ще имат известна степен на самостоятелност и съзнание. Много философи смятат, че ум като нашия не трябва да се съхранява в мрежата от неврони в нашия мозък, но би могъл да съществува в различни видове материални системи. Ако те са правилни, няма причина да се смята защо достатъчно мощни компютри не могат да съхраняват съзнанието в своите чипове.
Ще убиеш ли цифрова муха?
Днес много морални философи се опитват да разберат етиката на промяната на човешкото население и задават въпроси като тези: Каква е цената на човешкия живот? Какъв живот трябва да се стремим да оформяме? Колко стойност трябва да инвестираме в човешкото многообразие? Но що се отнася до етиката на работа с моделирани субекти, не е напълно ясно дали трябва да разчитаме на същата логика и интуиция, които използваме в нашия свят от плът и кръв. Дълбоко в душите си се чувстваме нередно да убием куче или дори муха. Но дали деактивирането на мухата или модела на човешкия мозък би убило? Когато „животът“придобива нови цифрови форми, собственият ни опит вече не може да действа като надежден морален спътник.
Адриан Кент, теоретичен физик от университета в Кеймбридж, реши да проучи тази пропаст в моралните разсъждения. Да предположим, че сме се научили да подражаваме на човешкото съзнание на компютър евтино и просто, пише той в една от статиите. Бихме искали да дадем на това виртуално създание богата и полезна среда за комуникация - живот, който си заслужава да се живее. Може би бихме могли да направим това с истински хора, като сканираме мозъците им много подробно и ги репликираме на компютър. Човек може да си представи как подобна технология „спасява“хората от фатална болест; някои трансхуманисти виждат това като път към безсмъртно съзнание.
Разбира се, всичко това може да бъде мечта за лула - но нека предположим обратното. Сега нека вземем ръцете си от набор от утилитарни морални принципи, въведени от Джереми Бентам в края на 18 век и впоследствие усъвършенствани от Джон Стюарт Мил. Като се имат предвид всички неща, каза Бентам, трябва да се стремим да донесем максимално щастие (или „полезност“) на колкото се може повече хора. Или, по думите на Мил, „действията са оправдани пропорционално на това колко са щастливи и не са оправдани, ако водят до липса на щастие“.
Принципите на доброто поведение имат много критици. Например, как можем да измерим или сравним типове щастие - претегляне на стойността на любовта на една баба, например, на същите везни с възхищение към виртуозния концертен пианист? „Дори и да искате да се отнасяте сериозно към утилитаризма, вие не знаете какви качества влагате в изчисленията си, наистина имат значение“, казва Кен. Въпреки това, повечето системи на вярвания днес приемат по подразбиране, че моралният компас, който сочи към по-голямо щастие, очевидно е за предпочитане пред този, който гледа далеч от него.
Промоционално видео:
Според сценария на Кент, ако изхождаме от утилитарните мотиви, може да се мисли, че трябва да продължим напред и да умножим моделираните си или симулирани същества - нека ги наречем симс - без ограничения. В реалния свят подобно неконтролирано размножаване има очевидни недостатъци. Хората ще страдат, емоционално и икономически, с голямо семейство; пренаселението вече оказва натиск върху глобалните ресурси и т.н. Но във виртуалния свят може да няма такива граници. Можете да създадете утопия с почти неограничени ресурси. Защо тогава не можете да създадете колкото се може повече светове и да ги заредите с радостни симове?
Нашата интуиция подсказва отговора: но защо? Може би един съзнателен сим просто няма да има същата присъща стойност като човек от плът и кръв? Тази точка е изразена от Майкъл Медъри, философ на ума и етиката за виртуална реалност от университета Тулан в Ню Орлиънс и смята, че трябва да се вземе сериозно.
Някои философи смятат, че ние самите можем да бъдем подобни симулирани същества. Ние просто не можем да изключим такава възможност, но въпреки това смятаме тези въпроси за смислени. Така че човек би предположил също, че Симс има право да задава въпроси.
Кент отново задава въпроса: кое би било по-правилно - да се създаде популация от еднакви същества или напълно различни? Очевидно би било по-ефективно да създадете идентични същества - достатъчно информация за едно, за да създадете N от тях. Но нашите инстинкти ни казват, че многообразието има смисъл и стойност. И защо, чудя се дали няма причина да вярвам, че N различни индивида ще бъдат по-щастливи от N идентични.
Подходът на Кент е, че различният живот е за предпочитане пред няколко копия на един и същ. „Не мога да се отърва от мисълта, че една Вселена с милиард независими еднакви емулации на Алис ще бъде по-малко интересна и с по-малко качество, отколкото Вселена с милиард различни индивиди“, казва той. Той нарича тази концепция репликация малоценност.
Ако разгледаме космоса, обитаван от милиарди Алиса, наистина ли си струва да говорим за един живот, умножен многократно, или говорим за един живот, разпространен в много светове. От това следва, че много Алиса в идентична среда ще имат стойности не повече от една. Той нарича този сценарий безполезността на репликацията. „Склонен съм към това мнение“, казва Кент, признавайки обаче, че не може да намери неопровержим аргумент в своя защита.
Мисловният експеримент на Кент засяга няколко стари мистерии на моралната философия, които никога не са били разрешени. Английският философ Дерек Парфит, който почина миналата година, се обърна към тях в монументалния си труд за личността и себе си, Причини и личности (1984). Парфит размишляваше върху въпроси, като например колко хора трябва да има изобщо и дали винаги ще бъде морално по-добре да добавим живот, който си струва да живеем, в суматохата на света, когато получим възможност.
Дори и да приемете утилитарната гледна точка, съществува проблемът да намерите най-голямото щастие за най-голям брой: двойните критерии създават неяснота. Например, представете си, че имаме контрол над това колко хора живеят в свят с ограничени ресурси. Човек би си помислил, че трябва да има някакъв оптимален брой хора, които (по принцип) ще използват най-добре ресурсите, за да осигурят щастие и просперитет за всички. Но нямаше ли място в такава утопия за друг човек? Не би ли било приемливо да намалим малкото щастието на всеки, за да си осигурим друг щастлив живот?
Проблемът е, че този процес няма край. С нарастването на числата добавеното щастие от новите животи може да надвиши разходите на тези, които вече са живи. В крайна сметка, казва Парфит, стигате до "отвратително заключение": сценарий, при който най-добрият резултат би бил раздута популация от хора, които са безнадеждно нещастни, но по-добри от това да нямат живот изобщо. Взети заедно, оскъдните им парченца щастие се равняват на повече от сумата от малък брой истински щастливи хора. "Трудно ми е да приема това заключение", написа Парфит, но можем ли да оправдаем този подход? Кент не знае. „Не знам дали може да има балансирано решение за отвратителното заключение“, казва той.
В основата на този въпрос стои онова, което Парфит нарече „проблемът за неидентичността“: как можем да разсъждаваме рационално за въпросите на притеснени индивиди, ако самото им съществуване зависи от избора, който правим (като да намерим място за „друг“)? Претеглянето на плюсовете и минусите, които могат да повлияят на даден човек, в зависимост от решенията, които вземаме, по принцип не е толкова трудно. Но предвид възможността този герой може би никога не е съществувал, ние вече не знаем как да изчислим. В сравнение с нула или нищо, всичко ще бъде печалба, така че дори най-лошите сценарии на съществуване могат да бъдат морално оправдани.
Има още един много странен сценарий в тази игра на утилитарно население. Ами ако имаше хора с толкова голяма нужда от щастие, че биха искали повече от другите, отколкото биха могли да си позволят да дадат? Американският философ Робърт Розик нарече това творение „утилитарно чудовище“и го критикува в книгата си „Анархия, държава и утопия“(1974). Според Нозик тази картина „ще изисква всички ние да се жертваме в името на чудовището, за да увеличим цялостната си полезност“. Голяма част от книгата на Парфит беше опит - в крайна сметка неуспешен - да се избяга както от отвратителното заключение, така и от утилитарното чудовище.
Сега да се върнем към виртуалните светове на Кент, пълни със Симс и неговия принцип на непълна репликация - когато определен брой различни животи струват повече от същия брой еднакви. Може би това ще ни позволи да избегнем отвратителното заключение на Парфит. Въпреки казаното от Лео Толстой за неравенството на нещастните семейства в началото на Анна Каренина (1878 г.), изглежда, че огромен брой нещастни животи ще бъдат почти еднакви в тъмната им тъга. Следователно няма да е възможно да ги вземете и да увеличите цялостното щастие капка по капка.
Но по същия начин, малоценността на репликацията отдава утилитарното чудовище - по дефиниция то трябва да е уникално и следователно по-„заслужаващо“в сравнение с неизбежното сходство на живота, който го храни. Това решение също не ни удовлетворява. "Би било хубаво, ако хората по някакъв начин помислиха по тези въпроси", признава Кент. "Аз съм някак объркан от тях."
За американския либертариански икономист Робин Хансън, професор по икономика в университета Джордж Мейсън във Вирджиния, тези размишления не са толкова ментални експерименти, колкото прогнози за бъдещето. Книгата му „Епохата на Ем“представя общество, в което всички хора качват съзнанието си в компютър, за да живеят живота си под формата на „емулации“(не симове, а ема). „Милиарди такива изтегляния биха могли да живеят и работят в една многоетажна сграда и ще има място за всички“, пише той.
Хансън разгледа подробно как може да работи такава икономика. Ems могат да бъдат от всякакъв размер - някои от тях ще бъдат много малки - и времето може да протече различно за тях в сравнение с хората. Ще има строг надзор и малка заплата, но емите могат да се отърват от това страдание, като изберат живот без работа. (Хансън вярва, че вече можем да живеем в такъв свят.)
Този сценарий дава възможност за дублиране на себе си, тъй като умът вече е пренесен на компютъра, така че правенето на копия ще бъде съвсем просто. Хансън казва, че проблемът с идентичността в този случай е размит: дублиращите са първоначално „един и същи човек“, но постепенно тяхната идентичност се разминава, когато започнат да живеят отделно.
Хансън предполага, че дублирането на хора ще бъде не само възможно, но и желателно. В настъпващата епоха на емус хората с особено ценни умствени способности ще бъдат „натоварени“много пъти. И като цяло хората така или иначе ще искат да направят няколко копия от себе си като форма на застраховка. "Те могат да предпочетат съкращението в собственото им изпълнение, за да са сигурни, че могат да преживеят неочаквани бедствия", казва Хансън.
Но той не смята, че биха предпочели сценария на идентичен живот на Кент. Ems „няма да придаде особена ценност на това да живеят един и същ живот по различно време и на различни места. Те ще инвестират стойност в множество копия, защото тези копия могат да работят или да комуникират с други. Но този вид работа и взаимоотношения ще изискват всяко копие да бъде причинно независимо, а техните истории се преплитат въз основа на задачи или като партньори. “
Във всеки случай ще им се наложи да се справят с морални затруднения, които все още не можем да надценяваме. „Не мисля, че моралът, който хората имат, е достатъчно общ или надежден, за да даде уверени отговори на ситуации като тази, които са толкова отдалечени от„ опита “на нашите предци“, казва Хансън. "Предвиждам, че emus ще има много различни противоречиви мнения за подобни неща."
Ems, sims и нашето виртуално бъдеще
Сега всичко това може да звучи много странно, като апокрифни средновековни разговори за ангели, танцуващи на пръсти. Ще успеем ли изобщо да създадем виртуален живот, който изобщо ще бъде подобен на реалния живот? „Не мисля, че някой може с увереност да каже дали това е възможно или не“, казва Кент, отчасти защото „нямаме добро научно разбиране на съзнанието“.
Въпреки това технологията се движи напред и тези въпроси остават отворени. Шведският философ Ник Бостром от Института за бъдещето на човека изтъкна, че изчислителната сила, с която разполага „постхуманната“цивилизация, ще улесни симулацията на същества, които живеят в света и ще го усети като реален, колкото и ние самите. (Bostrom също смята, че бихме могли да живеем в такава симулация.) Но питането как можем да населим такива светове представлява „истинска дилема за програмисти, учени и законодатели на бъдещето, макар и не толкова далечна“, казва Кент.
Сценарият на Кент вече може да има последици от реалния свят. Аргументите за максимизиране на полезността и проблемът с неидентичността възникват при дискусиите за насърчаване и предотвратяване на човешкото зачеване. Кога трябва да откажете да заченете в случай на риск, например, развитие на аномалии при дете? Нито един от новите методи не гарантира пълна безопасност и никога не е гарантиран, но IVF никога няма да бъде направен, ако това е предпоставка. Очаква се подобна техника да достигне определен праг на риска. Но утилитарният подход оспорва тази идея.
Какво става, ако нов метод за асистирана репродукция има умерен риск от развитие на малки дефекти при раждането, като например родилни петна? (Това е реален аргумент: историята на Натаниел Хоторн от 1843 г. разказва за алхимик, който се опитал с фатални последици да премахне знака от съпругата си, цитирайки американския съвет за биоетика от 2002 г.) Трудно е да се каже, че хората, маркирани с такова петно, ще бъдат по-лоши от другите и следователно не трябва да се вземат под внимание чрез метода. Но къде трябва да се очертае линията? Кога е по-добре да не се прилага дефект при раждане?
Някои споменават тази дилема в защита на клонирането на хора. Опасностите като социална стигма или изкривени родителски мотиви и очаквания ще надхвърлят ползите от живота. Кои сме ние, за да направим избора за клонирания човек? Кой ще бъдем, ако направим този избор преди човекът дори да съществува?
Този вид разсъждения изглежда изисква от нас да вземем богоподобни решения. Но феминистки наблюдател може да си помисли, че сме жертва на версия на фантазията на Франкенщайн. С други думи, не е ли това шепа мъже, които мечтаят най-накрая да започнат да измислят хора, когато жените правят това от векове? Усещането за новост, което води до всички тези противоречия, има патриархален привкус.
Въпреки това перспективата на виртуалното съзнание повдига някои много свежи и завладяващи етични въпроси - които, според Кент, ни карат да оспорваме интуитивната стойност, която поставяме в живота и демографията. Изключително трудно е да се види силен аргумент за факта, че определен брой различни животи ще бъдат морално по-добри от същия брой на един и същ. Защо мислим така? Как можем да се освободим от предразсъдъците?
Може да се каже, че възприеманата хомогенност в човешката популация ерозира способността за съпричастност и етични разсъждения. „Безличната“тълпа, която се противопоставя на индивида, е познато клише, което предизвиква усещане за героизъм. Но това не е непременно правилно.
Може би имаме еволюционна отвращение към същите индивиди, особено когато смятате, че генетичното разнообразие на една популация осигурява нейното оцеляване? Помислете само за филми за еднакви близнаци или клонинги - това не винаги изглежда добре. Дори изглежда зловещо. През 1919 г. Зигмунд Фройд свързва това чувство с идеята за зъл двойник (doppelganger). И ако това все още е разбираемо в случай на еднакви близнаци, сто „идентични“героя ще изглеждат ужасно.
Не изглежда, че скоро ще се сблъскаме с армии от дубликати в реалния или виртуален свят. Ценността на мисловните експерименти е, че те ви дават нов начин да осмислите въпросите на света. Представяйки си етиката на връзката си със Симс, ние разкриваме нестабилна или несъществуваща логика, която инстинктивно използваме, за да претеглим моралната стойност на собствения си живот.
Иля Кел