Човечеството има едно качество, което силно развитите извънземни цивилизации най-вероятно нямат - съзнанието.
Възможно е хората да нямат най-високото ниво на умствено развитие във Вселената. Тъй като Земята е сравнително млада планета, най-древните цивилизации може да са милиарди години по-стари от нас. Но дори на Земята Homo sapiens няма да доминира дълго време като най-интелигентния биологичен вид.
Световните шампиони в go, шах и победители са интелигентни компютърни програми. Очаква се изкуственият интелект да замени много човешки професии през следващите няколко десетилетия. И предвид бързите темпове на неговото развитие е напълно възможно скоро той да се трансформира в общ изкуствен интелект, който подобно на човешкия ум ще може да съчетава способността да анализира различна информация, да показва гъвкавост и здрав разум. И оттам не е далеч до появата на свръхразумен изкуствен интелект, който във всички отношения е много по-умен от хората - дори в области като научното мислене и социалните умения, които сега изглеждат прерогатива на човешкия ум. Всеки от живите хора може да бъде една от последните стъпки на еволюционната стълба,водещ от първата жива клетка до синтетичен изкуствен интелект.
Едва сега започваме да осъзнаваме, че тези две форми на свръхчовешки интелект - извънземен и изкуствен - не са толкова различни. Техническият прогрес, който наблюдаваме днес, би могъл да се случи и преди, някъде във Вселената. Преходът от биологичен интелект към изкуствено създаден може да бъде общ шаблон, прилаган отново и отново във всички краища на космоса. Най-голямата интелигентност във Вселената вероятно е от постбиологичен произход, еволюирала от някога биологични цивилизации. (Тази гледна точка, заедно с други, споделям с Пол Дейвис, Стивън Дик, Мартин Рийс и Сет Шостак). Въз основа на опита на човечеството - и ние имаме само един пример - преходът от биологичен към постбиологичен може да отнеме само няколкостотин години.
Предпочитам термина „изкуствен“пред „постбиологичен“, тъй като контрастът между биологично и синтетично не е толкова остър. Представете си биологичен ум, който се превръща в свръхразузнаване чрез чисто биологични подобрения на своите способности, като например нанотехнологично подобрени невронни миниколони. Такъв жив организъм би се считал за постбиологичен, но не всеки би го нарекъл „изкуствен интелект“. Или помислете за компютър, изграден от чисто биологични материали, като Cylon raider (космически боец) в научно-фантастичния медиен франчайз Battlestar Galactica.
Ключовият момент е, че няма причина да мислим за човечеството като за най-висшата форма на интелигентност. Нашият мозък се адаптира към определени условия на околната среда и е силно ограничен от химични и исторически фактори. Но технологията отвори огромно пространство от дизайнерски параметри, което предлага нови материали и методи на работа, както и нови възможности за изследване на това пространство по-бързо, отколкото при традиционната биологична еволюция. И мисля, че причините, поради които изкуственият интелект ще ни надмине, са видими вече днес.
Извънземният изкуствен интелект може да преследва цели, които противоречат на интересите на биологичния живот
Вече най-доброто средство за обработка на информация не са групи неврони, а силициеви микросхеми. Пиковата скорост на невроните е около 200 Hz, в сравнение с гигагерците на транзисторите в съвременните микропроцесори. Въпреки факта, че човешкият мозък все още е много по-интелигентен от компютъра, машините все още имат почти неограничени възможности за подобрение. Само малко повече и те ще бъдат проектирани така, че да отговарят на възможностите на човешкия мозък или дори да ги надминат, чрез обратно инженерство на мозъка и подобряване на неговите алгоритми, или чрез комбиниране на обратно инженерство и рационални алгоритми, които не се основават на работата на човешкия мозък.
Промоционално видео:
Освен това изкуственият интелект може да се зарежда наведнъж на няколко места, лесно е да се поддържа и модифицира, а също така може да се запази в условия, при които биологичният живот, включително междузвездните пътувания, едва ли оцелява. Нашите малки мозъци са ограничени от обема на черепа и метаболизма ни; суперинтелигентният изкуствен интелект, от друга страна, е в състояние да се разпространява в Интернет и дори да създава компютрониум в мащаба на галактиката, използвайки цялата си материя, за да повиши нивото на обработка на информацията до максимум. Без съмнение свръхинтелигентният изкуствен интелект би бил много по-траен от нашия човешки ум.
Да предположим, че съм прав. Да кажем, че интелигентният живот там е постбиологичен. Какви изводи трябва да направим? В момента има красноречиви дискусии за съществуването на изкуствен интелект на Земята. Има два противоречиви въпроса: така нареченият „проблем за контрол“и естеството на субективния опит, които влияят на нашето разбиране за извънземните цивилизации и тяхното въздействие върху нас в случай на контакт.
Рей Курцвейл е оптимист по отношение на постбиологичната фаза на еволюцията, предполагайки, че човечеството ще се слее с машини, постигайки стряскащ технологичен утопизъм. Но Стивън Хокинг, Бил Гейтс, Илон Мъск и други изразиха загриженост, че човечеството може да загуби контрол над свръхинтелигентния интелект, тъй като може да пренапише програмата си и да „надхитри“всеки контрол, който сме въвели. Това е проблемът с контрола, който е способността ни да контролираме мистериозния и изключително превъзхождащ AI.
Суперинтелигентният изкуствен интелект може да бъде развит при технологична особеност - рязък преход, при който ускоряващият се технологичен прогрес и особено експлозивното развитие на изкуствения интелект - намаляват шансовете ни за прогнозиране или разбиране. Но дори такъв ум да се появи по по-малко радикален начин, най-вероятно няма да можем да предскажем или контролираме целите, които преследва. Дори да можем да изберем какви морални принципи да инсталираме в нашите машини, моралното програмиране е трудно да се дефинира по ясен начин и такива програми във всеки случай могат да бъдат пренаписани от свръхинтелигентна интелигентност. Интелигентните машини могат да заобиколят съществуващите мерки за сигурност, като аварийно заключване на устройството, като по този начин представляват реална заплаха за биологичния живот. Милиони долари се инвестират в организации за сигурност на ИИ. По този проблем работят най-добрите умове в компютърните науки и компютрите. Да се надяваме учените да създадат сигурни системи, но има опасения, че проблемът с контрола е непреодолим.
В светлината на това контактът с извънземен интелект може да бъде по-опасен, отколкото си мислим. Биологичните извънземни могат да бъдат враждебни, но още по-опасен може да бъде извънземен изкуствен интелект. Неговите цели могат да противоречат на интересите на биологичния живот, той може да има интелектуални способности, далеч по-добри от човешкия ум, и много по-голяма дълголетие от биологичния живот.
Всичко това свидетелства за предпазливостта, която трябва да се прояви по отношение на програмата за търсене на извънземен интелект (SETI), с помощта на която не само пасивно очакваме да чуем сигнали от други цивилизации, но и умишлено „афишираме“съществуването си. Най-известният инцидент се случи през 1974 г., когато Франк Дрейк и Карл Сейгън изпратиха съобщение до един от звездните купове с помощта на огромен радиотелескоп в пуерториканския град Аресибо. Привържениците на програмата за извънземен интелект смятат, че вместо просто да слушаме сигнали от извънземни цивилизации, трябва да изпращаме съобщения до най-близките до Земята звезди с помощта на най-мощните радиопредаватели, като например в Аресибо.
Защо несъзнаваните машини трябва да са толкова важни, колкото биологичната интелигентност?
От контролна гледна точка подобна програма ми изглежда безразсъдна. Въпреки че една наистина напреднала цивилизация вероятно няма да има интерес към нас, дори една враждебна цивилизация от милиони други би била катастрофа. Докато не сме сигурни, че свръхразумният интелект не представлява заплаха за нас, човечеството не трябва да привлича вниманието на извънземните цивилизации. Поддръжниците на SETI посочват, че нашите радари и радиосигнали вече са откриваеми, но доста слаби и бързо се смесват с естествения галактически шум. Предаването на по-силни сигнали, които ще бъдат чути точно, е изпълнено с опасни последици за човечеството.
Най-сигурната обстановка е интелектуалното смирение. Всъщност, ако изключим очевидните сценарии, когато извънземни кораби се носят над Земята, както в наскоро освободеното „Пристигане“, не съм сигурен дали ще успеем да идентифицираме свръхразумното разузнаване на техническа основа. Някои учени вярват, че свръхинтелигентният ИИ може да подхрани черни дупки или да създаде сфери на Дайсън, мегаструктури, които абсорбират енергията на цели звезди. Но от гледна точка на нашите съвременни технологии, това е просто разсъждение. Изключително самоуверено е да твърдим, че можем да предвидим изчислителните способности и енергийните нужди на цивилизациите, които са пред нас в развитие, с милиони, ако не и милиарди години.
Някои от най-ранните свръхинтелигентни изкуствени интелекти може да са имали системи за обработка на знания, моделирани по биологичен мозък, като системата за дълбоко обучение, създадена с помощта на невронни мрежи в мозъка. Тяхната изчислителна структура би ни била ясна, поне в общи линии. Може би изкуственият интелект има цели, подобни на биологичните същества - размножаване и оцеляване.
Но, като самоусъвършенстваща се система, свръхинтелигентният изкуствен интелект може да премине в неузнаваема форма. Някои от тях могат да изберат да запазят когнитивните функции, подобни на видовете, по които са моделирани, като същевременно определят приемлив лимит за собствената си когнитивна архитектура. Кой знае? Но при липса на такава граница извънземното свръхразузнаване може бързо да надмине способността ни не само да разбираме действията му, но дори просто да го търсим. Може би дори би се слял с естествените черти на Вселената; или може да е част от тъмната материя, както наскоро предложи Калеб Шарф.
Поддръжниците на програмата за търсене на извънземен интелект вярват, че затова трябва да изпращаме сигнали в космоса, за да дадем възможност на извънземната интелигентност да ни открие и да създадем средства за контакт, достъпни за нашата интелектуално изостанала цивилизация. Макар да съм съгласен, че има причина да се съобразяваме с програмата SETI, вероятността да срещнем опасен свръхразумен интелект е далеч по-голяма. Доколкото ни е известно, злонамерено свръхразузнаване може да зарази системите за изкуствен интелект в света с вируси, а интелигентните цивилизации биха създали прикриващи устройства. Ние, хората, може да се наложи първо да постигнем собствената си уникалност, преди да прибегнем до програмата за търсене на извънземен интелект. Нашите собствени свръхразумни интелигентности ще могат да ни информират за перспективите за галактическа сигурност,и да ръководим действията си в случай на разпознаване на признаци на друго свръхразузнаване във Вселената. Птици от пера се стичат заедно.
Съвсем естествено е да се замислим дали това означава, че човечеството трябва да избягва развитието на сложна система за изкуствен интелект в областта на космическите изследвания; само си спомнете бордовия компютър HEL от филма "Космическа одисея 2001". Вярвам, че е твърде рано да се мисли за забрана за използването на изкуствен интелект в космоса в бъдеще. По времето, когато можем да изследваме Вселената със собствения си изкуствен интелект, човечеството ще достигне повратна точка. Или вече ще загубим контрол върху изкуствения интелект - в този случай няма да има инициирани от човека космически проекти - или ще държим здраво лостовете за сигурност на ИИ. Времето ще покаже.
Изкуственият интелект, който не е напълно проучен, не е единствената причина за безпокойство. Склонни сме да очакваме, че ако срещнем еволюирал извънземен интелект, вероятно ще срещнем биологично много различни същества от нас, но с интелигентност като нашата. Представете си, че всеки момент, когато сте буден и винаги, когато спите, има нещо уникално за вас. Когато топлите нюанси на изгрева идват в погледа ви или когато вдишвате аромата на прясно изпечен хляб, вие имате съзнателно преживяване. По същия начин има нещо характерно за извънземния ум - поне по начина, по който си го представяме. Но това предположение си заслужава да бъде поставено под въпрос. Може ли свръхинтелигентен изкуствен интелект да има съзнателно преживяване и ако е така,какво бихме казали на това? И какво въздействие би имал техният вътрешен свят или липсата му върху нас?
Въпросът дали изкуственият интелект има вътрешен свят е ключът към нашата оценка за неговото съществуване. Съзнанието е крайъгълният камък на нашата морална и етична система и основното условие за възприемането на някого или нещо като личност, личност, а не машина. И обратно, въпросът дали са в съзнание може да е ключът към тяхното възприятие за нас. От тази оценка зависи отговорът на въпроса дали изкуственият интелект има вътрешен свят; той може да открие в нас способността за съзнателно преживяване, използвайки собствения си субективен опит като „трамплин“. В крайна сметка оценяваме живота на други биологични същества по сходството на умовете си, така че повечето от нас с ужас ще откажат да убият шимпанзетата, но те ще изядат ябълка с удоволствие.
Но как същества с огромни интелектуални различия, създадени от различни субстрати, разпознават съзнанието помежду си? Философи по целия свят се замислят дали съзнанието не се ограничава до биологични явления. Суперинтелигентният изкуствен интелект, ако искаме да се потопим във философски разсъждения, би могъл по същия начин да повдигне „проблема с биологичното съзнание“на хората, като в същото време се чуди дали разполагаме с всички необходими материали.
Никой не знае по кой интелектуален път ще поеме свръхразумът, за да определи съзнанието на хората. Но ние, от наша страна, също не можем да твърдим дали изкуственият интелект има съзнание. За съжаление ще бъде трудно да се определи това. В момента можете да твърдите, че трупате опит и това е, което ви прави самия. Вие сте вашият пример за съзнателно преживяване. И си мислите, че други хора и някои нечовешки животни най-вероятно също са в съзнание, защото са подобни на вас на неврофизиологично ниво. Но как да определите дали нещо, създадено от напълно различни субстрати, може да има опит?
Да разгледаме например суперинтелигентност, базирана на силиций. Въпреки факта, че както силициевите микрочипове, така и невронните миниколони обработват информация, сега знаем, че на молекулярно ниво те могат да се различават по начина, по който влияят на съзнанието. В края на краищата ние вярваме, че въглеродът е химически по-подходящ материал за живот от силиция. Ако химическите различия между силиций и въглерод засягат нещо толкова важно като самия живот, не бива да изключваме възможността химическите разлики да засягат други ключови функции, като например дали силицият допринася за раждането на съзнанието.
Условията, необходими за появата на съзнанието, са широко обсъждани от изследователите на изкуствения интелект, невролозите и философите. Разглеждането на този въпрос може да изисква базиран на философия емпиричен подход - начин за определяне за всеки отделен случай дали системата за обработка на информация поддържа съзнанието и при какви условия.
След това нека поговорим за предположение, с което бихме могли да подобрим разбирането си за способността на силиция да поддържа съзнание. Разработването на мозъчни чипове на основата на силиций вече е в ход за лечение на заболявания, свързани с паметта като болестта на Алцхаймер и ПТСР. Когато дойде времето и чиповете ще бъдат инсталирани в тези части на мозъка, които отговарят за функциите на съзнанието, например вниманието и работната памет, ще разберем дали силицият е субстрат за съзнанието. Може да откриете, че когато замените определена част от мозъка с чип, се губи определен опит, както е описано в една от творбите на Оливър Сакс. В този случай инженерите, които създават такива чипове, могат да опитат различен, невронен вид субстрат, но в крайна сметка биха могли да откриятче чипът, създаден от биологични неврони, е единственият работещ. Подобна техника би помогнала да се определи дали една ИИ система може да бъде в съзнание, поне когато е поставена в по-голяма и вероятно вече осъзната система.
Дори силицийът да може да породи съзнание, това е възможно само при определени условия. Свойствата, които водят до появата на сложен процес на обработка на информация (на който разработчиците на ИИ са доволни), могат да се различават от свойствата, които генерират съзнание. Може да се наложи така нареченото инженерство на съзнанието - технически обмислени действия за въвеждане на съзнанието в машините.
Това ме притеснява. Кой на Земята или на далечни планети би се опитал да интегрира независимо съзнанието в системите на ИИ? Всъщност, когато мисля за програмите за изкуствен интелект, които съществуват на Земята, разбирам защо техните инженери-конструктори старателно избягват да създават съзнателни машини.
Днес японците разработват роботи за грижи за възрастни хора, почистване на ядрени реактори и участие във военни действия. Това повдига въпроса: Етично ли е да се експлоатират роботи, ако те са в съзнание? И как ще се различава от развъждането на човешки същества за тези цели? Ако бях директор на разработването на ИИ в Google или Facebook, тогава, когато мисля за бъдещи проекти, не бих искал да се сблъскам с етичното объркване при случайното проектиране на съзнателна система. Разработването на такава система може да доведе до обвинения в поробване на роботи и други публични скандали, както и до забрана за използване на технологии за изкуствен интелект в областите, за които са предназначени. Естественият отговор на тези въпроси е търсенето на структури и субстрати, където роботите не са надарени със съзнание.
Освен това елиминирането на съзнанието може да бъде по-ефективно за самоусъвършенстващото се свръхразузнаване. Помислете как работи човешкото съзнание. Само малък процент от човешкото мислене е на разположение за съзнателна умствена дейност. Съзнанието е в съответствие с иновативните учебни цели, които изискват внимание и фокус. Суперразузнаването би имало експертни познания във всяка област на дейност, както и невероятно бърза скорост на обработка на информация, обхващаща огромни бази данни, които биха могли да включват целия Интернет и в бъдеще да концентрират цяла галактика в себе си. Какво би останало неизвестно за него? Какво би изисквало премерена и разумна концентрация? Не е ли постигнал съвършенство във всичко? Като опитен шофьор по познат пъттой можеше да разчита на несъзнавана (автоматична) обработка на информация. От гледна точка на ефективността, за съжаление е очевидно, че по-голямата част от интелигентните системи няма да притежават съзнание. В космически мащаб съзнанието може да бъде само импулс, кратък разцвет на опит, преди Вселената да се върне към безмислието.
Ако хората подозират, че изкуственият интелект е в безсъзнание, те вероятно ще предположат, че ИИ се стреми да стане постбиологичен. Това увеличава нашите екзистенциални грижи. Защо несъзнаваните машини трябва да са толкова важни, колкото биологичната интелигентност?
Много скоро хората ще престанат да бъдат единствените интелигентни същества на Земята. И може би някъде в космоса не биологичният живот, а свръхинтелигентният ИИ вече е достигнал своя връх. Но може би биологичният живот има различна характеристика - съзнателно преживяване. Както вече знаем, интелигентният изкуствен интелект ще изисква съзнателни инженерни усилия, за да създаде машини, които да имат достъп до човешките сетива. Може би някои видове ще намерят за подходящо да създадат свои собствени изкуствено съзнателни деца. Или, може би, бъдещото човечество ще се занимава с инженерство на съзнанието и ще сподели с Вселената своята съзнателна способност да чувства.
Сюзън Шнайдер е асистент в катедрата по философия и когнитивни науки в Университета на Кънектикът и доцент в Института за напреднали изследвания, Център за теологични изследвания, етика и технологична група към Йелския интердисциплинарен център по биоетика. Автор на няколко книги, включително научна фантастика и философия: От пътуването във времето до свръхразума.
Повече информация можете да намерите на SchneiderWebsite.com
