Носени от шума за настоящите „кризи“, пред които е изправено човечеството, ние забравяме за големия брой поколения, които се надяваме да дойдат да ни заменят. Не говорим за тези хора, които ще живеят 200 години след нас, а за тези, които ще живеят хиляда или 10 хиляди години след нас.
Използвам думата „надежда“, защото сме изправени пред рискове, които се наричат екзистенциални и които могат да унищожат човечеството. Тези рискове са свързани не само с големи бедствия, но и с бедствия, които могат да сложат край на историята.
Не всички обаче пренебрегват далечното бъдеще. Мистици като Нострадамус редовно се опитват да определят дата за края на света. Х. Г. Уелс се опитва да развие наука за прогнозиране и е известно, че е описал бъдещето на човечеството в „Машината на времето”. Други писатели са измислили други версии на далечното бъдеще, за да предупреждават, забавляват или мечтаят.
Но дори ако всички тези пионери и футуристи не мислеха за бъдещето на човечеството, резултатът пак щеше да остане същият. Преди това не можеше да се направи много от човека, за да ни спаси от екзистенциална криза или дори да я предизвика.
Днес сме в по-привилегировано положение. Човешката дейност постепенно оформя бъдещето на нашата планета. Въпреки че все още сме далеч от контрола на бедствията, ние вече разработваме технологии, които могат да смекчат последствията от тях или поне да направят нещо по този въпрос.
Бъдещето е несъвършено
Тези рискове обаче все още не са добре разбрани. По отношение на изброените проблеми има безсилие и фатализъм. Хората говорят за апокалипсисите от хилядолетия, но малцина се опитват да ги предотвратят. Освен това човешките същества не са толкова силни по отношение на проблеми, които все още не са се появили (особено поради въздействието на евристичната наличност) - тенденцията да надценяваме вероятността от тези събития, примери за които сме запознати и да подценяваме събитията, които не можем да си спомним веднага).
Промоционално видео:
Ако човечеството престане да съществува, тогава този вид загуба ще бъде поне еквивалент на загубата на всички живи индивиди, както и крахът на всичките им цели. В действителност обаче загубата вероятно ще бъде много по-голяма. Изчезването на човек означава загуба на смисъла, създаден от предишните поколения, загуба на живота на всички бъдещи поколения (а броят на бъдещите животи може да бъде астрономически), както и всички онези ценности, които те вероятно биха могли да създадат.
Ако съзнанието и разумът вече ги няма, това може да означава, че самата стойност престава да съществува във Вселената. Това е много добра морална причина да се работи неуморно за предотвратяване на екзистенциални заплахи. И по този път не трябва да допускаме нито една грешка.
С това казах, аз избрах петте най-сериозни заплахи за човешкото съществуване. Трябва да се вземат предвид обаче някои допълнителни обстоятелства, тъй като този списък все още не е окончателен.
През последните няколко века открихме или създадохме нови екзистенциални рискове за себе си: в началото на 70-те години бяха открити супервулкани и преди проекта в Манхатън ядрената война беше невъзможна. Затова трябва да очакваме да се появят и други заплахи. В допълнение, някои от рисковете, които днес изглеждат сериозни, могат да изчезнат с натрупването на знания. Вероятността от определени събития също се променя с течение на времето. Понякога това се случва, защото сме загрижени за съществуващите рискове и разглеждаме причините за тях.
И накрая, фактът, че нещо е възможно и потенциално рисковано, не означава, че си струва да се притеснявате. Съществуват рискове, с които изобщо не можем да направим нищо - например потоците от гама лъчи, възникващи от експлозията на галактики. Но ако разберем, че сме способни да направим нещо, тогава приоритетите се променят. Например, с подобряването на санитарните условия, появата на ваксини и антибиотици, чумата започва да се възприема не като проява на божествено наказание, а в резултат на лошото състояние на здравеопазването.
1. Ядрена война
Докато досега са използвани само две атомни бомби - в Хирошима и Нагасаки по време на Втората световна война - и запасите са се свили от върховете си от Студената война, би било грешка да се смята, че ядрената война е невъзможна. Всъщност тя не изглежда невероятна.
Кубинската ракетна криза беше много близо до ядрена. Ако изхождаме от предположението, че подобна криза се случва на всеки 69 години и има шанс всеки трети, че може да доведе до избухване на ядрена война, тогава възможността за такава катастрофа се увеличава и съответният коефициент ще бъде 1 на 200 годишно.
За да влоши нещата, кубинската ракетна криза е само най-известният случай. Историята на съветско-американското ядрено възпиране изобилства от кризисни ситуации и опасни грешки. Действителната вероятност вече не зависи от международното напрежение, но вероятността за ядрен конфликт е малко вероятно да бъде по-ниска от коефициент 1 на 1000 годишно.
Пълномащабна ядрена война между големите сили би довела до смъртта на стотици милиони хора директно в момента на размяна на стачки или в резултат на техните последици - това би била немислима катастрофа. За екзистенциален риск обаче това все още не е достатъчно.
Същото трябва да се каже и за рисковете, свързани с последиците от ядрените експлозии - те често са преувеличени. На местно ниво те са смъртоносни, но в световен мащаб те са относително ограничен проблем. Кобалтовите бомби са предложени като хипотетично оръжие на Страшния съд, способно да унищожи всичко в резултат на последствията, свързани с тяхната употреба, но на практика те са много трудни за производство и скъпи. А създаването им всъщност е невъзможно.
Истинската заплаха е ядрената зима - тоест частици сажди, които могат да се издигнат в стратосферата и по този начин да причинят дългосрочен спад на температурата и дехидратация на планетата. Текущите климатични симулации показват, че това би направило невъзможно отглеждането на голяма част от планетата в продължение на много години.
Ако този сценарий се сбъдне, милиарди хора ще умрат от глад, а малък брой оцелели ще бъдат изложени на други заплахи, включително болести. Основната несигурност е как ще се държат частиците сажди, които се издигат в небето: в зависимост от техния състав резултатът може да бъде различен и досега нямаме надежден начин за измерване на този вид последствия.
2. Пандемии, причинени от биоинженерството
Естествените пандемии са причинили повече смъртни случаи, отколкото войни. Естествените пандемии обаче е малко вероятно да представляват екзистенциална заплаха. Обикновено има хора, които са имунизирани срещу патогени, а потомците на оцелелите стават още по-защитени.
Еволюцията също не подкрепя особено паразитите, които унищожават организмите гостоприемници, поради което сифилисът, докато се разпространява в Европа, се е превърнал от жесток убиец и хронично заболяване.
За съжаление, ние самите вече сме в състояние да направим болестите по-разрушителни. Един от най-известните примери е как включването на допълнителен ген в мишката - варицела на мишката - го прави много по-животозастрашаващо и способно да зарази вече ваксинирани индивиди. Неотдавнашната работа с птичия грип показа, че заразността на болестта може целенасочено да се увеличи.
В момента рискът умишлено разпространение на някакъв вид злонамерена инфекция е незначителен. Тъй като обаче биотехнологиите се подобряват и поевтиняват, все повече групи ще могат да направят болестта още по-опасна.
По-голямата част от работата в областта на биологичните оръжия се извършва от държави, които искат да получат нещо контролирано, тъй като унищожаването на човечеството не е военно полезно. Винаги обаче има хора, които влизат да правят някои неща, просто защото са в състояние да го направят. Други може да имат по-високи цели.
Например членовете на религиозната група Аум Шинрикьо се опитаха да ускорят настъпването на апокалипсиса чрез използване на биологични оръжия, а не само чрез по-успешната си атака с използване на нервни газове. Някои хора вярват, че ситуацията на Земята ще се подобри, ако на нея няма повече човешки същества и т.н.
Броят на смъртните случаи в резултат на използването на биологични оръжия и епидемичните заболявания кара човек да мисли, че те се развиват в съответствие със силовия закон - в голям брой случаи жертвите са малко, но в малък брой случаи жертвите са много. Предвид наличните понастоящем данни, рискът от глобална пандемия от биотероризъм изглежда малък.
Но това се отнася само за биотероризма: правителствата с помощта на биологични оръжия убиха значително повече хора, отколкото биотерористите (около 400 хиляди души станаха жертви на японската програма за биологична война по време на Втората световна война). Технологиите стават все по-мощни и следователно създаването на още повече патогени в бъдеще ще бъде по-лесно.
3. Суперинтелигентност
Интелигентността е мощна. Незначителното увеличаване на решаването на проблеми и координацията на групите е причината, поради която останалите видове маймуни не работят. Понастоящем тяхното съществуване зависи от решенията, взети от човека, а не от това, което прави.
Да бъдеш умен е истинско съвършенство за хората и организациите и поради това се полагат много усилия за подобряване на нашия индивидуален и колективен интелект, от лекарства за подобряване на когнитивните способности до разработване на програми, свързани с изкуствен интелект.
Проблемът е, че интелигентните системи се представят добре при постигането на целите си, но ако тези цели са лошо дефинирани, тогава те имат способността да използват силата си, за да постигнат своите катастрофални цели по интелигентен начин. Няма причина да мислим, че самият интелект е способен да накара нещо или някой да действа правилно и морално. Всъщност има вероятност някои видове свръхинтелигентни системи да се противопоставят на моралните правила, дори и да са били възможни.
Още по-притеснителен е фактът, че когато се опитваме да обясним нещата на изкуствения интелект, ние сме изправени пред дълбоки практически и философски проблеми. Човешките ценности са неясни, сложни въпроси, които все още не можем да дефинираме добре и дори да можем, може да не разберем пълните последици от това, което се опитваме да създадем.
Базираната на софтуер интелигентност може много бързо да запълни разликата с хората и възможностите на машината да станат опасни. Проблемът е, че изкуственият интелект може да се свърже с биологичния интелект по различни начини: може да работи по-бързо на по-бързи компютри, части от него могат да бъдат разположени на повече компютри, някои негови версии могат да бъдат тествани и актуализирани в движение и има възможност за въвеждане на нови алгоритми, които могат драстично да увеличат производителността.
Днес мнозина предполагат, че е вероятно „пробив в интелигентността“, ако самият софтуер има способността да произвежда по-добър софтуер. Ако се случи такъв скок, тогава ще има голяма разлика между интелигентната система (или хората, които ѝ казват какво да прави) и останалия свят. Подобна ситуация би могла много да доведе до бедствие, ако целите не са поставени правилно.
Необичайното при свръхразузнаването е, че не знаем дали е възможен бърз и мощен пробив в развитието на интелигентността: може би сегашната ни цивилизация като цяло се усъвършенства с най-висок темп. Съществуват обаче достатъчно основания да се смята, че някои технологии са способни да придвижат някои неща напред много по-бързо от възможностите за подобряване на контрола им от съвременното общество.
Освен това все още не сме в състояние да разберем колко опасни могат да бъдат някои форми на свръхразузнаване и как ще работят стратегиите за смекчаване. Много е трудно да се спекулира с бъдещи технологии, които все още нямаме, или с интелигентност, която надминава това, което имаме. Сред изброените рискове именно този има най-много шансове да стане наистина мащабен или да остане просто мираж.
Като цяло тази област все още не е достатъчно проучена, което е изненадващо. Дори през 50-те и 60-те години хората бяха напълно убедени, че свръхразузнаването може да бъде създадено „в течение на едно поколение“, но по това време на въпросите за сигурността не се обръщаше дължимото внимание. Може би тогава хората просто не са приемали сериозно прогнозите си и най-вероятно са го смятали за проблем в далечното бъдеще.
4. Нанотехнологии
Нанотехнологията е свързана с контролиране на материята с атомна или молекулярна точност. Само по себе си не е опасно и, напротив, може да бъде много добра новина за много приложения. Проблемът е, че както в биотехнологиите, нарастващите възможности също увеличават потенциала за злоупотреба, срещу която е много трудно да се защити.
Големият проблем не е прословутата „сива мачка“на самовъзпроизвеждащите се наномашини, поглъщащи всичко. Това ще изисква създаването на много сложни устройства. Трудно е да се създаде машина, която може да се възпроизвежда: биологията по дефиниция е по-добра в този вид задачи. Може би някои маниаци ще могат да направят това, но на дървото на разрушителните технологии има по-достъпни плодове.
Най-очевидният риск е, че автоматичното прецизно производство изглежда идеално за евтино производство на неща като оръжия. В свят, в който много правителства ще имат способността да "отпечатват" голям брой автономни или полуавтономни оръжейни системи (включително възможността за увеличаване на тяхното производство), надпреварата във въоръжаването може да стане много интензивна - и в резултат на това повишена нестабилност и следователно може да бъде много изкушаващо да започне първа стачка до момента, в който врагът получи голямо предимство.
Оръжията също могат да бъдат с много малки размери и много точни: те могат да бъдат „интелигентна отрова“, която може да действа не само като нервен газ, но и да подбира жертвите си, или вездесъщи микророботи (gnatbots), миниатюрни системи за наблюдение, за да поддържат населението послушно - всичко това е напълно възможно. Освен това ядрените оръжия и инсталации, които влияят на климата, могат да попаднат в ръцете на натрапници.
Не можем да изчислим вероятността от екзистенциален риск, създаден от бъдещите нанотехнологии, но очевидно те могат да бъдат доста разрушителни, просто защото са в състояние да дадат всичко, което искаме.
5. Загадъчно неизвестно
Най-тревожната възможност е, че има нещо смъртоносно в света, но ние не знаем какво е това.
Мълчанието в небето може да бъде свидетелство за това. Отсъствието на извънземни ли се дължи на факта, че животът и интелектът са много редки или защото умният живот има тенденция да бъде унищожен? Ако има бъдещ Велик филтър, тогава други цивилизации трябваше да го забележат, но дори това не помогна.
Каквато и да е такава заплаха, тя би била почти неизбежна, дори ако сте били наясно с нейното съществуване, независимо кой сте или какво сте всъщност. Ние не знаем нищо за този вид заплаха (никоя от горните заплахи не работи по този начин), но те може да съществуват.
Обърнете внимание, че наличието на нещо непознато не означава, че не можем да разсъждаваме за това. Статия на Макс Тегмарк и Ник Бостром показа, че даден набор от рискове трябва да има съотношение по-малко от един на милиард годишно, въз основа на относителната възраст на Земята.
Може да ви изненада, че изменението на климата и метеорните въздействия не са в този списък. Изменението на климата, колкото и ужасно да е, едва ли ще направи цялата планета необитаема (но може да създаде допълнителни заплахи, ако нашата защита се окаже неефективна). Метеорите, разбира се, могат да ни изтрият от лицето на Земята, но в такъв случай трябва да сме много големи губещи.
Обикновено определен вид бозайник съществува от около милион години. По този начин основният естествен процент на изчезване е приблизително един на милион годишно. Това е значително по-ниско от риска от ядрена война, която 70 години по-късно все още е най-голямата заплаха за нашето продължаващо съществуване.
Евристиката на наличността ни принуждава да надценяваме рисковете, които често се обсъждат в медиите, и да омаловажаваме тези рискове, с които човечеството все още не се е сблъсквало. Ако искаме да продължим да съществуваме дори след милион години, тогава трябва да коригираме тази ситуация.
Андерс Сандбърг
Популярни науки