Почти всеки, който се потопи дори малко в темата за изкуствения интелект, стига до извода, че или той ще ни отведе до огнена апокалипсис, или до магическа утопия. На практика няма опции между. Разбира се, това отчасти се дължи на факта, че лозунги като "Краят е близо!" или "Утопията идва!" Но все пак…
Част от тях се свежда до това как хората се чувстват относно промяната, особено голямата. Милениализмът няма нищо общо с това да бъдеш хилядолетие, да се родиш през 90-те и да си спомниш за телевизионния сериал Buffy the Vampire Slayer. Това е стил на мислене за бъдещето, който е свързан с дълбоко вкоренено чувство за съдба. Милениализмът е „очакването светът да бъде унищожен и заменен от съвършен свят и че ще дойде Изкупител, който ще хвърли злото и ще утеши праведните“.
Съответно хилядолетните вярвания тясно свързват идеите за унищожение и сътворение. Сред тях са идеите за огромни, апокалиптични, сеизмични промени, които ще разрушат тъканта на стария свят и ще изградят нещо напълно ново. Подобна система от вярвания съществува в много от големите световни религии и дори в по-малко атеистичните и агностически религии, които вярват в технологиите.
Вижте например как футуристите очакват технологична особеност. Според Рей Курцвейл, Сингулярността е създаването на рая. Всеки ще стане безсмъртен благодарение на биотехнологиите, които ще лекуват нашите болести; нашите мозъци могат да бъдат качени в облака; неравенството и страданието ще изчезнат като явления. „Унищожаването на света“се заменя с любимия термин на Силициевата долина: прекъсване или радикална промяна в индустрията. И както при другите хилядолетни вярвания, и вашият окончателен възглед зависи от това дали чакате края на света или раждането на утопия.
Има много добри причини да бъдете скептични към този вид мислене. Може би най-убедителното от тях е, че вярванията на хилядолетията просто отразяват отношението на хората към промяната; само вижте колко вариации на тези вярвания са израснали по света.
Тези вярвания присъстват в аспекти на християнската теология, въпреки че са станали популярни в съвременната си форма през 19 и 20 век. Идеи като Вечна скръб - много години страдания и трудности - и Грабването, когато праведните ще бъдат възкресени, а злите наказани. След това унищожение светът ще бъде възстановен или хората ще отидат на небето.
Въпреки догматичния атеизъм, в марксизма имаше много подобни вярвания. Въпросът е само по отношение на историята. Точно както вярващите търсят сигнали, които намекват за изпълнението на пророчеството, марксистите търсят признаци, че сме в последния етап на капитализма. Те вярват, че обществото неизбежно ще се разпадне и ще се изроди до дъното - всъщност, както вярват християните.
Според марксизма, когато експлоатацията на работническата класа от богатите става неустойчива, работническата класа се събира и сваля потисника. "Скръб" се заменя с "революция". Понякога революционни фигури като Ленин или самият Маркс са приветствани като месии, които приближават хилядолетието; тяхната реторика неизбежно съдържа призиви за унищожаване на старата система, върху руините на която „ние ще изградим нашата, ще изградим нов свят“. Праведните работници ще получат своите законни, а злата буржоазия ще бъде унищожена.
Промоционално видео:
Дори в скандинавската митология има елемент от това, както отбелязва Джеймс Хюз в есето си в книгата на Ник Бостром „Глобални катастрофални рискове“. В Рагнарок и хората, и боговете са победени във финалната апокалиптична битка, но тъй като всичко това е малко мрачно, скандинавците добавят идеята за нова земя, върху която оцелелите ще живеят в хармония.
Страшният съд също се превърна в културна пътека. Вземете древните египтяни и техните вярвания за отвъдното; господарят на подземния свят Озирис тежи сърцето на смъртния заедно с перо. Ако сърцето на починалия е прекалено натежало от прегрешения, демонът ще го изяде и надеждата за задгробен живот ще изчезне.
Може би нещо подобно ще се случи по време на сингулярността. Тъй като нашата технология се усъвършенства и следователно нашата сила, нашите сърца, сърцата на хората, ще бъдат претеглени срещу перата. Ако те се окажат прекалено тежки - с глупост, арогантност, предразсъдъци, зло - ние ще провалим теста и ще бъдем унищожени. Но ако преминем и излезем от сингулярността, небето ни очаква. Както при другите системи от вярвания, няма място за невярващите; цялото общество ще се промени радикално, независимо дали ви харесва или не. Технологично възхищение.
Изглежда, че всяко голямо развитие предизвиква такъв отговор. И ядрени оръжия също. Или това ще е последната капка и ще се унищожим, или ядрената енергия може да се използва за създаване на по-добър свят. В ранните дни на ядрената ера хората говореха за електричество, „което би било твърде евтино, за да се брои“. Учените, които са работили върху бомбата, често са мислили, че с такава разрушителна сила в ръцете на човека, ние просто ще трябва да се съберем и да работим заедно като вид.
Когато виждаме един и същ отговор, отново и отново, при различни обстоятелства, появяващ се в различни области, било то наука, религия или политика, трябва да разгледаме пристрастията на хората. Ние обичаме вярванията на хилядолетията, така че когато се появи идеята за изкуствен интелект, който надминава човешкия интелект, ние веднага налагаме познат модел.
Ние не обичаме фактите. Информацията не ни харесва. Ние не сме толкова рационални, колкото си мислим. Ние създаваме разкази. Физиците наблюдават света, а ние преплитаме собствените си наблюдения в повествователни теории, истории за малки билярдни топки, които летят тук-там и се сблъскват помежду си, или за пространството и времето, които се огъват, огъват и разширяват. Историците се опитват да осмислят безкраен поток от събития. Обичаме историите: истории, излагащи нашето минало, настоящето ни, а също така ни подготвят за бъдещето.
Хилядолетният разказ е красив и завладяващ. Той ви носи социална промяна. Той може да оправдае ежедневното ти страдание, ако скърбиш. Той ви дава надежда, че животът ви е важен и смислен. Дава ви усещане за нещата, които се развиват в определена посока, според правилата, а не само в хаос. Той обещава, че праведните ще бъдат спасени, а еретиците наказани, дори ако по пътя има страдание. И накрая, хилядолетният разказ обещава небето в края на тунела.
Трябва да внимаваме с хилядолетния разказ, когато мислим за технологично развитие, особености и екзистенциални рискове. Викахме „вълци!“Много пъти, когато ги нямаше. Може би дори сега светът не е на ръба на бедствието. Разбира се, тази история не е толкова привлекателна. Разбира се, всеки иска очарователен край.
Но копайте по-дълбоко и ще откриете, че хилядолетните вярвания не винаги са най-обещаващи, защото те изваждат човешкия агент от уравнението. Ще трябва да вярваме в сивите нюанси и да изоставим зловещия апокалипсис с червеноокия ИИ и приказната утопия с всемогъщия ИИ, който обожава хората.
Иля Хел
