Почти всеки, който се е потопил дори малко в темата за изкуствения интелект, трябва да стигне до извода, че изкуственият интелект или ще ни доведе до ужасен апокалипсис, или директно до приказна утопия. И на практика няма междинни варианти. Разбира се, това отчасти е продиктувано от факта, че гръмки лозунги като „Краят е близо!“или например „Утопия идва!“Но все пак…
Отчасти се свежда до това как хората се чувстват за промяната, особено за голямата промяна. Милениализмът няма нищо общо с това да се родиш през 90-те, да си „хилядолетие“и да си спомниш за поредицата за победителката на вампира Бъфи. Това е стил на мислене за бъдещето, който е свързан с дълбоко вкоренено чувство за съдба. Милениализмът е „очакването, че нашият свят ще бъде унищожен и заменен от съвършен свят и че ще се появи изкупител, който ще свали всяко зло и ще може да утеши праведните“.
Съответно, вярванията на хилядолетия тясно свързват идеите за създаване и унищожение. Сред тях са идеите за апокалиптични, огромни, сеизмични промени, които могат да разрушат тъканта на стария свят и да построят нещо напълно ново. Подобна система от вярвания съществува в много основни световни религии и дори в не особено агнастичните и атеистични религии, които вярват в технологията, а не в божествените същности.
Да разгледаме например как футуристите очакват технологична особеност. Според Рей Курцвейл, сингулярността е подобна на създаването на рая. Всички ще бъдат безсмъртни, защото ще се появят биотехнологии, които могат да излекуват нашите болести; и нашите мозъци могат да бъдат качени в облака; страданието и неравенството ще изчезнат като явления. „Унищожаването на света“се заменя с любимия термин на Силициевата долина: прекъсване, което е радикална промяна в индустрията. И, както е в случая с други хилядолетни вярвания, вашият окончателен възглед силно зависи от това, което очаквате: раждането на утопия или края на света.
Има много много добри причини да бъдете скептични към този вид мислене. Може би най-убедителната от тези причини е, че всички вярвания на милениалите просто отразяват отношението на хората към промяната; само погледнете колко вариации на тези вярвания са нараснали в света.
Тези вярвания се срещат в аспекти на християнското богословие, въпреки че са станали популярни в съвременния си вид през ХІХ и ХХ век. Идеи като Вечна скръб, много години на мъки и страдания и Грабване, когато праведните ще бъдат възкресени и злото ще бъде наказано. След цялото това унищожение светът ще бъде пресъздаден или хората ще отидат на небето.
Въпреки догматичния атеизъм и в марксизма имаше много подобни вярвания. Въпросът е само по отношение на историята. Точно както вярващите търсят сигнали, които могат да намекат за изпълнението на всички пророчества, марксистите търсят признаци, че сме в последния етап на капитализма. Те вярват, че обществото се влошава и неизбежно ще се изроди до дъното - всъщност, както мислят и християните.
Както твърди марксизмът, когато експлоатацията на работническата класа от богатите е нестабилна, работническата класа се събира и сваля потисника. "Скръб" се заменя с "революция". Понякога революционни фигури като Ленин или самият Маркс са приветствани като месии, които приближават хилядолетието; тяхната реторика винаги съдържа призиви за унищожаване на старата система, върху руините на която „ние ще изградим нашата, ще изградим нов свят“. Праведните работници ще получат заслуженото, а злата буржоазия ще бъде унищожена.
Промоционално видео:
Дори в скандинавската митология има елемент от това, както отбелязва Джеймс Хюз в есето си в книгата на Ник Бостром „Глобални катастрофални рискове“. В Рагнарок и хората, и боговете са победени във финалната апокалиптична битка, но тъй като всичко това е малко мрачно, скандинавците добавят идеята за нова земя, върху която оцелелите ще живеят в хармония.
Страшният съд също се превърна в културна пътека. Вземете древните египтяни и техните вярвания за отвъдното; господарят на подземния свят Озирис тежи сърцето на смъртния заедно с перо. Ако сърцето на починалия е прекалено натежало от прегрешения, демонът ще го изяде и надеждата за задгробен живот ще изчезне.
Вероятно нещо подобно ще се случи по време на сингулярността. Тъй като нашата технология се усъвършенства и следователно нашата сила, нашите сърца, сърцата на хората, ще бъдат претеглени срещу перата. Ако те се окажат прекалено тежки - с глупост, арогантност, предразсъдъци, зло - ние ще провалим теста и ще бъдем унищожени. Но ако преминем и излезем от сингулярността, небето ни очаква. Както при другите системи от вярвания, няма място за невярващите; цялото общество ще се промени радикално, независимо дали ви харесва или не. Технологично възхищение.
Изглежда, че всяко голямо развитие предизвиква подобен отговор. И ядрени оръжия също. Или това ще е последната капка и ще се унищожим, или ядрената енергия може да се използва за създаване на по-добър свят. В ранните дни на ядрената ера хората говореха за електричество, „което би било твърде евтино, за да се брои“. Учените, работещи върху бомбата, често си мислеха, че с такава разрушителна сила в ръцете на хората просто ще трябва да се съберем и да работим заедно като вид.
Когато виждаме един и същ отговор, отново и отново, при различни обстоятелства, възникващи в различни области, било то наука, политика или религия, трябва да вземем предвид пристрастията на хората. Ние обичаме вярванията на хилядолетията, така че когато се появи идеята за изкуствен интелект, който надминава човешкия интелект, ние веднага налагаме познат модел.
Ние не обичаме фактите. Информацията не ни харесва. Ние не сме толкова рационални, колкото си мислим. Ние създаваме разкази. Физиците наблюдават света, а ние преплитаме собствените си наблюдения в повествователни теории, истории за малки билярдни топки, които летят тук-там и се сблъскват помежду си, или за пространството и времето, които се огъват, огъват и разширяват. Историците се опитват да осмислят безкраен поток от събития. Обичаме историите: истории, излагащи нашето минало, настоящето ни, а също така ни подготвят за бъдещето.
Хилядолетният разказ е много красив и завладяващ. Той ви носи социална промяна. Той може да оправдае ежедневното ти страдание, ако скърбиш. Той ви дава надежда, че животът ви е важен и смислен. Дава ви усещане за нещата, които се развиват в определена посока, според правилата, а не само в хаос. Той обещава, че праведните ще бъдат спасени, а еретиците наказани, дори ако по пътя има страдание. И накрая, хилядолетният разказ обещава небето в края на тунела.
Трябва да внимаваме с хилядолетния разказ, когато мислим за технологично развитие, особености и екзистенциални рискове. Викахме „вълци!“Много пъти, когато ги нямаше. Може би дори сега светът не е на ръба на бедствието. Разбира се, тази история не е толкова привлекателна. Разбира се, всеки иска очарователен край.
Но копайте по-дълбоко и ще откриете, че хилядолетните вярвания не винаги са най-обещаващи, защото те изваждат човешкия агент от уравнението. Ще трябва да вярваме в сивите нюанси и да изоставим зловещия апокалипсис с червеноокия ИИ и приказната утопия с всемогъщия ИИ, който обожава хората.
