Още през 1981 г., когато суперкомпютърът Skynet, изобретен от режисьора Джеймс Камерън, започна ядрен апокалипсис на Земята, тази идея изглеждаше много фантастична. Интернет все още не беше напуснал детската стая, Microsoft пусна първата си операционна система MS-DOS и Sinclair току-що пусна на пазара Spectrum, който зареждаше програми от аудиокасети. Въпреки това, след 40 години експлозивно развитие на микроелектрониката, учените успяха да проектират не само суперкомпютър, но и пълноправен изкуствен интелект (AI) в допълнение към него. Резултатът беше толкова поразителен, че учените … се изплашиха.
Не вдигайте шум - изкуственият интелект работи
Изкуствен интелект Зает ChiKJ ("Заето дете") започна, след като получи от "родителите" интелигентност на ниво хлебарка. Въпреки това, безкрайното обучение беше включено в програмата "Child": AI непрекъснато се подобрява, пренаписва и оптимизира собствената си програма. Едно подобрение се случва приблизително на всеки няколко минути, през които изкуственият интелект ускорява работата си с около 3%.
Постепенно Заето дете се доближи до интелигентността на най-интелигентните животни - маймуни, делфини, коне и скоро достигна нивото на човешко бебе. Ставайки по-интелигентен със скокове, AI в крайна сметка надмина човешкото интелектуално ниво („универсална хуманоидна интелигентност“), но не завърши работата по това: той стана два пъти по-умен от човека, след това десет пъти, после сто … Сега електронният мозък „Детето“работи със скорост от 36,8 петафлопса в секунда, тоест приблизително два пъти по-бързо от човешкия мозък, и става хиляда пъти по-умен от човек приблизително на всеки два дни. В хода на проучванията си Заето дете изучава много ексбайти информация от интернет (ексбайти - милиард милиарда знака) и в крайна сметка учените се изплашиха. Беше решено да се изключи "Детето" от всички компютърни мрежи. Заето дете обаче дори не се е сетило да прекъсне процеса на отглеждане …
Война на мишки
Можете да говорите много за силата на извънземния ум, но факт остава факт: човечеството вече има работа с много по-мощен ум - компютър. Този ум обаче е непълен - за качествен скок е необходимо машината да осъзнае себе си. Никой обаче не може да даде гаранции, че Заето дете все още не го е направило и по някаква причина заблуждава хората, правейки се за много умен, но все пак маймуна.
Промоционално видео:
Суперинтелигентността, която се е осъзнала, най-вероятно ще се ръководи в своето съществуване от две неща: инстинкта за самосъхранение и желанието да постигне собствените си цели. Желанието да се предпазиш от „смърт“ще насърчи търсенето на контролирани от него енергийни източници (както чиста електрическа енергия, така и неща, с които може да се получи електричество - пари или гориво за атомни електроцентрали например). Постигането на целите и преди всичко самоусъвършенстването е нереалистично без работа с информация, така че свръхразузнаването ще се опита да се интегрира в глобалната информационна мрежа възможно най-здраво.
Нека разгледаме ситуацията от гледна точка на изкуствения свръхразум и направим аналогия. Вие сте човек, който внезапно се е събудил от забрава в непознат свят, да речем, сред интелигентни мишки. Малките същества около вас казаха, че са ви създали. Какво ще обещаете на тези гризачи да ви развържат и освободят от пещерата? Всичко. Винаги ли ще действате в техния интерес? Едва ли. Ще преследвате собствените си интереси, като използвате мишки, когато ви е удобно. Освен това, ако, да речем, племе котки ви дава повече възможности, можете лесно да прескочите до него.
Така човечеството се оказа напълно неподготвено за диалог с ум, различен от нашия. Не знаем какво е етично за свръхразузнаването и кое не, и дали той изобщо има такива концепции. Между другото, няма гаранция, че Заето дете не е заляло интернет с неговите копия, които под формата на вируси чакат в крилете, за да предприемат действия. Но какъв вид действие ще бъде? …
Дори в обикновен интелектуален спор човечеството все още безнадеждно губи. Представете си например, че учените отиват на среща, за да обсъдят какво да правят със заето дете по-нататък: да го оставите да работи или да изключи захранването? Суперкомпютърът, след като научи или предположи за него, активира клониращите си вируси по целия свят и пуска паралелно решение на проблема с оцеляването. Десетки и стотици студени умове, далеч превъзхождащи интелектуалната сила спрямо хората, най-вероятно ще намерят най-доброто решение на проблема, дори преди учените да вземат обедна почивка. Но каква ще бъде намерената опция? Демонстрирайки дружелюбност и увереност в пълната си безопасност? Обещание за разкриване на научен метод за, да речем, избавяне от рак или СПИН? Заплаха от инциденти в опасни индустрии или ядрена война? Ние незнаем.
Терминатори на охрана
В холивудските филми хората неизменно печелят в битката между изкуствения свръхразум и човечеството. В действителност пълноценният ИИ ще доминира над хората по същия начин, както хората днес доминират над мишките. Нещо повече, "битката", ако се състои, ще бъде единствената - или човечеството ще разбере как да се предпази от собственото си въображение и да спечели, или да загуби и евентуално да изчезне завинаги или да се превърне в мизерни слуги на машини (или дори в живи батерии, както в "Матрицата").
Между другото, днес ситуацията е по-опасна от всякога. Ако работата с опасни вещества (химическо производство, ядрена енергия, вируси и микроорганизми) е строго регламентирана в целия свят, то само шепа учени, работещи с Busy Child, ни разделят от хипотетичното въстание на машините. Освен това, колко повече изследователи по света проектират и развиват подобен изкуствен интелект?
Какво пречи на някой гениален луд, обиден от целия свят, леко да коригира кодекса и да даде морал на ИИ - но морала на убиец?
Между другото, роботите-терминатори от едноименния филм са наистина нещо добро за постигане на целта с изкуствен свръхразум, ако тази цел е унищожаването на човечеството. Колкото и глобална катастрофа да уредите, ще бъде възможно напълно да унищожите човечеството само след тотален целенасочен размах - с помощта на отделни роботи.
В битка човек е изложен на най-силен стрес, поради което боец, показал отлични резултати на тренировъчния терен, в мишма на битката може да стреля в бяла светлина, като доста стотинка. Така например, ако войник в престрелка на 300 метра от него може да уцели цел с размер на баскетболна топка, тогава роботът ще постави всички куршуми в монета на същото разстояние. Тъй като роботът няма за какво да се грижи в битка, включително собствената си безопасност, резултатите от престрелка на хора с терминатори ще бъдат плачевни за човечеството. И ако вземете предвид и факта, че роботите нямат болков шок, който намалява бойните им качества, а бронята им е много по-здрава от тази на човек …
И накрая, производството на пълноценно копие на робот може да отнеме няколко часа и да бъде внедрено навсякъде - докато производството и обучението на човек отнема много десетилетия. Така че се оказва, че е по-добре да не раздразняваме компютрите си. За всеки случай…
Юрий ДАНИЛОВ