Темата за напредналия изкуствен интелект (AI) в бъдеще обикновено носи със себе си определени страхове - например, че той ще бъде способен да се самоучи и да стане толкова развит, че хората вече няма да могат да го разберат. В грешни ръце и дори сам по себе си такъв усъвършенстван алгоритъм може да поеме правителства и армии, да въведе оруелски методи за наблюдение и манипулация, да установи контрол върху обществото и дори да контролира армия от автономни бойни дронове на бойното поле.
Но някои ИИ експерти не смятат тези страхове за валидни. Всъщност един високо напреднал ИИ може да бъде по-способен да управлява света от хората. Такива страхове са сами по себе си опасни, защото могат да ни попречат да реализираме такава възможност.
„Може би липсата на AI представлява опасност за човечеството“, заяви изследователят на AI във Facebook Томас Миколов по време на конференция в Прага относно предизвикателствата на създаването на AI на нивото на човешката интелигентност.
Миколов обяснява, че хората като вид са много слаби при вземането на дългосрочни решения, за да донесат полезни резултати. Хората са изчистили тропическите гори, за да добиват суровини, без да осъзнават (или не се интересуват), че по този начин са допринесли за деградацията на нашата планета - може би необратимо.
Но усъвършенстваната AI система може да защити човечеството от собствената му късогледство.
„Хората са слабо способни да предвидят далечното бъдеще, да речем, 20-30 години напред. Може би, създавайки AI, който е много по-умен от нас, можем да си помогнем да избегнем бъдеща катастрофа."
Разбира се, Миколов принадлежи към малцинство учени, които вярват, че високоразработеният ИИ ще бъде доброжелателен. По време на конференцията много оратори изразиха широк страх от AI, по-често във връзка с възможното му използване за опасни цели от злонамерени участници, опасността от които не бива да се подценява.
Ние не знаем със сигурност дали ще бъде възможно да се създаде AI с общо предназначение, способен да изпълнява всяка мисловна задача, достъпна за хората, а може би дори и по-добра от тях.
Промоционално видео:
Бъдещето на напредналия ИИ изглежда обещаващо, но поражда много етични проблеми. Ние дори не знаем всички въпроси, на които ще трябва да се отговори.
И въпреки това повечето от участниците в Пражката конференция се съгласиха, че правилата трябва да бъдат разработени, преди да са необходими. Вече е необходимо да се създадат международни договори, комитети по етика и регулаторни органи в правителствата, компаниите и научните общности. Прилагането на такива институции и протоколи ще намали вероятността враждебно правителство, невнимателен изследовател или дори наистина безумен „учен“да предизвика злонамерен ИИ или да използва сложен алгоритъм по друг начин като оръжие. И в най-лошия случай ще имаме лекарства.
Като въведем необходимите правила и предпазни мерки, ще можем да живеем в хармония с високо развития ИИ в бъдеще; може би един ден той дори ще ни спаси.
Вадим Тарабарко