Може би един от най-трудните тестове за машинен интелект беше шахматната игра, която се проведе преди почти 20 години между компютъра Deep Blue и световния шампион по шах Гари Каспаров. Колата спечели. В момента приключи поредицата от игри в логическата игра go, където се състезаваха AI AlphaGo от DeepMind (собственик на Google) и легендарният go шампион от Китай Li Si Dol. В четири от петте игри машината спечели, показвайки своето превъзходство над човешкото в тази игра. Невероятно сложната игра между човек и ИИ показва, че машинният интелект се е развил много силно през това време. Изглежда съдбоносният ден, когато машините наистина стават по-умни от хората, вече е по-близо от всякога. Изглежда обаче, че мнозина изобщо не разбират, а по-скоро дори грешат относно последиците, които могат да ни очакват в бъдеще.
Подценяваме някои много сериозни и дори опасни последици от развитието на изкуствения интелект. Миналата година съоснователят на SpaceX Илон Мъск публикува изявление, в което изрази загриженост относно възможното поробване на света от изкуствен интелект, което от своя страна предизвика огромно количество коментари както от поддръжници, така и от противници на това мнение.
За такова фундаментално революционно бъдеще, което може да ни очаква, е изненадващо, че днес има толкова много разногласия относно това дали изобщо ще се случи и какво в крайна сметка ще се окаже. Особено странно е да отричаме невероятните ползи, които можем да извлечем от създаването на наистина интелигентен ИИ, разбира се, като се вземат предвид всички възможни рискове. Всички тези въпроси са изключително трудни за получаване на нужните отговори, тъй като ИИ, за разлика от всяко друго изобретение на човечеството, наистина може да „подмлади“това човечество или да го унищожи напълно.
Сега е трудно да се разбере на какво да вярвате и на какво да се надявате. Въпреки това, благодарение на пионерите в компютърните науки, невролозите и теоретиците на развитието на ИИ, ясната картина бавно започва да се изяснява. По-долу е даден списък с най-често срещаните заблуди и митове по отношение на изкуствения интелект.
Никога няма да създадем ИИ с хуманоидна интелигентност
Реалността от своя страна предполага, че вече имаме компютри, които съвпадат и дори надхвърлят човешките възможности в някои области. Вземете например шах или същата игра на движение, търговия на фондовите борси или ролята на виртуален събеседник. Компютрите и алгоритмите, които ги контролират, ще се подобряват само с течение на времето и е въпрос на време да станат равни на човешките възможности.
Промоционално видео:
Веднъж изследователят от Нюйоркския университет Гари Маркус каза, че „почти всички“, които работят с изкуствен интелект, вярват, че един ден машините ще ни надминат:
"Единственият спор между поддръжници и скептици е времето на това събитие."
Футуристи като Рей Курцвейл вярват, че това може да се случи през следващите десетилетия, докато други казват, че това ще отнеме няколко века.
Скептиците на ИИ са неубедителни в своите доказателства, че създаването на изкуствен интелект като нещо уникално и много подобно на истински жив човешки мозък в технологично отношение е някъде извън реалността. Нашият мозък също е машина. Биологична машина. Той съществува в същия свят и се подчинява на същите закони на физиката като всичко останало. И с течение на времето ще разберем изцяло целия принцип на нейната работа.
ИИ ще има съзнание
Съществува общ консенсус, че машинният интелект ще бъде съзнателен. Тоест ИИ ще мисли по същия начин, както и човекът. В допълнение, някои критици, например, съоснователят на Microsoft Пол Алън смятат, че поради непълна теоретична основа, описваща механизмите и принципите на самосъзнанието, все още не сме създали дори общ изкуствен интелект, т.е.интелигентност, способна да изпълнява каквито и да е интелектуални задачи, с които човек може да се справи. Според Мъри Шанахан, асистент в катедрата по когнитивна роботика в Имперския колеж в Лондон, не бива да приравняваме двете.
„Осъзнаването на себе си определено е много интересен и важен предмет на изследване, но не вярвам, че самосъзнанието трябва да бъде задължителен атрибут на подобния на човека изкуствен интелект“, казва Шанахан.
„Като цяло използваме термина„ самосъзнание “само за да посочим няколко психологически и когнитивни атрибута, които обикновено са свързани в даден човек.“
Възможно е да си представим много умна кола, на която липсва един или повече от тези атрибути. Някой ден ще можем да изградим наистина невероятно интелигентен ИИ, но в същото време лишен от способността за самосъзнание, както и от субективното и съзнателно разбиране на света около нас. Шанахан отбелязва, че обединяването на интелигентността и самосъзнанието вътре в машината все още ще бъде възможно, но не бива да изпускаме от поглед факта, че това са две напълно отделни концепции една от друга.
И въпреки че един от вариантите на „Теста на Тюринг“, при който една машина показа, че не се различава от човек, беше успешно преминат, това изобщо не означава, че тази машина има съзнание. От наша (човешка) гледна точка, усъвършенстваният изкуствен интелект може да ни изглежда като нещо, притежаващо самосъзнание, но самата машина няма да е по-наясно със себе си от същия камък или калкулатор.
Не бива да се страхуваме от ИИ
През януари тази година основателят на Facebook Марк Зукърбърг сподели мислите си за това как не трябва да се страхуваме от ИИ, добавяйки, че тази технология може да донесе огромни ползи по целия свят. Истината е, че той е само отчасти прав. Наистина ще можем да извлечем невероятни ползи с AI на наше разположение (от самоуправляващи се автомобили до нови открития в медицината), но никой не може да гарантира, че всяко приложение на AI ще бъде от полза.
Силно интелигентна система може би ще знае всичко необходимо за определени задачи (например разрешаване на сложна глобална финансова ситуация или хакване на компютърните системи на врага), но извън тясно специализирани задачи потенциалът на ИИ все още е напълно неясен и следователно потенциално опасен. Например, системата на DeepMind е специализирана в играта go, но няма способност (и причина) да изследва области извън това царство.
Компютърен вирус Flame, чиято задача беше да проследява страните от Близкия изток
Много от тези системи могат да представляват сериозни рискове за сигурността. Добър пример е мощният и изключително хитър вирус Stuxnet, милитаризиран червей, създаден от американските и израелските военни, за да проникне и атакува иранските атомни електроцентрали. Само тази злонамерена програма по някакъв начин (случайно или умишлено) зарази една от руските атомни електроцентрали.
Друг пример е вирусът Flame, разработен за целенасочен кибер шпионаж в Близкия изток. Лесно е да си представим как "бъдещите версии" на вирусите Stuxnet и Flame независимо ще надхвърлят възложените им задачи и ще могат да заразят почти цялата инфраструктура на дадена държава. И ще го направят много тихо и неусетно.
Изкуственият свръхразум ще бъде твърде умен, за да допуска грешки
Ричард Лузмор, математик, изследовател на изкуствен интелект и основател на компанията за роботика Surfing Samurai Robots, вярва, че повечето сценарии на AI за съдбовен ден изглеждат малко вероятни, тъй като всички те се основават основно на това, което AI един ден ще каже, „Разбирам, че унищожението people е грешка в моя програмен код, но все пак трябва да следвам задачата."
Лузмор вярва, че ако ИИ се държи според този сценарий, той ще се сблъска с логични противоречия, които ще поставят под въпрос цялата му натрупана база знания и в крайна сметка ще доведат до собственото му осъзнаване на своята глупост и безполезност.
Изследователят също така вярва, че тези хора, които казват, че „ИИ ще прави само това, което е включено в неговата програма“, се заблуждават, точно както хората, които някога са казвали същите думи, но към компютрите, декларирайки, че компютърните системи никога няма да имат универсалност.
Питър Макинтайър и Стюарт Армстронг, и двамата от Института за бъдещето на човечеството към Оксфордския университет, от своя страна не са съгласни с това мнение, като твърдят, че поведението на ИИ ще бъде задължително и до голяма степен оправдано от програмния код. Учените не вярват, че ИИ никога няма да прави грешки или, напротив, ще бъде твърде глупав, за да разберем точно какво искаме от тях.
„По дефиниция изкуственият свръхразум (ISI) е агент, чийто интелект многократно ще надмине най-добрите умове на човечеството в почти всички области“, казва Макинтайър.
"Той определено ще разбере какво искаме от него."
Макинтайър и Армстронг вярват, че ИИ ще изпълнява само задачите, за които е програмиран, но ако по някакъв начин се развие сам, най-вероятно ще се опита да разбере доколко действията му ще се различават от човешките задачи и тези, заложени в него. закони.
Макинтайър сравнява бъдещото положение на хората с това, с което се сблъскват мишките. Мишките имат мощен инстинкт за намиране на храна и подслон, но целите им много често противоречат на човек, който не иска да ги вижда в дома си.
"Подобно на познанията ни за мишките и техните желания, системата за свръхразузнаване също може да знае всичко за нас и да знае какво искаме, но в същото време ще бъде напълно безразлична към нашите желания."
Простото решение елиминира проблема с AI контрола
Както е показано във филма „От машината“, ще бъде много трудно да се контролира ИИ, който ще бъде много по-умен от нас
Ако приемем, че един ден ще създадем свръхразузнаване, което ще бъде по-умно от хората, тогава ще трябва да се изправим пред сериозен проблем, проблемът с контрола. Футуристите и теоретиците на изкуствения интелект все още не са в състояние да обяснят как можем да контролираме и да съдържаме ISI след създаването му. Не е ясно и как можем да гарантираме, че той ще бъде приятелски настроен към хората. Съвсем наскоро изследователите от Технологичния институт в Джорджия (САЩ) наивно предположиха, че ИИ може да научи и усвои човешките ценности и познания за социалните норми, като просто чете прости приказки. Да, да, прости детски приказки и истории, които родителите ни четат в детството. Но в действителност всичко ще се окаже много по-сложно от всичко това.
„Предложени са много т. Нар.„ Решения “по въпроса за контрола на изкуствения интелект“, казва Стюарт Армстронг.
Един пример за такива решения може да бъде програмирането на ISI по такъв начин, че той постоянно да се опитва да угоди или да угоди на човек. Алтернатива би била интегрирането на понятия като любов или уважение в нейния изходен код. И за да се избегне подобно развитие на сценария, според който ИИ може да опрости всички тези концепции и да възприеме този свят през призмата на тези опростени концепции, разделяйки го само на черно и бяло, той може да бъде програмиран да разбира и приема интелектуалното, културното и социалното многообразие.
Трите закона на роботиката, създадени от Исак Азимов, се вписват идеално в концепцията за фантастика, но в действителност се нуждаем от нещо по-изчерпателно, за да разгледаме въпроса за контрола
За съжаление тези решения са твърде прости и изглеждат като опит да се побере цялата сложност на човешките харесвания и антипатии в рамките на една обща дефиниция или концепция, или опит да се побере цялата сложност на човешките ценности в една дума, фраза или идея. Например, опитайте се да впишете в тази рамка едно последователно и адекватно определение за такова нещо като „уважение“.
„Разбира се, не бива да се мисли, че такива прости опции са напълно безполезни. Много от тях предлагат чудесна причина за размисъл и може би стимулират търсенето на решение на крайния проблем “, казва Армстронг.
„Но не можем да разчитаме единствено на тях без по-сложна работа, без ясни изследвания и търсене на последиците от използването на определени решения.“
Ще бъдем унищожени от изкуствен свръхразузнаване
Никой не може да гарантира, че един ден AI ще ни унищожи, както никой не може да каже със сигурност, че няма да можем да намерим начини да контролираме и използваме AI за нашите собствени цели. Както веднъж каза американският експерт по изкуствен интелект Елиезер Юдковски: „ИИ не може да те обича или мрази, но ти си направен от атоми, които би могъл да използва за нещо друго“.
Оксфордският философ Ник Бостром в книгата си „Суперинтелигентност: Начини, опасности и стратегии“пише, че истинският суперинтелигентност един ден ще може да се реализира, което ще го направи по-опасно от всяко изобретение, създавано някога от човека. Изтъкнати съвременни мислители като Илон Мъск, Бил Гейтс и Стивън Хокинг (много от които вярват, че „ИИ може да бъде най-лошата грешка в човешката история“) са по-склонни да се съгласят с това мнение и вече бият тревога.
Питър Макинтайър вярва, че за повечето от задачите, които свръхразузнаването може да си постави, хората ще изглеждат като допълнителна връзка.
„AI един ден ще може да заключи - и трябва да се отбележи, че ще изчисли това много правилно - че хората не искат да го използват, за да увеличат доходността на която и да е конкретна компания на всяка цена, независимо от последиците за потребителите, околната среда и живите същества. Следователно той ще има огромен стимул да разработи план и стратегия, благодарение на които човек няма да може да се намесва в решението на задачата, като го променя или дори изключва AI."
Според McIntyer, ако задачите на AI са точно противоположни на нашите, това ще му даде отлични причини да не ни позволи да го спрем. И ако преценим, че нивото на неговата интелигентност ще бъде много по-високо от нашето, наистина ще бъде много, много трудно да го спрем, ако изобщо е възможно.
Сега обаче е невъзможно да се каже нещо със сигурност и никой няма да може да каже с коя форма на ИИ ще трябва да се справим и как може да застраши човечеството. Както Илон Мъск веднъж каза, AI всъщност може да се използва за контрол, проследяване и контрол на други AI. И може би в него ще бъдат въведени човешки ценности и първоначална приветливост към хората.
Изкуственият свръхразум ще бъде приятелски настроен
Философът Имануел Кант вярва, че интелигентността е силно свързана с принципите на морала. В своята работа Singularity: A Philosophical Analysis неврологът Дейвид Чалмърс взема за основа известната идея на Кант и се опитва да я приложи за анализ на формирането на изкуствен свръхразум.
„Ако принципите, описани в този документ, са верни, тогава заедно с рязкото развитие на ИИ, трябва да се очаква рязко развитие на моралните принципи. По-нататъшното развитие ще доведе до появата на ISI системи, които ще притежават суперморал и суперинтелигентност. Затова трябва да очакваме само доброжелателни качества от тяхна страна."
Истината е, че идеята за напреднал ИИ с принципи на морал и изключителна добродетел не държи вода. Както подчертава Армстронг, светът е пълен с интелигентни военни престъпници. Интелектът и моралът в човека например не са свързани по никакъв начин, следователно ученият се съмнява, че такава връзка ще съществува в други форми на интелигентност.
„Умните хора, които се държат неморално, са склонни да създават много повече проблеми и болка, отколкото техните по-малко интелигентни колеги. Интелигентността им позволява да бъдат по-усъвършенствани в своите лоши, а не добри действия “, казва Армстронг.
Макинтайр обяснява, че способността на агента да изпълни дадена задача няма нищо общо с това, което е тази задача.
„Ще имаме голям късмет, ако нашите ИИ станат по-морални, а не само умни. Разчитането на късмет е, разбира се, последното нещо по този въпрос, но може би именно късметът ще определи нашата позиция в бъдеще “, казва изследователят.
Рисковете, свързани с AI и роботиката, са еднакви
Това е особено често срещано погрешно схващане, използвано в медиите, както и в холивудските блокбъстъри като The Terminator.
Ако изкуственият свръхразум като Скайнет например наистина иска да унищожи цялото човечество, тогава е малко вероятно той да използва паравоенни андроиди с картечници във всяка ръка. Неговото хитро и ефективно мислене ще му позволи да разбере, че би било много по-удобно да се използва, да речем, нов вид биологична чума или, например, някаква нанотехнологична катастрофа. Или може би просто ще вземе и унищожи атмосферата на нашата планета. ИИ е потенциално опасен не само защото неговото развитие е тясно свързано с развитието на роботиката. Причината за потенциалната му опасност се крие в методите и средствата, чрез които той може да заяви своето присъствие пред света.
AI, представен в научната фантастика, отразява нашето бъдеще
Без съмнение в продължение на много години писатели и писатели на научна фантастика използват научно-фантастичната среда като трамплин за спекулации относно нашето реално бъдеще, но действителното създаване на ISI и реалните последици от това все още са извън хоризонта на нашите реални знания. Нещо повече, такава изкуствена и явно нечовешка природа на ИИ дори не ни позволява да приемем с каквато и да е точност какъв всъщност ще бъде този ИИ.
В повечето научно-фантастични произведения ИИ е възможно най-близо до хората.
„Пред нас всъщност е цял спектър от най-разнообразните възможни видове ум. Дори да приемем само човешката форма. Например умът ви далеч не е идентичен с ума на вашия съсед. Но това сравнение е само капка в морето на цялото възможно разнообразие от умове, които биха могли да съществуват “, казва Макинтайър.
Повечето научнофантастични измислици, разбира се, са създадени предимно за разказване на история, вместо да бъдат възможно най-убедителни в научно отношение. Ако беше обратното (науката е по-важна от сюжета), тогава би било безинтересно да се следват подобни произведения.
„Само си представете колко скучни биха били всички тези истории, където ИИ, без самосъзнание, способността да се радвате, обичате или мразите, унищожава всички хора практически без никаква съпротива, за да постигне целта си, което между другото също може да не е много интересно за читателя или зрителя “, коментира Армстронг.
AI ще ни вземе работата
Способността на AI да автоматизира процесите, които правим ръчно, и потенциалът му да унищожи цялото човечество не са едно и също нещо. Според Мартин Форд, автор на „Възходът на роботите: Технологии и заплахата от бъдеще без работа“, тези концепции често се опитват да се сравняват и комбинират в едно цяло. Разбира се, чудесно е, че се опитваме да предвидим последиците от създаването на ИИ досега, но само ако тези усилия не ни отвличат от проблемите, с които можем да се сблъскаме след няколко десетилетия, ако не предприемем нищо. И един от основните такива проблеми е масовата автоматизация.
Малцина биха спорили, че едно от предизвикателствата на изкуствения интелект ще бъде намирането на начин за автоматизиране на много работни места, от фабрични работни места до някои работни места. Някои експерти прогнозират, че половината от всички работни места, поне в САЩ, може да бъдат автоматизирани в близко бъдеще.
Но това изобщо не означава, че няма да можем да приемем такива промени. Важно е да се разбере, че желанието да се освободим от ненужния физически и психологически стрес на работното място всъщност е мечта на нашия човешки вид отдавна.
„След няколко десетилетия AI наистина ще замени хората на много работни места. И това всъщност е много добре. Например самоуправляващите се автомобили ще заменят шофьорите на камиони, което от своя страна не само ще намали разходите за доставка на стоки, но и ще намали цената на самите стоки. Ако работите като шофьор на камион, вие, разбира се, ще останете екстремни, но всички останали в този случай е по-вероятно да получат увеличение на заплатите си. И колкото повече тези пари могат да бъдат спестени, толкова повече тези пари могат да бъдат похарчени за други стоки и услуги, с които хората ще бъдат ангажирани на работните си места."
Най-вероятно изкуственият интелект ще търси нови начини за благосъстояние и ще храни хората, докато те правят други неща. Напредъкът в развитието на ИИ ще бъде придружен от успехи в други области. Особено в производствените сектори. В бъдеще всичко това вероятно значително ще опрости, вместо да усложни задоволяването на основните ни нужди.