Двама милиардери, които направиха богатството си онлайн, собственикът на Tesla и Space X Елон Мъск и основателят на Facebook Марк Цукерберг, са се сблъскали с задочен спор заради опасностите от изкуствения интелект.
И двамата предприемачи са уверени, че създаването на пълноценен изкуствен интелект (AI) е въпрос на близко бъдеще. Но Мъск вярва, че е време човечеството да помисли за регулиране на развитието в тази област, а Цукерберг е уверен, че изкуственият интелект значително ще подобри живота на хората.
В средата на юли Елон Мъск разговаря с гуверньорите на американските щати и призова властите да помислят за въвеждане на законодателни ограничения върху развитието в областта на ИИ.
Zuckerberg отговори на въпроса за опасностите от AI при чат с потребителите на Facebook. Беше го попитат бегло дали смята, че страховете на Мъск са валидни. Създателят на Facebook заяви, че не разбира как Мъск може сериозно да призове за забавяне на напредъка.
Той отговори с чуруликане: „Говорих за това с Марк. Той има ограничено разбиране по този въпрос :
Сегашното време публикува напълно изказванията на двамата милиардери.
"Докато не видим роботи да се разхождат по улиците и да убиват хора, няма да знаем как да реагираме." Страховете на Илон Мъск
Промоционално видео:
Имам достъп до най-новото в AI. И мисля, че хората наистина трябва да се занимават с този въпрос. Знам как звучи, но докато хората не видят роботи, които се разхождат по улиците и убиват хора, те няма да знаят как да реагират.
Изглежда нереалистично. Мисля, че наистина трябва да се тревожим за AI. И мисля, че това е рядък случай, когато в нашите законодателни ограничения трябва да сме пред кривата и да не вземаме решения по-късно, когато е твърде късно.
Обикновено ограниченията работят така: в началото се случват много лоши неща, обществото протестира и след много години има регулаторни органи за тази индустрия. Компаниите, които не обичат външния контрол, се съпротивляват и това отнема много време. В миналото това вече е довело до лоши последици, но не представляваше основна заплаха за съществуването на човечеството.
AI е основен риск за човешкото съществуване. И това е рискът, който нито автомобилни произшествия, нито самолетни катастрофи, нито проблемни наркотици, нито лоша храна никога не са имали. Те не бяха заплаха. Може би са били за конкретни хора, но не представляват риск за цялото общество.
AI е основна екзистенциална заплаха за цивилизацията и не мисля, че хората са напълно наясно с това. Да, ограничаването не е забавно. Но в автомобилната индустрия сме контролирани от Министерството на транспорта и много други. И всяка държава има регулаторни органи. В космическата индустрия сме контролирани от Федералната авиационна администрация. Но ако попитате обикновен човек: „Ей, искате да се отървете от управлението на гражданската авиация и просто се надявате, че производителите не спестят от самолета, защото печалбата е спаднала през това тримесечие“, човекът ще отговори: „Разбира се, че не“. Звучи така.
Мисля, че дори много либерално настроени хора все пак биха казали: „Нека да следим производителите на самолети, трябва да се уверим, че те правят добри самолети“. Хубави коли, такива неща. Така че регулаторите трябва да играят роля. Разбира се, аз съм против строг контрол. Но мисля, че е по-добре да побързаме с AI.
Разбира се, това [изобретение на AI] ще доведе до загуба на работни места, защото роботите могат да направят всичко по-добре от нас. Тоест, по-добре от всички нас. Да. Не знам какво да правя по въпроса. Това е най-лошият проблем за мен. Да, всъщност съм сигурен, че ще ни е необходим държавен контрол, защото по този начин можем да осигурим обществена безопасност.
Компаниите бързат, трябва да имат време да направят AI, в противен случай ще станат неконкурентоспособни. Ако вашият конкурент бърза да направи AI, а вие не сте, той ще ви унищожи. И компаниите казват: „Ние не искаме да умрем, изглежда, че ние също трябва да създадем AI.“
И тук трябва да влязат контролите: „Момчета, всички трябва да забавите скоростта и да се уверите, че е безопасно“. Ако рецензенти са убедени, че е безопасно, тогава можете да продължите да работите. В противен случай забавете скоростта. Но одиторите трябва да направят това за всички, които го правят, в противен случай акционерите ще кажат: „Хей, защо не развиваш AI по-бързо от конкурентите си? Би било необходимо!"
Вярвам, че това е най-големият риск, който приемаме като цивилизация. Мисля, че ролята на държавата е да се грижи за обществото и да обръща внимание на това, което го заплашва. Оттук и ограниченията. Първо, трябва да научите колкото се може повече за това, за да разберете същността на проблема, да наблюдавате напредъка и невероятните постижения в областта на ИИ.
Миналата година в игра на вървене, която е достатъчно трудна за печелене и в която хората смятат, че компютърът никога няма да победи най-добрия човек играч, или че това ще се случи след 20 години, миналата година AlphaGo, създаден от DeepMind, компанията, купена от Google, победи най-добрия играч в света. И сега тя може да играе едновременно със 150 играчи и да побеждава всички тях.
Това е впечатляваща скорост на прогреса и ще се появява все по-често. Роботика, например. Има роботи, които се научават да ходят от нулата за часове. По-бързо от всеки вид. Но най-опасното - а това е най-трудното за разбиране - защото не е нещо физическо, а интелигентност.
Изглежда, добре, какво може да направи мощен [изкуствен] интелект в мрежата? Е, например, започнете война. Например, чрез създаване на фалшиви новини, фалшиви съобщения за пресата и пощенски адреси и просто манипулиране на информация. Писалката е по могъща от меча.
Като пример - искам да подчертая, не мисля, че това наистина се е случило, казвам това чисто хипотетично - помниш ли онзи малайзийски самолет, който беше свален над границата между Русия и Украйна? Това значително увеличи триенето между Русия и ЕС.
Представете си, че ако имате изкуствен интелект и целта му е била да увеличите максимално стойността на портфейла от акции, един от начините би бил да закупите запаси за отбрана, къси потребителски запаси и да започнете война.
Как можеше да го направи? Hack Malaysia Airlines, сървъри за маршрути на самолети, начертайте маршрути над военна зона и след това изпратете анонимно съобщение, че „вражески самолет лети над вас“.
"Всички технологии могат да бъдат използвани за вреда и добро." Оптимизмът на Марк Зукърбърг
Имам доста силни убеждения по този въпрос. Много съм оптимист. Аз съм оптимистичен човек като цяло. Мисля, че можем да създадем неща, които правят света по-добро място и съм особено оптимист за AI. Мисля, че просто не разбирам хора, които винаги са скептични и непрекъснато ги сплашват с тези сценарии за предстоящия край на света. Мисля, че това наистина е много лошо и безотговорно, защото в следващите пет до десет години AI ще бъде в състояние да подобри и подобри качеството на нашия живот.
Ако сте загрижени за безопасността и здравето на хората, тогава AI вече помага за по-добра диагностика на заболявания и за избор на лекарства за хората в зависимост от това, от какво са болни и как могат да бъдат излекувани по-добре. Много хора ще получават по-добри здравни грижи от всякога.
Що се отнася до автомобилите със самостоятелно управление, те ще бъдат по-безопасни от автомобилите, които се управляват от хора. Въпрос на време е. Автомобилните катастрофи остават една от основните причини за смъртта. И ако те биха могли да бъдат премахнати с помощта на ИИ, това значително би подобрило живота на хората.
Когато чуя разсъжденията: "О, знаете, AI ще навреди на хората в бъдеще", мисля, че наистина всички технологии могат да бъдат използвани както за вреда, така и за полза. И трябва да внимавате, когато създавате нещо, трябва да бъдете внимателни и да мислите как ще се приложи.
Но когато хората настояват да се забави процеса на ИИ, ми се струва много противоречиво. Наистина ми е трудно да разбера това, защото ако сте против AI, значи сте против по-безопасни машини, които няма да попаднат в злополуки, срещу възможността за по-добро диагностициране на заболявания. И просто не разбирам как някои хора могат да го направят без хитрост. Така че по принцип съм много по-оптимистичен за това [създаване на AI], отколкото може би много хора.