През март 2016 г. компютърният алгоритъм на AlphaGo на DeepMind успя да победи Лий Седол, тогава най-добрият играч на пъзели в света. Това събитие се превърна в един от онези определящи моменти в историята на технологичната индустрия, които по едно време станаха победата на компютъра Deep Blue от IBM над световния шахматен шампион Гари Каспаров и победата на суперкомпютъра Watson от същия IBM в теста за опасност от 2011 г.
И все пак, въпреки тези победи, колкото и впечатляващи да са те, става въпрос повече за тренировъчни алгоритми и използването на сурова изчислителна сила, отколкото за истински изкуствен интелект. Бившият професор по MIT роботика Родни Брукс, който е съосновател на iRobot и по-късно Rethink Robotics, казва, че изучаването на алгоритъм за игра на сложен пъзел със стратегия не е интелигентност. Поне не така, както си го представяме за човек.
Експертът обяснява, че колкото и силен да се окаже AlphaGo при изпълнение на възложената му задача, всъщност той не е способен на нищо друго. Нещо повече - той е настроен да играе само на Go на стандартен терен с размери 19 x 19. В интервю за TechCrunch, Брукс говори за това как наскоро той има възможност да разговаря с екипа на DeepMind и да открие интересна подробност. На въпроса какво би се случило, ако организаторите са променили размера на борда и го увеличат до 29 x 29 квадрата, екипът на AlphaGo му призна, че дори и малка промяна на игралното поле би довела до „ние сме приключили“.
„Мисля, че хората виждат колко добре един алгоритъм прави едно нещо и изглежда веднага смятат, че това може да направи другите също толкова ефективно. Но въпросът е, че той не може “, коментира Брукс.
Брутна интелигентност
През май тази година в интервю с Давин Колдуей от TechCrunch Disrupt Каспаров отбеляза, че разработването на компютър, способен да играе шах на световно ниво, е едно, но е съвсем друго да се нарече такъв компютър чист изкуствен интелект, тъй като не е така. Това е просто машина, която влага цялата си изчислителна сила за решаване на проблем, който е свикнал да прави най-добре.
„В шахмата машините печелят поради силата на дълбоките изчисления. Те могат да станат напълно непобедими с огромна база данни, много бърз хардуер и по-логични алгоритми. Те обаче нямат разбиране. Те не разпознават стратегически модели. Машините нямат никаква цел “, каза Каспаров.
Промоционално видео:
Гил Прат, главен изпълнителен директор на Toyota Institute, подразделението на Toyota на AI и AI в домашни роботи и самоуправляващи се автомобили, също говори пред TechCrunch на сесията по роботика. Според него страхът, който чуваме от широк кръг хора, включително от Елон Мъск, който наскоро нарече изкуствения интелект „екзистенциална заплаха за човечеството“, може да се дължи на нищо повече от онези дистопични описания на света, които ни предлага научната фантастика.
„Нашите сегашни системи за задълбочено обучение са толкова добри, колкото да изпълняват поставените им задачи, както ние сме ги проектирали. Но в действителност те са доста високо специализирани и мънички по мащаб. Затова считам за важно всеки път в контекста на тази тема да споменаваме колко са добри и колко неефективни са в действителност. И също така колко далеч сме от момента, в който тези системи могат да започнат да представляват заплахата, за която говорят Илон Мъск и други “, коментира Прат.
Брукс, от своя страна, на TechCrunch Robotics Session отбеляза, че има тенденция сред хората като цяло да вярват, че ако един алгоритъм е в състояние да се справи със задачата „X“, тогава той очевидно е толкова умен, колкото човек.
„Мисля, че причината хората, включително Илон Мъск, правят тази грешка е тази. Когато видим човек да върши много добра работа със задачата, която му е възложена, разбираме, че той има висока компетентност по този въпрос. Струва ми се, че хората се опитват да прилагат същия модел при машинно обучение. И точно там се крие най-голямата грешка “, казва Брукс.
Изпълнителният директор на Facebook Марк Зукерберг проведе излъчване на живо миналата неделя, по време на което той също критикува коментарите на Елон Мъск, като ги нарече "доста безотговорни". Според Зукърбърг, AI ще бъде в състояние да подобри значително живота ни. Мъск от своя страна реши да не мълчи и отговори на Зукърбърг, че има "ограничено разбиране" за AI. Темата все още не е затворена и Мъск обеща малко по-късно да отговори по-подробно на атаките на колегите от ИТ индустрията.
Между другото, Мъск не е единственият, който вярва, че AI може да представлява потенциална заплаха. Физикът Стивън Хокинг и философът Ник Бостром също изразяват опасенията си от възможността изкуственият интелект да проникне в начина на живот на човечеството. Но, най-вероятно, те говорят за по-обобщен изкуствен интелект. За това, което се изучава в лаборатории като Facebook AI Research, DeepMind и Maluuba, а не за по-високоспециализирания AI, първите начала на който можем да видим днес.
Брукс също така отбелязва, че много от критиците на AI дори не работят в тази област, и предположи, че тези хора просто не разбират колко е трудно да се намери решение на всеки отделен проблем в тази област.
„Всъщност няма много хора, които считат AI за екзистенциална заплаха. Стивън Хокинг, британски астрофизик и астроном Мартин Рийс … и няколко други. Иронията е, че повечето от тях имат едно общо нещо - те дори не работят в областта на изкуствения интелект “, каза Брукс.
„За онези от нас, които работят с AI, е съвсем очевидно колко трудно може да се накара нещо да работи на нивото на крайния продукт.“
AI погрешно представяне
Част от проблема идва и от факта, че наричаме всичко това „изкуствен интелект“. Истината е, че тази „интелигентност“изобщо не прилича на човешката интелигентност, която обикновено се описва в справочниците и речниковите речници като „способността да се научат, разбират и адаптират към нови ситуации“.
Паскал Кауфман, изпълнителен директор на Starmind, стартъп, който помага на други компании да използват колективен човешки разум за намиране на решения на бизнес проблеми, изучава невронауката в продължение на 15 години. Човешкият мозък и компютърът, отбелязва Кауфман, работят много различно и би било очевидна грешка да ги сравним.
„Аналогията - мозъкът работи като компютър - е много опасна и застава на пътя на напредъка на ИИ“, казва Кауфман.
Експертът вярва също, че няма да напреднем в разбирането на човешкия интелект, ако го разгледаме в технологичен план.
„Погрешно схващане е, че алгоритмите работят като човешкия мозък. Хората просто обичат алгоритмите и затова смятат, че мозъкът може да бъде описан с тяхна помощ. Мисля, че това е погрешно”, добавя Кауфман.
Ако нещо се обърка
Има много примери, при които AI алгоритмите не са толкова умни, колкото сме свикнали да ги мислим. И един от може би най-известният е алгоритъмът AI Tay, създаден от екипа за разработка на AI системи на Microsoft и излязъл извън контрол през миналата година. Отне по-малко от ден, за да превърне бота в истински расист. Според експертите това може да се случи с всяка AI система, когато е представена с лоши модели за подражание. В случая на Тей тя попада под влиянието на расистки и други обидни форми на лексиката. И тъй като беше програмиран да „учи“и „огледално поведение“, скоро излезе извън контрола на изследователите.
Разширено проучване от Cornell и Wyoming установи, че е много лесно да се заблуди алгоритми, обучени за идентифициране на цифрови изображения. Те откриха, че изображението, което прилича на "бъркани глупости" за хората, е идентифицирано от алгоритъма като изображение на някакъв ежедневен обект като "училищен автобус".
Според статия, публикувана в MIT Tech Review, описваща този проект, не е напълно ясно защо алгоритъмът може да бъде измамен по начина, по който го направиха изследователите. Това, което беше установено, е, че хората са се научили да разпознават това, което е пред тях - или самодостатъчна картина, или някакъв неразбираем образ. Алгоритмите от своя страна, анализирайки пиксели, са по-лесни за манипулиране и измама.
Що се отнася до автомобилите със самостоятелно управление, всичко се оказва много по-сложно. Има някои неща, които човек разбира, когато се подготвя да се сблъска с определени ситуации. Ще бъде много трудно да научите машина да прави това. Голяма статия, публикувана в един от автомобилните блогове на Родни Брукс през януари тази година, цитира няколко примера за такива ситуации, включително една, описваща автомобил със самостоятелно управление, приближаващ се до знак за спиране, разположен до пешеходен преход в града. в самото начало на което възрастен и дете стоят и общуват.
Алгоритъмът най-вероятно ще бъде настроен да изчака пешеходците да пресекат пътя. Но какво ще стане, ако тези пешеходци дори не са се сетили да пресекат пътя, тъй като стоят и чакат, да речем, за училищен автобус? Човек-шофьор в този случай може да закача пешеходци, които в отговор могат да му махат, като го информират, че може да мине. Безпилотно превозно средство в такава ситуация може просто да се забие плътно, безкрайно да чака хората да преминат пътя, защото алгоритъмът няма разбиране за такива уникални човешки сигнали, пише Брукс.
Всеки от тези примери ни показва колко далеч трябва да продължим при разработването на алгоритми за изкуствен интелект. Доколко добре обобщените разработчици на AI могат да успеят, все още е въпрос. Има неща, с които човек лесно може да се справи, но ще бъде истинско мъчение да научи алгоритъма. Защо? Тъй като ние хората не сме ограничени в обучението си до набор от конкретни задачи.
Николай Хижняк