DeepMind и Google: битката за контрол на изкуствения интелект - Алтернативен изглед

Съдържание:

DeepMind и Google: битката за контрол на изкуствения интелект - Алтернативен изглед
DeepMind и Google: битката за контрол на изкуствения интелект - Алтернативен изглед

Видео: DeepMind и Google: битката за контрол на изкуствения интелект - Алтернативен изглед

Видео: DeepMind и Google: битката за контрол на изкуствения интелект - Алтернативен изглед
Видео: Как Google използва изкуствен интелект в алгоритъма си за търсене? 2024, Март
Anonim

Една вечер през август 2010 г. 34-годишен лондонец на име Демис Хасабис излезе на сцената в конферентна зала в района на залива Сан Франциско. Изкачвайки се до подиума с призрачната походка на човек, който се опитва да овладее нервите си, той притисна устни към кратка усмивка и заговори: „Е, днес искам да говоря за различни подходи към създаването …“. Спря, сякаш осъзнавайки колко силно заявява амбициите си. И той го каза: "AGI".

AGI означава General Artificial Intelligence, хипотетична компютърна програма, която може да изпълнява интелектуални задачи, както и човек, или дори по-добре. AGI ще може да изпълнява конкретни задачи, като например разпознаване на хора по снимки или превод на езици, които в момента са в състояние да изпълняват много отделни изкуствени интелекти в нашите телефони и компютри. Те ще могат да водят разговор, да играят шах и да говорят френски едновременно. Те ще могат да разберат книги по физика, да пишат романи, да разработят инвестиционни стратегии и да поддържат случаен разговор с непознати. Те ще наблюдават ядрените реакции, ще управляват електропреносните мрежи и трафика и без усилие ще успеят във всичко останало. AGI ще направи най-модерния AI днес да изглежда като джобни калкулатори.

Единственият интелект, който в момента може да изпълни всички тези задачи, принадлежи на хората. Но човешкият ум е ограничен от размера на черепа, в който се намира мозъкът. Силата му е ограничена от малкото количество енергия, което тялото може да осигури. Тъй като AGI ще работи на компютри, той няма да страда от тези ограничения. Неговата интелигентност ще бъде ограничена само от броя на наличните процесори. AGI може да започне с наблюдение на ядрените реакции. Но скоро той ще открие нови източници на енергия, усвоявайки повече физическа работа в секунда, отколкото човек може за хиляда години. Интелигентността на човешко ниво, подкрепена от бързината и мащабируемостта на компютрите, ще ни спести неприятностите. Хасабис заяви пред британския вестник „Наблюдател“, че очаква AGI да се справи с други дисциплини, като „рак,изменението на климата, енергетиката, геномиката, макроикономиката и финансовите системи."

Конференцията, на която Хасабис говори, беше наречена срещата на върха за сингулярността. Сингуларността - първата част от името - се отнася до най-вероятната последица от появата на AGI, според футуролозите. Тъй като AGI ще обработва информация с висока скорост, тя ще стане много интелигентна много бързо. Бързите цикли на самоусъвършенстване ще доведат до експлозия на машинен интелект, оставяйки хората да подушат силициевия прах. Тъй като това бъдеще се основава единствено на непроверени предположения, почти религиозно се предполага, че Сингулярността ще се окаже или утопия, или ад.

Съдейки по заглавията на изказванията, участниците в конференцията повярваха повече на първия резултат: „Умът и как да го изградим“, „ИИ против стареене“, „Замяна на нашите тела“, „Промяна на границата между живота и смъртта“. Речта на Хасабис, от друга страна, изглежда скучна: „Системен невронаучен подход за създаване на AGI“.

Хасабис крачеше между подиума и екрана, говорейки с патер. Той носеше бордо джъмпер и бяла риза с копче надолу като ученичка. Малкият му ръст сякаш само подчертаваше интелигентността му. Досега, обясни Хасабис, учените са се обърнали към AGI от две страни. Един подход, известен като символичен AI, се опита да опише и програмира всички правила, необходими за система, която може да мисли като човек. Този подход беше популярен през 80-те и 90-те, но не даде желаните резултати. Хасабис смятал, че умствената архитектура на мозъка е твърде фина, за да бъде описана по този начин.

Друг подход обедини учени, които се опитват да цифрово копират физическите мрежи на мозъка. Имаше известен смисъл. В крайна сметка мозъкът е леглото на човешката интелигентност. Но тези изследователи също бяха на грешен път, каза Хасабис. Тяхната задача беше близка до създаването на карта на всички звезди във Вселената. По-дълбоко те се фокусираха върху грешното ниво на функциониране на мозъка. Това беше все едно да се опитваш да разбереш как работи Microsoft Excel чрез хакване в компютър и научаване на взаимодействието на транзисторите.

Вместо това Hassabis предложи средно ниво: AGI трябва да черпи вдъхновение от широките начини, по които мозъкът обработва информация, а не от физически системи или конкретни правила, които прилага в конкретни ситуации. С други думи, той трябва да се съсредоточи върху разбирането на софтуера на мозъка, а не на неговия хардуер. Нови техники, като функционално магнитно-резонансно изображение (fMRI), които позволяват да се вникне в мозъка, докато той работи, намекнаха, че такова разбиране е възможно. Последните проучвания, каза Хасабис, показват, че мозъкът се учи, като преиграва своите преживявания по време на сън, за да разкрие общи принципи. Изследователите на ИИ трябва да подражават на такава система.

Промоционално видео:

В долния десен ъгъл на слайда за отваряне логото под формата на кръгъл син вихър пласира. Двете думи до него са отпечатани по-долу: DeepMind. Това беше първият път, когато компанията беше спомената публично. Хасабис прекара повече от година в опит да получи покана за срещата на върха за сингулярността. Лекцията беше негова корица. Всъщност му трябваше една минута с Питър Тил, милиардерът от Силиконовата долина, който финансира конференцията. Хасабис иска инвестицията на Тийл.

Хасабис никога не е говорил защо се нуждае от подкрепата на Тийл. Но Тийл вярваше в AGI дори повече от Хасабис. Изказвайки се на срещата на върха за сингулярността през 2009 г., Тийл заяви, че най-големият му страх от бъдещето не е въстание на роботи. Той беше по-притеснен, че Сингулярността няма да дойде скоро. Светът се нуждаеше от нови технологии, за да предотврати икономическия спад.

DeepMind в крайна сметка събра 2 милиона паунда, от които Thiel беше 1,4 милиона. Когато Google закупи компанията през януари 2014 г. за 600 милиона долара, Тийл и други ранни инвеститори направиха 5000% възвръщаемост на инвестицията си.

За много основатели това би бил щастлив край. Човек би могъл да си почине, да направи крачка назад, да прекара време сам с пари. За Hassabis придобиването на Google беше просто още една стъпка в стремежа му към AGI. Той прекара по-голямата част от 2013 г., договаряйки условията на сделката. DeepMind трябваше да работи отделно от собственика си. Тя трябваше да получи ползите от притежаването на Google, като достъп до паричния поток и изчислителната мощност, без да губи контрол.

Хасабис смята, че DeepMind може да бъде хибрид, със стартиращ двигател, мозъците на най-големите университети и дълбоки джобове на една от най-ценните компании в света. Всяка съставка беше в състояние да ускори пристигането на AGI и да премахне причините за човешкото страдание.

Ху от господин Хасабис

Демис Хасабис е роден в Северен Лондон през 1976 г. в гръцко кипърско и сингапурско китайско семейство. Той беше най-големият от три братя и сестри. Майка му работи в британския универсален магазин Джон Луис, а баща му ръководи магазин за играчки. Самият Хасабис се занимава с шах на четиригодишна възраст, гледайки как баща и чичо си играят. След няколко седмици той вече биеше възрастни. До 13-годишна възраст той става вторият най-добър шахматист в света на своята възраст. На осем години се научи да програмира на обикновен компютър.

Хасабис получава висшето си образование през 1992 г., две години предсрочно. Имам работа като програмист на видео игри в Bullfrog Productions. Hassabis написа Theme Park, в който играчите създават и управляват виртуален увеселителен парк. Играта постигна голям успех и продаде 15 милиона копия, създавайки цял жанр симулационни игри, в които целта не беше да се победи врагът, а да се оптимизира функционирането на огромна сложна система, като бизнес или град.

Освен че създаваше игри, Демис ги играеше добре. Като юноша той се затича между етажите в състезания за настолни игри, докато се състезаваше в двубои от шах, скраб, покер и табла. През 1995 г., докато изучава компютърни науки в Кембриджския университет, Хасабис се състезава в студентския турнир. Go е древна стратегия за настолна игра, която е значително по-трудна от шаха. Майсторството трябва да изисква интуиция, придобита в продължение на дългогодишен опит. Никой не знаеше дали Хасабис някога е играл преди.

Първо, Хасабис спечели турнира за начинаещи. След това той победи победителя от опитните играчи, макар и с хендикап. Чарлз Матюс, майсторът на Кеймбридж, който беше домакин на турнира, припомня шока от това, че е бил унищожен от 19-годишен новобранец. Матюс взе Хасабис под крилото си.

Интелигентността и амбицията на Хасабис винаги са били очевидни в игрите. Игрите от своя страна подбудиха страстта му към интелигентността. Докато наблюдаваше развитието му в шах, той се чудеше дали компютрите могат да бъдат програмирани да учат по същия начин, както той, като натрупа опит. Игрите предлагаха учебна среда, която не беше съобразена с реалния свят. Те бяха строги и затворени. Тъй като игрите са отделни от реалния свят, те могат да се практикуват без намеса и да се научат ефективно. Игрите ускоряват времето: играчите създават синдикат за престъпления за няколко дни и се бият на Somme за няколко минути.

През лятото на 1997 г. Хасабис пътува до Япония. През май същата година компютърът на Deep Blue на IBM победи Гари Каспаров, световен шампион по шах. За първи път компютър победи гросмайстор. Мачът привлече вниманието в световен мащаб и предизвика опасения за нарастващата мощност и потенциалната заплаха за компютрите. Когато Hassabis се срещна с Masahiko Futszuvera, японски майстор на настолни игри, той говори за планове, които биха съчетали интересите му в стратегическите игри и изкуствения интелект: един ден той щеше да разработи компютърна програма, за да победи най-големия играч.

Хасабис подходи към кариерата си методично. „На 20-годишна възраст Хасабис вярваше, че някои неща трябва да бъдат на мястото си, преди изкуственият интелект да стигне до необходимото ниво“, казва Матюс. "Той имаше план."

През 1998 г. основава собствено игрово студио, наречено Elixir. Hassabis се съсредоточи върху една изключително амбициозна игра, Republic: The Revolution, сложна политическа симулация. Няколко години по-рано, докато беше още в училище, Хасабис беше казал на своя приятел Мустафа Сюлейман, че светът се нуждае от грандиозни симулации, за да моделира сложната си динамика и да реши най-сложните социални проблеми. Сега той се опита да го направи в играта.

По-трудно беше да се кодират неговите стремежи от очакваното. Elixir в крайна сметка пусна съкратена версия на играта, за да получи топли отзиви. Другите игри не са успели. През април 2005 г. Хасабис затвори Elixir. Матюс смята, че Hassabis основава компанията просто, за да натрупа опит в управлението. На Хасабис сега му липсваше само една важна област на експертиза, преди да може да започне стремежа си да намери AGI. Трябваше да разбере човешкия мозък.

През 2005 г. Хасабис получава докторска степен по невронауки от University College London. Той публикува силно влиятелно изследване на паметта и въображението. Едно проучване, което оттогава е цитирано над 1000 пъти, показа, че хората с амнезия също трудно си представят нови преживявания, което предполага връзка между запаметяването и умствената образност. Хасабис изгради разбирането на мозъка, необходимо за овладяване на AGI. Голяма част от работата му се свеждаше до един въпрос: как човешкият мозък получава и запазва концепции и знания?

Хасабис официално създаде DeepMind на 15 ноември 2010 г. Декларацията за мисията на компанията беше същата като сега: „решете разузнаването“и след това използвайте това, за да решите всичко останало. Както Хасабис каза на срещата на върха за сингулярността, това означава превеждане на разбирането ни за това как мозъкът изпълнява задачи в софтуер, който може да използва същите методи за преподаване.

Хасабисът в никакъв случай не твърди, че науката е разбрала напълно човешкия ум. Планът за прилагане на AGI беше невъзможно да се научи от стотици невронаучни изследвания. Но той ясно вярва, че е напълно възможно да започне работа по AGI по начина, който му се харесва. Възможно е също така неговата увереност да тръпне в реалността. Все още знаем много малко със сигурност за това как мозъкът действително функционира. През 2018 г. екип от австралийски изследователи постави под въпрос собствените открития на Хасабис. Разбира се, това е само един документ, но показва, че науката, която стои зад работата на DeepMind, далеч не е доказана.

Сюлейман и Шейн Леге, обсебен от AGI новозеландец, когото Хасабис също срещна в университета, се присъединиха като съоснователи. Репутацията на компанията бързо нараства. Хасабисът процъфтява. „Привлича се като магнит“, казва Бен Фолкнер, бивш изпълнителен директор на Deep Mind. Много новобранци идват от Европа. Може би най-голямото постижение на DeepMind беше активното набиране на талантливи хора рано и задържането на най-ярките и най-добрите от тях.

Една от техниките за машинно обучение, върху която компанията се е фокусирала, е израснала от двойната страст на Hassabis към игрите и невронауките: укрепване на обучението. Подобна програма е създадена да събира информация за околната среда и след това да се учи от нея, възпроизвеждайки опита си отново и отново - точно както Хасабис описа мозъчната активност по време на сън в лекцията си на срещата на върха за сингулярността.

Укрепването на обучението започва с чист лист. На програмата е показана виртуална среда, за която тя не знае нищо, освен правилата, като например шахматен симулатор или видео игра. Програмата съдържа поне един компонент, известен като невронна мрежа. Състои се от слоеве от изчислителни структури, които пресяват информация, за да идентифицират специфични характеристики или стратегии. Всеки слой изследва околната среда на собствено ниво на абстракция. В началото тези мрежи имат минимален успех, но техните грешки - и това е важно - също са кодирани в тях. Постепенно те стават все по-умни и умни, експериментират с различни стратегии и получават награди, ако успеят. Ако програмата премести шахматното парче и в резултат на това загуби играта, тя отново няма да направи такава грешка. Голяма част от магията на изкуствения интелект се крие в скоростта, с която той повтаря тези задачи.

Работата на DeepMind достигна своя зенит през 2016 г., когато екипът разработи програма за изкуствен интелект, която използва засилване на обучението заедно с други методи за игра. Програмата, наречена AlphaGo, повдигна вежди, след като победи световния шампион в пет мач в Сеул през 2016 година. Победата на машината, която беше наблюдавана от 280 милиона души, се случи десет години по-рано от предвидените машини. На следващата година подобрена версия на AlphaGo победи китайския шампион Go.

Подобно на Deep Blue през 1997 г., AlphaGo промени възприятието за човешкото постижение. Човешките шампиони, блестящите умове на планетата, вече не стояха на върха на интелектуалната пирамида. Почти 20 години след като Хасабис обяви амбициите си към Фузувере, той ги изпълни. Хасабис каза, че този мач го е докарал до сълзи. Беше благодарен на Матюс.

DeepBlue спечели благодарение на грубата сила и изчислителната скорост, но стилът на AlphaGo изглеждаше артистичен, почти човешки. Неговата елегантност и изтънченост, превъзходството на изчислителната мощ, изглежда показват, че DeepMind изпреварва конкуренцията в създаването на програма, която може да лекува болести и да управлява градовете.

DeepMind и изкуствен интелект

Хасабис винаги е казвал, че DeepMind ще промени света към по-добро. Но няма сигурност за AGI. Ако той някога се появи, не знаем дали ще е за по-добро или за по-лошо, дали ще се подчини на човешки контрол. Ако е така, кой ще държи юздите?

От самото начало Хасабис се опита да защити независимостта на DeepMind. Той винаги настояваше DeepMind да остане в Лондон. Когато Google купи компанията през 2014 г., въпросът с контрола стана по-належащ. Hassabis нямаше нужда да продава DeepMind на Google. С достатъчно пари в ръка той очерта бизнес модел, при който компанията ще разработва игри за финансиране на научни изследвания. Обещаха много пари в Google, но той не искаше да прехвърли компанията, която е набрал. Като част от сделката DeepMind създаде споразумение, което ще попречи на Google едностранно да поеме контрола върху интелектуалната собственост на компанията. През годината, предхождаща придобиването, източници твърдят, че двете страни са подписали споразумение - Споразумението за етика и безопасност. Това споразумение беше изготвено от висши юристи в Лондон.

Споразумението прехвърля контрола върху основната технология AGI DeepMind, ако има такъв, на Управителния съвет по етика. Според същия източник Съветът по етика в никакъв случай не е козметична отстъпка от Google, а предоставя на DeepMind солидна правна подкрепа, за да поддържа контрола върху най-ценната си и потенциално най-опасна технология. Имената на комисарите не са публикувани, но друг източник, близък както до DeepMind, така и до Google, заяви, че и тримата основатели на DeepMind са в борда. Самата компания не разкрива нищо.

Хасабисът може да определи съдбата на DeepMind по други начини. Една от тях е предаността. Служители, бивши и настоящи, казват, че изследователската програма на Hassabis е една от най-големите силни страни на DeepMind. Програмата му, която предлага вълнуваща и важна работа без натиск от академичните среди, привлече стотици най-талантливи експерти в света. DeepMind има филиали в Париж и Алберт. Много служители се чувстват по-свързани с Hassabis и неговата мисия, отколкото с корпоративния си родител, който иска само доходи. Докато Hassabis поддържа лична лоялност, той има значителна власт над единствения си акционер. По-добре да оставите таланта да работи за DeepMind дистанционно, отколкото да се окаже във Facebook или Apple.

DeepMind има друг източник на лост, въпреки че изисква постоянно попълване: благоприятен ореол. Компанията е успяла в това. AlphaGo беше страхотна реклама. След придобиването на Google компанията многократно е произвеждала чудеса, които привличат световното внимание. Един пример за софтуер може да открие модели на сканиране на очите, които са индикатори за макулна дегенерация. Друга програма се научи да играе шах от нулата, използвайки архитектура, подобна на AlphaGo и стана най-големият играч на всички времена след само девет часа игра със себе си. През декември 2018 г. AlphaFold се оказа по-точен от конкурентите при прогнозирането на триизмерната структура на протеини от списък на съединения, които потенциално биха могли да лекуват заболявания като Паркинсон и Алцхаймер.

DeepMind е особено горд с разработените от него алгоритми, които изчисляват най-ефективните решения за охлаждане за центровете за данни на Google, които съдържат приблизително 2,5 милиона компютърни сървъра. През 2016 г. DeepMind заяви, че е намалило сметката за ток от Google с 40%. Но някои инсайдери казват, че тази похвала е прекалена. Google използва алгоритми, за да оптимизира своите центрове за данни много преди DeepMind да се появи. Смята се, че DeepMind надценява своите достойнства, за да придобие стойност в очите на Alphabet. Компанията майка на Google Alphabet плаща DeepMind за подобни услуги. През 2017 г. последният издаде фактура на Alphabet за 54 милиона паунда. Тези числа бледнеят в сравнение с режийните разходи на DeepMind. През същата година тя харчи 200 милиона паунда за персонал. В общи линии,през 2017 г. DeepMind загуби 282 милиона паунда.

Това е стотинка за богат великан. Но други дъщерни дружества на Alphabet привлякоха вниманието на Рут Порат, силния финансов директор на Alphabet. Google Fiber, опит за изграждане на доставчик на интернет услуги, беше спрян, след като стана ясно, че инвестицията ще отнеме десетилетия, за да се изплати. Изследователите на ИИ също се чудят дали DeepMind ще бъде прецакан.

Прогресивното разкриване на напредъка на DeepMind в AI е част от стратегия, която постепенно изгражда репутацията на компанията. Това е особено ценно в момент, когато Google е обвинен в нарушаване на поверителността на потребителите и разпространение на фалшиви новини. DeepMind също има късмета да има привърженик на най-високото ниво: Лари Пейдж, един от двамата основатели на Google, сега изпълнителен директор на Alphabet. Пейдж е много близка до Хасабис. Бащата на Пейдж, Карл, изучава невронните мрежи през 60-те години. В началото на кариерата си Пейдж каза, че е създал Google единствено, за да създаде AI компания.

Близкият контрол на DeepMind с пресата не е в съответствие с академичния дух, който прониква във фирмата. Някои учени се оплакват, че им е трудно да публикуват работата си: те трябва да преодолеят слоевете на вътрешното одобрение, преди дори да могат да изпратят документ на конференция или списание. DeepMind смята, че е необходимо да се действа с повишено внимание, за да не се плаши обществото с перспективата за AGI. Но прекалено грубите обвинения могат да разрушат академичната атмосфера и да отслабят лоялността на служителите.

Пет години след придобиването от Google, въпросът кой контролира DeepMind става критичен. Учредителите и ранните служители на компанията се приближават до прага, когато могат да се оттеглят от финансовата компенсация, получена от покупката на компанията (акциите на Hassabis вероятно са на стойност около 100 милиона паунда). Но източник, близък до компанията, предполага, че Alphabet подтиква плащанията към основателите от няколко години. Предвид неговия неуморен фокус Хасабис едва ли ще скочи от кораба. Той се интересува от парите само дотолкова, доколкото това му помага да достигне целта през целия си живот. Но някои от колегите си напуснаха. Трима инженери от AI са напуснали компанията от началото на 2019 г. Бен Лори, един от най-изтъкнатите инженери по сигурността в света, се завръща в Google. Това със сигурност не е многоНо DeepMind предлага толкова невероятна мисия и прилично заплащане, че никой не трябва да напуска.

Досега Google наистина не притеснява DeepMind. Но едно скорошно развитие предизвика безпокойство за това колко дълго компанията ще може да запази своята независимост.

DeepMind, медицина и изкуствен интелект

DeepMind винаги е планирал да използва AI за подобряване на здравеопазването. През февруари 2016 г. бе създадено ново подразделение на DeepMind Health, ръководено от Мустафа Сюлейман, един от съоснователите на компанията. Сюлейман, чиято майка е медицинска сестра, се надяваше да създаде програма, наречена Потоци, която да предупреди лекарите, когато здравето на пациента се влоши. DeepMind ще бъде възнаграден въз основа на показатели. Тъй като тази работа изискваше достъп до поверителна информация за пациентите, Сюлейман създаде Независима група за преглед (IRP), която набира добри английски здравни и технологични специалисти. DeepMind беше достатъчно мъдър, за да внимава. Впоследствие британският комисар по информацията откри, че един от партньорите в болницата е нарушил закона при обработката на данни за пациенти. До края на 2017 г. обаче Сюлейман е сключил споразумения с четири големи болници.

На 8 ноември 2018 г. Google обяви създаването на собствено здравно подразделение - Google Health. Пет дни по-късно бе обявено, че DeepMind Health ще се присъедини към усилията на компанията-майка. DeepMind не е предупреден. Според информация, получена от заявки за FOI, тя е уведомила само болниците-партньори за промяната три дни предварително. DeepMind отказа да оповести, когато започна обсъждането на сливането, но заяви, че краткото време между предизвестие и публично оповестяване е в интерес на прозрачността. През 2016 г. Сюлейман написа, че „данните за пациентите никога няма да бъдат свързани с акаунти, продукти или услуги на Google“. Изглежда обещанието му беше нарушено.

Приложението на Google разгневи служителите на DeepMind Health. Повече служители планират да напуснат компанията след приключване на процеса на поглъщане, според хора, близки до екипа на здравеопазването.

Този епизод показва, че периферните части на работата на DeepMind са уязвими за Google. DeepMind заяви, че „всички се съгласихме, че има смисъл да се комбинират тези усилия в едно съвместно усилие с увеличени ресурси“. Това поставя въпроса дали Google ще приложи същата логика при работата на DeepMind върху AGI.

В голям мащаб DeepMind направи голям напредък. Тя вече е създала софтуер, който може да се научи да изпълнява задачи на свръхчовешко ниво. Хасабис често се отнася до Breakout, видео игра за конзолата Atari. Играчът контролира бухалка, която може да се движи хоризонтално и с нейна помощ отскача топките, насочвайки ги в блокове по-горе, които се унищожават при сблъсък. Играчът печели, когато всички блокове са унищожени. Загубва, ако топката падне покрай платформата. Без човешки инструкции, DeepMind не само се научи да играе играта, но и да хвърля топки в пространството зад блокове, за да се възползва от отскока. Това демонстрира силата на обучението за подсилване и свръхестествените сили на компютърните програми на DeepMind.

Демонстрацията със сигурност е впечатляваща. Но Хасабис мълчи за нещо. Ако виртуалната платформа бъде повдигната още малко, програмата ще направи грешка. Умението, което DeepMind е придобил, е толкова ограничено, че не може да отговори дори на малки промени в околната среда, които човек може лесно да преодолее. Но в света има много тънкости. За диагностична интелигентност не съществуват два органа на тялото. За механичния интелект два подобни двигателя никога няма да са еднакви в настройката. Следователно пускането на програми в природата е трудно.

Второто, за което DeepMind рядко говори, е, че успехът във виртуалните среди зависи от това да има функция за възнаграждение: сигнал, който позволява на софтуера да измерва своя напредък. Програмата научава, че отскачането от задната стена увеличава резултата му. Голяма част от работата на DeepMind с AlphaGo е да създаде функция за възнаграждение, съвместима с такава сложна игра. За съжаление реалният свят не предлага прости награди. Напредъкът рядко се измерва в отделни точки. Човешкият мозък получава сигнал за успеха на задачата точно в процеса на нейното изпълнение, а не след това.

DeepMind измисли начин да заобиколи това, използвайки огромни количества процесорна мощност. AlphaGo играе игри от хиляди години човешко време, за да научи нещо. Много философи на AI подозират, че това решение е неприемливо за задачи, които предлагат по-слаби награди. DeepMind признава подобни неясноти. Наскоро тя се зае със StarCraft 2, компютърна игра на стратегия. Решенията, взети в началото на играта, имат последствия, които се появяват по-късно, което е доста характерно за мъчителната и закъсняла обратна връзка на реалните проблеми. През януари софтуерът на DeepMind победи някои от най-добрите играчи в света и беше доста впечатляващ, въпреки строгите ограничения. Програмите също започнаха да изследват функциите за награждаване, като следяха отзивите на хората. Но включването на човешки инструкции в цикъл създава риск от загуба на мащаб и скорост.

Както настоящите, така и бившите изследователи от DeepMind и Google, при условие на анонимност, изразиха скептицизъм, че DeepMind ще може да постигне AGI с помощта на такива методи. За тях желанието за постигане на висока производителност в симулирани среди затруднява решаването на проблема с функцията за възнаграждение. И все пак този подход е в основата на DeepMind. Има вътрешна конкуренция в рамките на една компания, в която програми от конкурентни отбори се състезават за надмощие.

Хасабис винаги е гледал на живота като на игра. Голяма част от кариерата му е посветена на правенето им, по-голямата част от свободното му време е прекарвала в тях. В DeepMind той ги използва за разработване на мощен изкуствен интелект. Подобно на своя софтуер, Hassabis се учи от собствен опит. Стремежът към AGI може в крайна сметка да доведе до задънена улица, измисляйки полезна медицинска технология по пътя и надделявайки на най-добрите играчи в своето умение. Но също така може да създаде AGI точно под носа на Google, но извън неговия контрол. И ако успее да го направи, Демис Хасабис ще спечели най-трудната игра от всички.

Иля Кел