Политиците и капиталистите имат традиция в петък следобед да изхвърлят много новини, за да крият лошите новини сред тях. Така че беше малко странно, че Елон Мъск, основател на Tesla, производител на електрически превозни средства, и Сам Алтман, президент на известния технически инкубатор Y Combinator, представиха новата си компания с тематична AI в края на седмичната конференция AI в Монреал миналия декември.
Имаше причина за въвеждането на OpenAI в толкова късен час. Не защото никой не гледаше. Защото всички гледаха. Когато някои от най-мощните компании в Силиконовата долина усетиха, че вятърът духа, те започнаха да предлагат огромни суми пари на новоиздигнатия талант на OpenAI AI, за да поддържат тези гении у дома. В последния момент предложенията - някои направени на самата конференция - станаха толкова големи, че Мъск и Алтман трябваше да забавят обявяването на новия стартъп. „Сумите достигнаха ръба на безумието“, казва Войчех Заремба, учен, който се присъедини към OpenAI след стажове в Google и Facebook и беше сред онези, които получиха основни оферти в 23:00.
Колко долара е границата на лудостта? Преди две години, тъй като пазарът на най-новите технологии за машинно обучение започна да се загрява, вицепрезидентът на Microsoft Research Peter Питър Лий заяви, че цената на най-добрите изследователи на AI е надвишила цената на най-добрия защитник в Националната футболна лига - и това е при нормални обстоятелства, а не когато най-големите предприемачи Силиконовата долина се опитва да браконира най-добрия талант. Zaremba казва, че когато OpenAI се събраха, му бяха предложени два до три пъти по-голяма от пазарната му стойност.
OpenAI не отговаря на тези предложения. Но той предложи нещо различно: способността да се правят изследвания, фокусирани изключително върху бъдещето, а не върху продуктите и печалбите на тримесечие, и в крайна сметка да раздели повечето - ако не всички - на изследванията сред желаещите. Точно така: Мъск, Алтман и компания си поставят за цел да раздадат това, което може да бъде най-трансформиращата технология на 21 век и да го раздадат безплатно.
Заремба казва, че предложенията на ръба на безумието всъщност го отблъскват - въпреки огромното уважение към компании като Google и Facebook. Той почувства, че парите се насочват, за да се предотврати създаването на OpenAI, което допълнително засили ангажимента му към щедър стартъп. „Разбрах - казва Заремба -„ OpenAI е най-доброто място за мен. “
Чувствате ли иронията в основата на тази история? Докато най-големите технологични компании в света се опитват да задържат изследователите си толкова силно, колкото екипите на NFL се опитват да запазят своите звездни отстъпки, самите изследователи просто искат да споделят своите виждания. В сложния свят на AI изследванията, най-ярките умове се движат не само от следващия продуктов цикъл или печалба, или изобщо не са обсебени от тях. Те искат да направят AI по-добър и е невъзможно да направят AI по-добър, когато държите най-новите си разработки за себе си.
Наскоро OpenAI пусна първата партида софтуер AI, инструментариум за създаване на системи за изкуствен интелект, базирани на технология, наречена усилване на обучение, една от ключовите технологии, довела до създаването на AlphaGo, AI на Google, който изненада света със своите възможности. отидете на игри. С този набор от инструменти можете да изградите системи, които да отворят ново поколение роботи, да играете Atari игри и да, да победите световните шампиони в Go.
Промоционално видео:
Но играчките са само началото. OpenAI е мисия за милиард долара, за да изтласка AI, доколкото е възможно. По начина, по който компанията се събра и какви са нейните планове, можете да видите следващата нова вълна от иновации. Все още не знаем дали OpenAI ще бъде основният двигател на тези промени. Но силите, които стоят зад създаването на този доста необичаен стартъп, показват, че следващото поколение AI ще промени не само технологията, но и начина, по който работи.
Изкуственият интелект е навсякъде
Силиконовата долина има страст към преувеличение. Дръзките звучащи изявления винаги трябва да бъдат посрещнати със зърно сол. Но в областта на изкуствения интелект промените наистина се случват. Вътре в компании като Google и Facebook технологиите за дълбоко обучение вече помагат на интернет услугите да идентифицират лица на снимките, да разпознават гласови команди на смартфони и да отговарят на запитвания при интернет търсения. И същата тази технология би могла да реши много други проблеми в бъдеще. Това може да помогне на машините да се научат да разбират естествения език - който ние хората сме свикнали да говорим и пишем. Може да помогне за разработването на нова порода роботи, да позволи на автоматите не само да изпълняват задачите си, но и да учат в движение. А някои вярват, че това в крайна сметка ще даде на машините нещо като здрав разум - способността да мислят наистина като човек.
И заедно с подобни обещания се ражда дълбока тревожност. Мъск и Алтман са загрижени, че ако хората могат да създадат ИИ, които правят страхотни неща, те могат да създадат ИИ, които правят ужасни неща. Те не са сами в страховете си. Въпреки че това може да изглежда контраинтуитивно, Мъск и Алтман също смятат, че най-добрият начин за борба със злонамерения ИИ е не ограничаването на достъпа до изкуствен интелект, а разширяването му. Именно този стремеж води към екип от млади и интелигентни идеалисти.
OpenAI се появи една вечер миналото лято в частна стая в хотел Rosewood в Силиконовата долина, висок градски хотел, който буквално се намира в центъра на рисковия капиталистически свят. Елон Мъск обядваше с Иля Суцкевър, който тогава беше в Google Brain, компания, която развива дълбоки невронни мрежи - системи за изкуствен интелект, които могат да бъдат обучени за изпълнение на задачи чрез анализ на огромно количество цифрови данни, включително разпознаване на снимки и писане на имейли, учене от кореспонденция. Suckever беше един от водещите разработчици на проекта.
Иля Суцкевър
Сам Алтман, чийто Y Combinator помогна за формирането на компании като Airbnb, Dropbox и Coinbase, организира срещата, като събра няколко изследователи от AI и млад, но опитен строител на компанията Грег Брокман, бивш главен технологичен директор в стартиращ Stripe, друга компания Y Combinator. Това беше еклектична група. Но всички имаха цел: да създадат нов тип AI лаборатория, която да работи извън контрола не само на Google, но и на всички останали. "Най-доброто нещо, което бих могъл да си представя като предизвикателство", казва Брокман, "е да придвижа човечеството към създаването на истински ИИ по безопасен път."
Мъск беше там заради дългото си приятелство с Алтман - и защото AI е от решаващо значение за бъдещето на различните му начинания и за бъдещето като цяло. Tesla се нуждае от AI, ако иска да изгражда самостоятелно управлявани автомобили. SpaceX, друга от компаниите на Мъск, се нуждае от AI, за да изведе хората в космоса и да ги поддържа безопасни и здрави там. Но Мъск е и един от първите (и най-силните), които предупреждават, че един ден човечеството може да загуби контрол над системите, които са достатъчно мощни, за да се научат сами.
Имаше проблем: доста хора, достатъчно квалифицирани, за да разрешат всички тези проблеми, които вече са работили в Google (както и в Microsoft, Facebook, Baidu и Twitter). И никой на тази вечеря не беше напълно сигурен, че тези изследователи могат да бъдат примамени в нов стартъп, дори ако Мъск и Алтман стоят зад него. И поне един ключов играч беше готов да напусне кораба. „Разбрах рисковете, казва Суквър,„ но също знаех, че ще е интересно да опитам. “
Разчупете кръга
Окуражен от разговори с Мъск, Алтман и други в Розуд, Брокман скоро решил да построи лабораторията, която всички имат предвид. Със силен ангажимент към проекта той докара Йошуа Бенджо, учен от Монреалския университет и един от основателите на движението за дълбоко обучение. Други двама пионери в индустрията - Джеф Хинтън и Ян Лекун, работят съответно в Google и Facebook, но Бенджо се стреми към живот в академичния свят, някъде извън обсега на индустриалните пипала. Той очерта списък на най-добрите изследователи в тази област и през следващите няколко седмици Брокман се свърза с всички, които може, включително с няколко други.
Много от тези изследователи приветстваха идеята, но бяха предпазливи от възможността за подобен скок. В опит да разбие кръга, Брокман избра десетте изследователи, които искаше да види най-много, и ги покани да прекарат съботата с вино, закуски и разговор във винарска изба в Напа Вали. За Брокман дори пътуването до Напа беше катализаторът на проекта. „Това е недооценен начин за обединяване на хората, особено в моменти, когато няма къде да бързате да постигнете целта си“, казва той. "Трябва да отидете там, но също така трябва да говорите." И когато стигнаха до виното, тази атмосфера остана. Както казва Suckever, "виното беше второстепенно в разговора".
Грег Брокман
До края на деня Брокман покани всичките десет изследователи да се присъединят към лабораторията и им даде три седмици за размисъл. В края на мандата девет бяха командващи. И те останаха в него, въпреки големите предложения от гигантите от Силиконовата долина. „Получих много привлекателна оферта да остана, така че решението не беше лесно“, казва Suckever от Google, бившият му работодател. "Най-накрая реших да отида на OpenAI, отчасти заради много силната група хора и, разбира се, най-вече заради тяхната мисия."
Движението за дълбоко обучение започна в академичните среди. Едва наскоро компании като Google, Microsoft и Facebook решиха да се заемат с тази област, тъй като напредъкът в грубата изчислителна мощ превърна тези дълбоки невронни мрежи в реалност, а не просто теоретична възможност. Хора като Hinton и LeCune са напуснали академични среди в Google и Facebook заради огромните ресурси в тези компании. Но остана тясно свързан в сътрудничество с други теоретици в областта. И все пак, както обяснява LeCun, задълбочените научни изследвания изискват свободен поток от идеи. "Когато правите изследвания тайно", казва той, "падате назад".
В резултат на това големите компании имат на разположение голяма част от своите AI изследвания. Това е основен коз, особено за Google, който отдавна пази технологията на своята онлайн империя в тайна. Не толкова отдавна Google отвори изходния код за софтуерния двигател, който управлява нейронните си мрежи. Но много остава под ключ и в това състезание за бъдещето. Брокман, Алтман и Мъск се стремят да прокарат понятието откритост още повече, като казват, че не искат една или две големи корпорации да контролират бъдещето на изкуствения интелект.
Граници на откритост
Всичко звучи страхотно. Но за целия идеализъм на OpenAI, изследователите може да се окажат в същите условия, които ги принуждават да работят върху стари работни места. Отвореността има своите граници. И дългосрочната визия на AI не е единственият интерес към тази игра. OpenAI не прави благотворителна дейност. Компаниите на Мъск ще се възползват много от работата на стартиращия, както и Y Combinator на Altman. „Със сигурност има някои конкурентни точки“, казва Лекун. - Това е организация с нестопанска цел, но има близки отношения с Y Combinator. И на хората ще им се плаща да работят в този бранш “.
Лабораторията не плаща същите астрономически заплати, които Google и Facebook предоставиха на изследователите на AI, каза Брокман. Но той също така казва, че лабораторията „иска да им плаща добре“и предлага компенсация под формата на акции, първо в Y Combinator, а по-късно вероятно и в SpaceX (което за разлика от Tesla е частна компания).
Независимо от това, Брокман настоява, че OpenAI не предвижда специално третиране на свързани компании. OpenAI е изследователска инициатива, а не консултантска фирма. И все пак идеализмът на OpenAI има своите ограничения. Компанията може да не отвори кода за всичко, което произвежда, въпреки че все пак крайната цел е да се разпространи по-голямата част от него, независимо дали става въпрос за научни документи или интернет услуги. „Отварянето не е непременно най-добрият вариант. Трябва да подхранвате идеята, да видите къде води и след това да публикувате, казва Брокман. - Ще произвеждаме много отворен код. Но също така ще имаме много неща, които все още не са готови за пускане."
Suzkever добавя също, че OpenAI може да стигне до патентоване на част от своята работа. „Няма скоро да патентоваме нищо“, казва Брокман. "Но ние сме готови да променим тактиката в дългосрочен план, ако мислим, че ще бъде по-добре за света." Например, OpenAI може да направи проактивен патент, за да възпрепятства другите да получават патенти.
Някои могат да видят патентите като мотив за печалба. Но това е цялата същност на патентите.
Проблемът със свръх разузнаването
Когато Мъск и Алтман представиха OpenAI, те също очертаха проекта като начин за неутрализиране на заплахата от злонамерено свръх разузнаване. Разбира се, подобна суперинтелигентност може да бъде резултат от работата на OpenAI, но те настояват, че всяка заплаха ще бъде смекчена, като технологията е достъпна за всички. „Смятаме, че е много по-вероятно множество ИИ да спрат случайни лоши актьори“, казва Алтман.
Но не всички в тази област вярват в такъв резултат. Ник Бостром, философ от Оксфорд, който подобно на Мъск предупреждаваше за опасностите от AI, посочва, че ако споделите изследванията си без ограничения, „лошите актьори“могат да ги хванат, преди всички да са сигурни, че са в безопасност. "Ако имате бутон, който прави лайна по света", казва Бостром, "вероятно не искате да дадете на всички достъп до него." Ако, от друга страна, OpenAI реши да възпрепятства изследванията, за да не допусне лошите хора до него, Bostrom пита: как това ще се различава от Google или Facebook?
Той казва „да“, статутът на OpenAI с нестопанска цел може или не може да промени нещата. Реалната сила на проекта, според него, е, че той може да бъде проверен от Google и Facebook. „Ще бъде в състояние да намали вероятността свръх разузнаването да бъде монополизирано. Той ще бъде в състояние да премахне една от възможните причини, поради които някои хора или групи ще имат достъп до по-добър ИИ от всички останали."
В скорошна работа философът обяснява, че основният ефект на инициатива като OpenAI - инициатива за свободно споделяне на направеното - е да се ускори напредъкът на изкуствения интелект, поне в краткосрочен план. И може да ускори напредъка в дългосрочен план, при условие че се поддържа по-високо ниво на прозрачност, отколкото би било търговско оптимално.
„Може да се окаже, че финантропично мотивираният инвеститор в научноизследователска и развойна дейност може сериозно да ускори напредъка, като следва политики за отворена наука“, казва той.
Как Xerox PARC
В началото на януари девет от изследователите на Брокман се събраха в апартамента му в Сан Франциско. Проектът беше толкова нов, че дори нямаха бели дъски. (Представете си.) Купиха няколко същия ден и се заеха да работят.
Брокман казва, че OpenAI ще започне с проучване на усилването на обучението, на машинен начин за учене на проблеми, като ги повтаря отново и отново, проследявайки кои методи дават най-добри резултати. Друго голямо предизвикателство е така нареченото „неподдържано обучение“- създаването на машини, които наистина могат да се самообучават без човешка помощ. Днес дълбокото обучение зависи от внимателно етикетирани данни. Ако искате да научите невронна мрежа да разпознава снимки на котки, трябва да я подхранвате с определен брой примери - и тези примери трябва да бъдат етикетирани като снимки с котки. Такова обучение се провежда с помощта на хора. Но като много други учени, OpenAI планира да изгради невронни мрежи, които могат да се учат без внимателен подбор на данни.
„Ако имате наистина добра методика на преподаване без учител, машините могат да се поучат от всички знания в Интернет - като човек, просто оглеждайки се - или като четете книги“, казва Брокман.
Той вижда OpenAI като модерно въплъщение на Xerox PARC, лаборатория за технологични изследвания, съществуваща през 70-те години. Точно както откритите и безплатни изследвания на PARC пораждат всичко - от графични потребителски интерфейси и лазерен печат до обектно-ориентирано програмиране, Брокман и неговият екип искат да се потопят в това, което преди е било научна фантастика. PARC беше собственост на Xerox, но се храни от ръцете на много други компании, включително Apple, тъй като хора като Стив Джобс приветстваха изследванията му. Брокман иска всички да приветстват изследванията на OpenAI.
Надявайки се да стимулират тази динамика, Брокман и компания наеха няколко други забележителни изследователи, включително Иън Гудфелоу, друг старши научен учен от екипа на Google Brain. Брокман казва, че ПАРК в общи линии има куп умни хора и реши да види какво се е случило. „Имате нужда от споделена визия без централен контрол.“
Липсата на контрол е от съществено значение за идеала. Ако вкарате достатъчно хора в колективната цел, крайният резултат ще спечели всичко, което тайно сте сготвили. Но ако AI стане толкова мощен, колкото е обещано, уравнението ще се промени. Нуждаем се от увереност, че новосъздаденият AI ще се придържа към същите егалитарни идеали, довели до създаването му на първо място. Мъск, Алтман и Брокман вярват в хората, в тълпата. И ако се окажат правилни, един ден тази тълпа няма да бъде напълно човешка.
ИЛЯ КХЕЛ