В една събота миналия месец петима мъже на възраст между 19 и 26 години уверено излязоха от облак лилав дим на преобразуван автомобилен салон в Сан Франциско. Те седяха на ред компютърни клавиатури и бяха поздравени шумно от тълпа от няколкостотин души. След деветдесет минути интензивни щракания с мишката усмивките на петимата станаха скучни и аплодисментите успокояващи. Team OG, световните шампиони в най-печелившата състезателна игра Dota 2 в света, загубиха две поредни игри от екип от ботове на AI.
Този резултат е забележителен, защото сложните видеоигри са математически по-трудни от настолните игри като шах или движение. И все пак, облегнат на стената зад кулисите, Сам Олтман - главен изпълнителен директор на изследователския институт OpenAI, разработил тези ботове - почувства празник на облекчение.
Изкуствен интелект срещу дотери
„Всички бяхме доста нервни тази сутрин - мислех, че шансовете са 60 до 40“, казва Алтман. Той стана главен изпълнителен директор на OpenAI през март, след като се оттегли от поста на влиятелния стартиращ инкубатор YCombinator. За да успее в новата си роля, Алтман се нуждаеше от ботове, които не само биеха хората във видеоигрите - той се нуждаеше от ботове, които във всичко бяха по-добри от хората.
Заявената мисия на OpenAI е да гарантира, че всеки бъдещ ИИ, който може да превъзхожда „хората на най-рентабилната работа“, е от полза за цялото човечество. Такива технологии - общ изкуствен интелект, "силен" изкуствен интелект или AGI - все още не са на хоризонта, но OpenAI твърди, че и той, и другите бързо напредват. Организацията показа, че може да провежда изследвания на ниво най-добрите в света. И тя е спечелила обвинения в раздухване на AI шумотевицата, както и за фиксиране на AGI и потенциални заплахи за AI.
Планът на Алтман е, че изследванията на OpenAI - и провокациите - трябва да се ускоряват. Бившият председател на борда на директорите на организацията, той пое поста главен изпълнителен директор, след като помогна за преместването на по-голямата част от персонала с нестопанска цел в нова търговска компания, надявайки се да привлече инвеститори с милиарди, необходими за формирането на съдбата на AI и човечеството. Altman казва, че големите технологични лаборатории в Alphabet и на други места трябва да бъдат под натиск от колеги, които не искат да увеличат стойността на акционерите си. „Не искам да съм в свят, в който AGI се създава от една компания, грабвайки цялата й стойност и вземайки всички решения“, казва той.
Промоционално видео:
На събитие в Масачузетския технологичен институт в края на 2014 г. изпълнителният директор на Tesla Илон Мъск описа изследванията на ИИ като опит за „призоваване на демон“. През лятото на 2015 г. той разговаря с Altman и няколко други по време на вечеря и предложи да се създаде изследователска лаборатория, независима от технологичния сегмент, която да насочи AI в положителна посока. През същата година е създаден OpenAI, в който се озовават Altman и Musk. В началото на 2018 г. Мъск напусна съвета на директорите, като се позова на потенциални конфликти с другите си роли.
По време на своя кратък живот OpenAI се позиционира като сериозно място за изследване на ИИ. Иля Суцкевер, съосновател на организацията, който се оттегли от ръководната позиция в областта на изкуствения интелект в Google, ръководи персонал, който включва бивши служители от Google, Facebook, Microsoft и Intel. Тяхната работа по роботика и машинно обучение се появи на най-престижните конференции. Победата над Team OG в Dota 2 им спечели уважение в областта на AI и игрите.
Трансформацията на OpenAI в търговска корпорация се движеше от усещането, че за да бъде в крак с гиганти като Alphabet, ще е необходим достъп до постоянно нарастващи изчислителни ресурси. През 2015 г. OpenAI заяви, че има 1 милиард долара в брой от Altman, Musk, съоснователя на LinkedIn Reid Hoffman, ранния инвеститор във Facebook Peter Thiel и Amazon. Сега Олтман казва, че един милиард няма да е достатъчен. „Сумата, която ни е необходима, за да направим мисията успешна, е много повече, отколкото си мислех“, казва той.
Декларациите от IRS показват, че през 2017 г., когато OpenAI разкрива първата си бот дота, е похарчил 8 милиона долара за изчисления в облак. Оттогава разходите й вероятно са се увеличили значително. През 2018 г. OpenAI обяви, че предшественикът на системата, която побеждава OG, свързва над 120 000 процесора, наети от облачното подразделение на Google за период от седмици. Спечелената от шампиони версия тренира 10 месеца, еквивалентно на 45 000 години игра на Dota 2 срещу себе си. Колко струваше? Грег Брокман, главен технически директор на OpenAI, казва, че проектът е влязъл в "милиони долари", но не разкри подробности.
Altman не е убеден, че OpenAI ще продължи да разчита на конкурентни облачни услуги - все още е отворен за закупуване или дори разработване на AI хардуер. Организацията следи отблизо нови чипове, разработени от Google и множество стартиращи компании, за да изтласкат още повече алгоритмите за машинно обучение.
За да събере средствата, необходими за достъп до бъдещо оборудване, Altman се опита да продаде идеята на инвеститорите в схема, която би била дива дори в Силициевата долина. Инвестирайте в OpenAI, изчакайте и компанията ще върне инвестицията ви стократно - веднага щом изобрети роботи, които превъзхождат хората в най-ценните икономически задачи.
Олтман казва, че отговарянето на тези очаквания е „най-интересният опит за набиране на средства в живота ми - няма да се побере на нито един друг модел“. Най-големият интерес, казва той, е от богатите хора, които се интересуват от AI. Хофман и фирмата за рисков капитал Khosla Ventures инвестираха в нов търговски OpenAI, но не отговориха на исканията за коментар. Никой не казва кога да очаква възстановяване на сумата, но залагането на OpenAI не е за нетърпеливите. На компаниите се казва, че времето им на възстановяване може да надхвърли индустриалния стандарт (десет години). „Веднага им казваме, че няма да получавате средства през следващите 10 години“, казва Алтман.
Въпреки най-добрите си усилия, OpenAI често е критикуван от лидерите в бранша. През февруари компанията разкри подробности за софтуера за обработка на езици, който можеше да генерира изненадващо жив текст. Някои веднага нарекоха изобретението „опасно“и изразиха опасения, че то може да се използва по вреден начин, за да затрупа социалните мрежи.
Няколко видни хора в областта на изследванията на ИИ бяха раздразнени, включително шефът на ИИ на Facebook Ян Лекун. В публикациите си във Facebook той защити откритата публикация на изследванията за ИИ и се пошегува, че хората трябва да спрат да имат деца, защото един ден те ще публикуват фалшиви новини.
За някои този епизод подчерта, че мисията на OpenAI не се различава много от другите корпоративни или академични лаборатории. „Те правят, дават или взимат същите изследвания като останалите, но искат да съберат милиарди долари“, казва Захари Липтън, професор по машинно обучение в университета Карнеги Мелън. "Единственият начин да го направите е да изкривите малко сърцето си."
Altman признава, че OpenAI може би е алармирал твърде рано, но казва, че е по-добре, отколкото да закъснее. „Технологичната индустрия не е свършила много добра работа, опитвайки се да бъде проактивна по отношение на злоупотребите“, казва той. Самоцензурата се изисква от самия OpenAI.
След поражението на OG миналия месец, за да покаже съчувствие, OpenAI реши да проведе втори експеримент, за да демонстрира добрата страна на свръхчовешкия AI. Експерти от Dota 2 и няколко начинаещи играха в отбори заедно с ботове.
Софтуерът, достатъчно нещастен, за да се превърне в съотборници на noobs, в по-голямата си част показа свръхчовешко безразличие към помощта на начинаещия играч. Вместо това се фокусира върху победата, следвайки инстинктите, усъвършенствани от месеци скъпо обучение.
Никой не знае как да направи силно фокусирания ИИ по-гъвкав или какви компоненти може да са необходими, за да направят AGI нещо повече от технологична фантазия. Дори Altman е уплашен от мащаба на проблема. „Имам дни, в които вярвам, че всичко това ще се случи, и дни, когато всичко изглежда като мечта на лула“, казва той.
Какво мислите, ще успее ли?
Иля Хел