Загрижен за развитието на изкуствения интелект, създаден от него, Google разработва "бутон", който може да изключи AI в случай на опасност и заплаха за човек. Тази новина, разпространена от репортери през юни 2016 г., добави гориво за безпокойство относно бъдещите взаимоотношения между роботи и хора.
През 2016 г. авторитетните западни публикации съобщават, че Google разработва "голям червен бутон", предназначен да спре ИИ в случай, че изкуственият интелект заплашва човечеството. Според журналисти, за това специалисти от подразделението Google - Deep Mind - са се обединили с учени от Оксфордския университет. 400 милиона паунда са отпуснати за изследвания. „Ако агентът (AI) работи в реално време под човешки контрол, операторът се нуждае от голям червен бутон, който може да бъде натиснат, за да предотврати нежелани действия от агента“, обясняват онлайн публикациите.
По-рано, наистина, в интернет беше публикуван документ, озаглавен „Безопасно прекъсваеми агенти“. Нейни автори са Лорън Орсо от Deep Mind и Стюарт Армстронг от Оксфордския университет. Документът описва възможно бъдещо съседство на хора с изкуствен интелект, противопоставящи се на желанията и стремежите на човечеството като фантастичния Skynet и Terminator. Това не изглежда лудо като се има предвид, че не толкова отдавна най-старата и най-голяма американска адвокатска кантора Baker & Hostetler „нае“адвокат-робот, който да помогне в производството. Изкуственият интелект се захранва от суперкомпютъра на IBM Watson. Що се отнася до Deep Mind, по-рано истинският герой на новините беше изкуственият интелект, разработен от компанията Alpha Go, който победи един от най-силните играчи на Go, Grandmaster Lee Sedol. Тази победа беше причината за резкия тласък на Южна Корея в развитието на собствения й изкуствен интелект и отпускането на значителни средства от бюджета за това. Трябва да се добави, че ръководителят на Deep Mind Демис Хасабис призова хората да внимават за информацията, която се предоставя на обществеността. В своя акаунт в Twitter той отбеляза, че въпреки слуховете, които бродят в Интернет, компанията все още не прогнозира бъдещето на изкуствения интелект на Alpha Go. "Докато решим, ще направим официално изявление", обясни ръководителят на компанията.компанията все още не прогнозира бъдещето на изкуствения интелект Alpha Go. "Докато решим, ще направим официално изявление", обясни ръководителят на компанията.компанията все още не прогнозира бъдещето на изкуствения интелект Alpha Go. "Докато решим, ще направим официално изявление", обясни ръководителят на компанията.
Европейски шампион Fan Hui играе go / wikipedia.
Илон Мъск: "Вече сме киборги"
Загрижеността за предстоящите усложнения във връзката между роботи и хора нараства. Нещо повече, главните привърженици на научния и технологичен прогрес говорят за това безпокойство. Например Елон Мъск, който през август 2014 г. обяви, че технологията за изкуствен интелект е „по-опасна от ядрените оръжия“. И няколко месеца по-късно, говорейки пред студенти в Масачузетския технологичен институт, създателят на Tesla и SpaceX нарече AI „най-голямата заплаха за нашето съществуване“. В същото време до края на 2015 г. самият Мъск е съосновател на изследователската компания с нестопанска цел OpenAI, обяснявайки целта си с необходимостта от отваряне на процеса на създаване на изкуствен интелект. „Ако имате„ бутон “, който може да направи лоши неща в света, не искате да го споделяте“, обясни Мъск.
В края на май 2016 г., говорейки на годишната конференция Recode, Елон Мъск говори за определен проект или може би просто идеята за „невронна дантела“, която би трябвало да намали риска от човечеството да се превърне в любима играчка в железните ръце на роботи. „Например имате лимбичната система, мозъчната кора и това е третата система, цифров слой, който работи добре с тялото ви. Както мозъкът работи в симбиоза с лимбичната система, така този дигитален слой ще работи в хармония с останалата част от тялото”, каза Мъск. Тази неврална система трябва да повиши нивото на приемане и предаване на информация от човек, способността да я обработва. „Вече сме киборги“, каза Мъск и обясни, че Интернет, мобилните телефони и други джаджи всъщност са развили суперсили у хората. „Но ние сме ограничени в получаването и предаването на информация. Особено в програмата ",Муск добави. Хората са в състояние да получават и интерпретират доста голям обем информация, но генерирането на тази информация е много по-трудно. Човек може да говори само бързо, да пише бързо или да пише. „Невронна дантела“чрез свързване на човек към цифрова комуникационна система може да преодолее това биологично ограничение. Мъск не е уточнил дали тази "дантела" ще бъде имплантирана в тялото или ще се отглежда по естествен начин, например чрез редактиране на ген, но отбеляза, че може да премине "през вените и артериите", които осигуряват пътища за невроните.може да преодолее това биологично ограничение. Мъск не е уточнил дали тази "дантела" ще бъде имплантирана в тялото или ще се отглежда по естествен начин, например чрез редактиране на ген, но отбеляза, че може да премине "през вените и артериите", които осигуряват пътища за невроните.може да преодолее това биологично ограничение. Мъск не е уточнил дали тази "дантела" ще бъде имплантирана в тялото или ще се отглежда по естествен начин, например чрез редактиране на ген, но отбеляза, че може да премине "през вените и артериите", които осигуряват пътища за невроните.
Промоционално видео:
Съществува обаче и противоположна гледна точка. Председателят на съвета на директорите на Alphabet (Google) Ерик Шмид в интервю за Tech Insider беше скептично настроен към изказванията на Илон Мъск и неговия колега Стивън Хокинг, който също преди това предупреди за възможната хегемония на AI. „Стивън Хокинг със сигурност е гений, но не е компютърен експерт. Илон също е прекрасен човек, но е и физик, а не компютърен учен “, каза Шмит. Относно потенциалния сценарий на бъдещето, при който роботите унищожават човечеството, той заяви следното: „Такъв сценарий просто описва сценария, при който компютрите стават толкова умни, че в един момент, поради, да речем, грешка в програмата, те решават да унищожат човечеството. Въпросът ми към вас е следният: не мислите личе хората ще забележат това и ще започнат да изключват компютрите? Ще имаме състезание между хора, които изключват компютрите и AI неистово се опитват да се преместят в устройство, което все още не е изключено. И така до последния компютър. И ние не можем да го изключим. Това е филм, филм. Сегашното състояние на нещата в света не подкрепя подобен сценарий “.
Мащабна роботизация
Нийл Якобщайн, съпредседател на Университета за сингулярност на НАСА, заяви пред PCmag, че глобалните компании са инвестирали повече от 3 милиарда долара в изследвания на AI между 2011 и 2015 година. Освен големи инвеститори, включително Facebook и Google, има и редица по-малко известни стартъпи. Например, Brighterion се занимава с използването на изкуствен интелект в облачния анализ и индустриалния IoT, Feedzai обучава роботи за откриване на измами при банкови транзакции, Експеримент използва AI за ефективно решаване на бизнес проблеми на търговците и т.н. Тоест, мащабът на развитие на изкуствения интелект в света вече не се ограничава до десетина основни играчи на ИТ пазара - той е много по-голям. В интервюто си Якобщайн по същество продължи мисълта на Мъск,също настоява за необходимостта от развитие на човешкия мозък за противодействие на синтетичния. „Всички имаме едни и същи проблеми. Мозъкът е ограничен в бързината, паметта, честотната лента и пристрастията “, казва Нийл Якобщайн.
Според учения тенденцията в развитието на AI сега се движи към създаването на изкуствен неокортекс (нова кора, която съставлява по-голямата част от кората при хората, за разлика от по-ниските бозайници) и хипокампуса. Така мозъкът на робота ще бъде като човек, само много пъти по-мощен и по-бърз. „ИИ става все по-мощен и трябва да решим как ще се държим в рамките на продължаващата съвместна еволюция. Както по отношение на задачите, които си поставяме за изкуствен интелект, така и по отношение на това как искаме да изградим отношенията си, без да губим човешкото самочувствие “, обясни Якобщайн. Според учения първоначално взаимодействието на хората и роботите ще бъде "елитен процес", но след това ще навлезе в ежедневието, както някога са го правили мобилните телефони. „Чрез смартфон мозъкът ви получава достъп до всички знания за света и мощен изкуствен интелект,обработка на цифрова информация. Вече имате симбиоза с AI “, заключи Якобщайн.
Плът от плът
Може обаче да се окаже, че заплахата за човечеството ще идва не от множество жлези и проводници, а от органична „плът от плът“. В края на май 2016 г. световната научна общност беше заинтригувана от миналата „тайна среща в Харвард“, участниците в която искат да създадат изкуствен човешки геном и съответно самият човек от нулата. Подробностите на срещата на страниците на Live Science разказа възпитаник на Харвардския университет, молекулярно биолог, специализиран в редактирането на гени, Джеф Бесен. Както се оказа, ние не говорим за някакво деца на Франкенщайн. Повече от 130 учени, индустриалци и етици се събраха в Харвард, за да обсъдят проекта за човешкия геном (HGP). Името всъщност е препратка към подобен проект, т.е.в резултат на което през 2003 г. беше възможно напълно да се секвенира човешкият геном. Този проект започва през 1990 г. под ръководството на Джеймс Уотсън под егидата на Националната здравна организация на САЩ, а целта му е да се определи последователността от нуклеотиди, съставляващи ДНК и да се идентифицират 20-25 хиляди гена в човешкия геном.
Създаването на генома има своя история. През 2010 г. американският биолог Джон Крейг Вентър дешифрира първия геном на микроорганизъм - бактерията Haemophilus influenzae - и обяви създаването на изкуствена клетка. Вентер представи първия в света изкуствен организъм, синтетична бактерия на име Синтия. Оттогава учените систематично се опитват да напредват в научните изследвания, включително организатора на срещата в Харвард - американския генетик Джеф Букет, който е първият, който създаде функционална еукариотна хромозома, съдържаща се в дрождите.
Такава работа обаче идва на цена. Създаването на синтетична бактерия за същия Venter струва повече от 40 милиона долара и отне години на работа. Експертите смятат, че при сегашните условия производството на един човешки геном ще струва около 90 милиона долара. Ако обаче бизнесът бъде „пуснат на поток” и се прилагат доказаните технологии, до 2036 г. тази сума може да бъде намалена до 100 хиляди долара. Освен това има и индустриален проблем - капацитетът на всички лаборатории, работещи в света, според Джеф Бесен, днес не е достатъчен за създаването на един човешки геном.
От учене до създаване
Както отбелязва Джеф Бесен, по време на срещата в Харвард учените призоваха за преминаване от четенето на генома към създаването му от градивните елементи на ДНК. Както са замислени от ръководителите на HGP, включително генетикът Джордж Чърч, неговият американски колега Джеф Букет и адвокат по биотехнологии от Autodesk Нанси Кели, е възможно „напълно да се синтезира човешкият геном в клетъчна линия“. Процесът на създаване на изкуствена ДНК, според Джеф Бесен, е подобен на процеса на офсетов печат - основното е да поставите всичко в правилния ред. Резултатът е химически идентичен с естествената макромолекула. Световният пазар на синтезирана ДНК (говорим за съществуващото създаване на отделни ДНК елементи, а не за пълен геном) сега се оценява на около милиард долара годишно. Изкуствената макромолекула има практически приложения:това е отглеждането на човешки органи за трансплантация, създаването на имунитет срещу вируси, онкологични заболявания, създаването на нови лекарства и т.н. Присъстващите в Харвард изразиха надежда, че тяхната работа ще помогне „да се развие по-безопасна, по-евтина и по-ефективна терапия“.
Тайният ореол около тази среща може да бъде лесно обяснен: проектът е достатъчно сложен в етичен план и не се знае как идеите на учените ще бъдат възприети от широката общественост. По-специално, сега организаторите всъщност са наложили вето на всякакви коментари относно срещата преди официалното публикуване на резултатите от срещата.
Има наистина много въпроси за HGP. "Колко добре ще бъде да се изследва и след това да се създаде генома на Айнщайн?" - Зашеметен биоинженер от Станфорд Дрю Анди. Д-р Чърч и биоинженерът Анди, между другото, работят заедно отдавна - заедно създадоха компанията Gen9, чиято специализация е ясна от името. Някои експерти смятат, че участието на бизнесмени в срещата и предполагаемото частно финансиране на проекта в крайна сметка ще доведе до "приватизация на технологията за генетична модификация". Предполага се също, че изследователите излюпват подземни планове за клониране на хора, използвайки синтетична ДНК. Според Джеф Бесен химическото производство на човешкия геном - колекцията от генетични инструкции, съдържащи се във всяка клетка - наистина може да даде ново значение на термина "бебешка пробирка". „Ако съществуваше такава технология,геномът на всеки човек може да бъде дешифриран и след това синтезиран по искане на някой”, предупреждава Бесен.
Клонове от бъдещето
Страхът всъщност не е неоснователен. Китайските учени, които представиха проект „фабрика за клониране“в края на 2015 г., по-късно обявиха готовността си да клонират хората. Китайската Boyalife Group ще изгради най-голямото съоръжение за клониране в света в сътрудничество с Южнокорейската фондация Sooam Biotech Research Foundation и Китайската академия на науките в Тиендзин, Северен Китай. Според учените обемът на производството на клонирани крави ще достигне един милион годишно. В бъдеще "фабриката за клониране" също възнамерява да се занимава с производство на състезателни коне и полицейски кучета със специализирани способности (повишено обоняние и търсене). Друга област от интерес за предприятието е клонирането на примати за медицински експерименти. Затова изявлението на ръководството на бъдещата фабрика за готовността й да премине от примати към хора стана логично.„Технологията вече е налице. Ако официално е позволено, не мисля, че някой ще се справи с него по-добре от Boyalife “, каза пред репортери Ксу Сяочонг, изпълнителен директор на бъдещата фабрика. Той подчерта, че компанията не е провела никакви експерименти в областта на клонирането на хора.
И въпреки това, въпреки необходимостта да се занимават с етичните въпроси, според Бесен създаването на човешкия геном все още е мечтано. „Днес няма ефективен начин за трансплантация на изкуствен геном в човешка клетка. Дори най-впечатляващите постижения в това отношение, като например проекта за дрожди на д-р Букет, са стотици пъти по-малки по мащаб от настоящото предизвикателство. Производството на генома на плодовата муха или нематода е десет пъти по-лесно и по-безопасно от гледна точка на етиката, то може да отговори на същите въпроси, които искат да получат, като синтезират човешкия геном “, смята молекулярният биолог.
"Тайната вечеря" на Харвард, каза той, изложи друг проблем в съвременната наука - нейният консерватизъм. Журналистите научиха за проекта в Интернет, в социалните мрежи. Официалната информация има дълъг път. „Веднъж с колегите ми изчакахме шест месеца за публикуването на необходимата научна публикация“, добавя Бесен. Според учения, колегите му сега критично трябва да намерят баланс между контрола на публикациите и правото на журналистите да вършат своята работа, което в крайна сметка се отразява на научната информация.
Александър Корнев