Една малка, самоорганизирана мрежа от изкуствени синапси помни техните преживявания и може да реши прости проблеми. Създателите му се надяват, че някой ден на базата на този изкуствен мозък ще бъдат създадени устройства, които по своята енергийна ефективност не отстъпват на изчислителната мощ на мозъка. Като цяло мозъците, ако пропуснем постиженията им в мисленето и решаването на проблеми, са перфектни в енергийната си ефективност. Мозъкът се нуждае от същото количество енергия, за да работи 20-ватова лампа с нажежаема жичка. И един от най-мощните и най-бързи суперкомпютри в света, Computer K в Кобе, Япония, използва до 9,89 мегавата мощност - приблизително същите като 10 000 домове. Но през 2013 г., дори и с тази енергия, на машината бяха необходими 40 минути, за да симулира 1% от активността на човешкия мозък за 1 секунда.
И така научните инженери от Института за наносистеми в Калифорнияския университет в Лос Анджелис се надяват да съперничат на изчислителните и енергийно ефективни възможности на мозъка, благодарение на системи, които отразяват структурата на мозъка. Те създават устройство, вероятно първото по рода си, което е „вдъхновено от мозъка да генерира свойства, които позволяват на мозъка да прави това, което прави“, казва Адам Стиг, изследовател и доцент в института, който ръководи проекта с Джим Гимшевски, професор по химия в Калифорнийския университет. В Лос Анджелис.
Дизайнът им изобщо не е като обикновените компютри, които са базирани на малки проводници, отпечатани върху силиконови микросхеми в силно подредени схеми. Настоящата експериментална версия представлява 2 х 2 мм решетка от сребърни нанопроводници, свързани чрез изкуствени синапси. За разлика от силиконовата верига с геометричната си прецизност, това устройство е изтъкано като „добре смесено спагетно ястие“, казва Стиг. Освен това фината му структура е организирана от произволни химични и електрически процеси и не е внимателно проектирана.
По своята сложност тази сребърна паяжина наподобява мозък. Има милиард изкуствени синапси на квадратен сантиметър от решетката, което е с няколко порядъка, различни от реалния мозък. Електрическата активност на мрежата също показва свойство, уникално за сложни системи като мозъка: „критичност“, състояние между ред и хаос, което показва максимална ефективност.
Тази мрежа от силно преплетени нанопроводници може да изглежда хаотично и случайно, но нейната структура и поведение наподобява тази на невроните в мозъка. Учените от NanoSystems го разработват като устройство за мозък за учене и изчисляване.
Освен това предварителните експерименти показват, че тази невроморфна (т.е. подобна на мозъка) сребърна телена мрежа има голям функционален потенциал. Тя вече може да извършва прости образователни и логически операции. Той може да премахне нежелания шум от получения сигнал, важна способност за разпознаване на глас и подобни задачи, които причиняват проблеми в традиционните компютри. А съществуването му доказва принципа, че един ден ще бъде възможно да се създадат устройства с енергийна ефективност, близка до тази на мозъка.
Тези предимства са особено любопитни на фона на приближаващата граница на миниатюризация и ефективност на силиконовите микропроцесори. „Законът на Мур е мъртъв, полупроводниците вече не могат да намаляват и хората започват да плачат какво да правят“, казва Алекс Нуджент, изпълнителен директор на Knowm, невроморфна изчислителна компания, която не участва в проекта UCLA. „Харесва ми тази идея, тази посока. Конвенционалните изчислителни платформи са милиард пъти по-малко ефективни."
Промоционално видео:
Превключва се като синапси
Когато Гимшевски започна работа по своя проект за сребърна решетка преди 10 години, той изобщо не се интересуваше от енергийна ефективност. Беше скучно. Използвайки сканиращ тунелен микроскоп за изучаване на електроника в атомната скала в продължение на 20 години, накрая той каза: „Изморен съм от съвършенство и прецизен контрол и малко уморен от редукционизъм“.
Трябва да се приеме, че редукционизмът лежи в основата на всички съвременни микропроцесори, когато сложните явления и схеми могат да бъдат обяснени с помощта на прости явления и елементи.
През 2007 г. той е помолен да изучава отделни атомни превключватели (или превключватели), разработени от групата Masakazu Aono на Международния център за материали по наноархитектоника в Цукуба, Япония. Тези превключватели съдържаха същата съставка, която превръща сребърната лъжица в черен цвят, когато докосне яйце: железен сулфид, притиснат между твърдо метално сребро.
Прилагането на напрежение към устройствата изтласква положително заредените сребърни йони в сребърния сулфид към слоя на сребърния катод, където те се намаляват до метално сребро. Атомните сребърни нишки растат, в крайна сметка затваряйки пролуката между металните сребърни страни. Превключвателят е включен и може да тече ток. Обръщането на тока има обратен ефект: сребърните мостове се съкращават и превключвателят е изключен.
Въпреки това, малко след разработването на превключвателя, групата на Aono започна да наблюдава необичайно поведение. Колкото по-често се използва превключвателят, толкова по-лесно беше да го включите. Ако не се използва известно време, постепенно се изключва самостоятелно. По същество превключвателят запомни своята история. Аоно и неговите колеги също откриха, че превключвателите изглежда взаимодействат помежду си, така че включването на един превключвател понякога блокира или изключва други наблизо.
Мнозинството от групата на Aono искаше да конструира тези странни свойства извън превключвателите. Но Gimrzewski и Stig (току-що завършил докторантската си степен в групата на Gimrzewski) си спомнят синапсите, превключванията между нервните клетки в човешкия мозък, които също променят отношенията с опит и взаимодействие. И така се роди идеята. „Мислехме си, защо да не опитаме да преведем всичко това в структура, която наподобява мозъчната кора на бозайници и да я изследваме?“, Казва Стиг.
Създаването на такава сложна структура определено беше трудно, но Стиг и Одриус Авикенис, които току-що се присъединиха към групата като аспирант, разработиха протокол за това. Чрез изливане на сребърен нитрат върху мънички медни сфери, те биха могли да причинят растеж на микроскопично тънки, пресичащи се сребърни проводници. След това те могат да изпомпват серен газ през тази мрежа, за да създадат слой сребрист сулфид между сребърните проводници, както е в атомния превключвател на екипа на Aono.
Самоорганизирана критичност
Когато Гимжевски и Стиг разказаха на другите за своя проект, никой не вярваше, че той ще работи. Някои казват, че устройството ще покаже един тип статична активност и ще се установи върху него, припомни Стиг. Други предположиха обратното: „Казаха, че превключвателят ще се каскадира и цялата структура просто ще изгори“, казва Гимзевски.
Но устройството не се стопи. За разлика от това, когато Гимжевски и Стиг го наблюдавали през инфрачервена камера, входният ток продължи да променя пътищата, които е поел през устройството - доказвайки, че активността в мрежата не е локализирана, а по-скоро разпределена, както в мозъка.
Един ден на падане през 2010 г., когато Avicenis и неговият колега Henry Sillin увеличаваха входното напрежение към устройството, те внезапно забелязаха, че изходното напрежение започва да произволно да вибрира, сякаш телената мрежа е оживяла. „Седнахме и го погледнахме, бяхме шокирани“, казва Силин.
Те предположиха, че са намерили нещо интересно. Когато Avicenis анализира данните за мониторинг в продължение на няколко дни, той установява, че мрежата остава на същото ниво на активност за кратки периоди по-често, отколкото за дълги периоди. По-късно те установяват, че малките области на дейност са по-често срещани от големите.
"Моята челюст падна", казва Авикенис, защото това е първият път, когато научи закон за мощността от устройството си. Законите за мощност описват математическите отношения, в които една променлива се променя като мощност на друга. Те се прилагат за системи, в които по-големите мащаби, по-дългите събития са по-рядко срещани от по-малките и по-късите, но те са широко разпространени и не случайно. Пер Бак, датски физик, починал през 2002 г., пръв предложи закони за мощността като отличителен белег на всички видове сложни динамични системи, които могат да се организират на големи мащаби и на големи разстояния. Това поведение, каза той, показва, че сложна система се балансира и функционира в средата между ред и хаос, в състояние на „критичност“, а всичките му части си взаимодействат и взаимосвързват за максимална ефективност.
Както Бък прогнозира, в човешкия мозък се наблюдава поведение на закона за власт: през 2003 г. Дитмар Пленц, неврофизиолог от Националните здравни институти, наблюдава, че групи от нервни клетки активират други, което от своя страна активира други, често предизвиква системни каскади на активиране. Пленц откри, че размерите на тези каскади следват разпределение на закона на властта и мозъкът действа по такъв начин, че да увеличи максимално разпространението на дейността, без да рискува да загуби контрол над разпространението си.
Фактът, че устройството на Калифорнийския университет също демонстрира закона за мощността в действие, е много важен, казва Пленц. Защото от това следва, че както в мозъка, той има деликатен баланс между активиране и инхибиране, което поддържа сумата на неговите части да работи. Дейността не потиска набора, но и не спира.
По-късно Гимжевски и Стиг откриха друго сходство между сребърната мрежа и мозъка: Точно както спящият човешки мозък проявява по-малко къси каскади на активиране, отколкото будният мозък, късото състояние на активиране в сребърната мрежа става по-рядко при по-ниски входящи енергии. По някакъв начин намаляването на консумацията на енергия на дадено устройство може да създаде състояние, наподобяващо спящо състояние на човешкия мозък.
Учене и изчисления
И тук е въпросът: ако мрежа от сребърни проводници има свойства, подобни на мозъка, може ли да реши изчислителни проблеми? Предварителните експерименти показаха, че отговорът е „да“, въпреки че устройството, разбира се, дори не е сравнимо отдалечено с обикновен компютър.
Първо, няма софтуер. Вместо това изследователите използват факта, че мрежата може да изкриви входящия сигнал по различни начини, в зависимост от това къде се измерва изхода. Това предлага възможно използване за разпознаване на глас или изображение, тъй като устройството трябва да може да изчисти шумния входен сигнал.
От това също следва, че устройството може да се използва за така наречените изчисления на резервоарите. Тъй като един вход по принцип може да генерира много, милиони различни изходи (оттук резервоара), потребителите могат да избират или комбинират изходи, така че резултатът е желаното входно изчисление. Например, ако стимулирате устройство на две различни места едновременно, има вероятност един от милионите различни изходи да представлява сумата от двата входа.
Предизвикателството е да намерите правилните заключения и да ги декодирате и да разберете как най-добре да кодирате информацията, така че мрежата да я разбере. Това може да стане чрез обучение на устройството: като стартирате задачата стотици или хиляди пъти, първо с един вид вход, след това с друг и сравнявайки кой изход се справя по-добре със задачата. „Ние не програмираме устройството, но избираме най-добрия начин да кодираме информацията, така че поведението на мрежата да е полезно и интересно“, казва Гимшевски.
В работата, която ще бъде публикувана скоро, учените ще обяснят как са обучили мрежа от проводници за извършване на прости логически операции. И в непубликувани експерименти, те обучиха мрежата за решаване на прост проблем с паметта, който обикновено се дава на плъхове (T-лабиринтът). При теста за T-лабиринт плъхът се възнаграждава, ако направи правилен завой в отговор на светлина. Със собствената си версия за обучение мрежата може да направи правилния избор 94% от времето.
Засега тези резултати са малко повече от доказателство за принцип, казва Нуджент. "Малкият плъх, който взема решение в T-лабиринта, никога не се доближава до нещо в машинното обучение, което може да оцени неговите системи", казва той на традиционния компютър. Той се съмнява, че устройството може да се превърне в полезен чип през следващите няколко години.
Но потенциалът е огромен, подчертава той. Защото мрежата, подобно на мозъка, не отделя обработката и паметта. Традиционните компютри трябва да прехвърлят информация между различни домейни, които обработват тези две функции. „Цялата тази допълнителна комуникация се изгражда, защото проводниците се нуждаят от захранване“, казва Нуджент. Приемайки традиционните компютри, ще трябва да изключите Франция, за да симулирате пълен човешки мозък с прилична резолюция. Ако устройства като сребърната мрежа могат да разрешат проблеми с ефективността на алгоритмите за машинно обучение, работещи на традиционните компютри, те могат да използват милиард пъти по-малко енергия. И тогава въпросът е малък.
Констатациите на учените също подкрепят идеята, че при правилните обстоятелства интелигентните системи могат да се формират от самоорганизация без никакъв шаблон или процес за тяхното развитие. Сребърната мрежа „възникна спонтанно“, казва Тод Хилтън, бивш ръководител на DARPA, който подкрепи проекта в началото.
Гимжевски смята, че мрежа от сребърни проводници или подобни устройства може да бъде по-добра от традиционните компютри при прогнозиране на сложни процеси. Традиционните компютри моделират света с уравнения, които често описват сложни явления само приблизително. Невроморфните мрежи с атомно превключване изравняват собствената си вътрешна структурна сложност с явлението, което симулират. И те също го правят бързо - състоянието на мрежата може да се колебае със скорост до десетки хиляди промени в секунда. „Ние използваме сложна система за разбиране на сложни явления“, казва Гимшевски.
По-рано тази година, на среща на Американското химическо дружество в Сан Франциско, Гимжевски, Стиг и техните колеги представиха резултатите от експеримент, при който те захранваха устройството първите три години на шестгодишен набор от данни за трафика в Лос Анджелис под формата на поредица импулси, указващи броя на минаващи коли на час След стотици часове обучение, резултатът най-накрая предсказа статистическата тенденция на втората половина на набора от данни и то доста добре, въпреки че не беше показан на устройството.
Може би един ден, шегува се Гимревски, той използва мрежата, за да прогнозира борсата.
Иля Кел