Идеята, че изкуственият интелект неизбежно ще ни доведе до сценарий, при който машините се бунтуват срещу хората, е доста популярна. Изкуственото суперинтелигентство изглежда е най-голямата възможна заплаха, а фантастичните истории, според които няма да сме необходими в свят, притежаван от технологии, никога не са загубили популярност.
Неизбежно ли е?
Литературното и кинематографично изобразяване на интелигентни компютърни системи от 60-те години на миналия век спомогна за формирането и обобщаването на нашите очаквания за бъдещето, докато тръгваме към пътя на създаването на машинен интелект, който надминава човешкия интелект. AI очевидно вече е надминал хората в определени специфични задачи, изискващи сложни изчисления, но все още изостава в редица други възможности. Как едновременно да увеличим силата на този суров инструмент и да запазим икономическото си положение над него.
Тъй като изкуственият интелект вече играе и ще продължи да играе голяма роля в нашето бъдеще, е наложително да проучим възможностите си за съвместно съществуване с тези сложни технологии.
Кевин Абош, основател на Kwikdesk, компания за обработка на данни и изкуствен интелект, сподели мислите си по този въпрос. Той смята, че изкуственият интелект трябва да бъде бърз, незабележим, надежден, грамотен и етичен. Да, етични.
Етична рамка
Промоционално видео:
Концепцията за изкуствена невронна мрежа, моделирана след биологична невронна мрежа, не е нищо ново. Единици с изчислителна мощност, наречени неврони, се свързват помежду си, за да образуват мрежа. Всеки неврон прилага сложен алгоритъм за обучение на входа, преди да предаде данни на други неврони, докато изходният неврон се активира и отвори за четене. Експертните системи разчитат на хората да „учат” на системата, засаждайки семената на знанието. Логическите двигатели търсят съвпадения, правят избор, задават правила if-this-then-then в базата знания. В този процес в базата знания се добавят нови знания. Чиста невронна мрежа се учи в процеса на натрупване на нелинейно преживяване, няма проблем със засяването на знания от експерт. Хибридните мрежи се доказахакоито подобряват възможностите за обучение на машините.
Сега нека разгледаме етичните проблеми на такива системи. По-нататък от първо лице.
"Лош код" срещу добър код
Авторът използва думи, за да потопи читателя в измислен свят и го прави по различни начини, но великите автори го правят много грациозно. Софтуерният инженер пише редове от код, които улесняват обработката и движението на данни. Той също може да избира от редица опции по различни начини, но грациозните кодери са хора на информатиката. Прогресиращият кодер се фокусира върху това как да капсулирате максимално и по-добре в кратък и чист код. Излишният код се свежда до минимум. Страхотният код също държи прозореца отворен за бъдещи допълнения. Други инженери могат да добавят код с присъщата си елегантност и продуктът се развива безпроблемно.
Всеки създаден от човека продукт се основава на намерението. Нещата, направени от хората, са наситени с намерения и в една или друга степен са носители на самата природа на създателя. На някои хора им е трудно да си представят неодушевен предмет от този характер. Но мнозина биха се съгласили с това. Енергията на намеренията съществува от хиляди години, обединява, разделя, обединява, преобразува обществото. Не може да се подценява и силата на езика. Не забравяйте, че редовете с код са написани на определен език за програмиране. Така съм убеден, че кодът, който става софтуер, използван на компютри или мобилни устройства, е много „жив“.
Без да се съобразяваме с мъдростта и духовността в контекста на компютърните науки и потенциалните последици от изкуствения интелект, все още можем да разглеждаме статичния код като единична единица с потенциал да "правим добро" или "да правя зло". Тези изходи се оказват само в процеса на използване на приложения от хора. Ясният избор, който хората правят, влияе върху естеството на приложението. Те могат да бъдат разглеждани в локална система, определяйки положителното или отрицателното въздействие върху тази система или въз основа на набор от предварително определени стандарти. Въпреки това, както журналистът не може да бъде 100% безпристрастен в процеса на написване на статия, така инженер волно или неволно добавя естеството на своите намерения към кода. Някои могат да твърдят, че писането на код е логичен процес, а реалната логика не оставя място за природата.
Но съм сигурен, че в момента, когато създадете правило, блок от код или целият код, всичко това е пропита с елемент от човешката природа. С всяко допълнително правило навлизането на вида се задълбочава. Колкото по-сложен е кодът, толкова повече от това естество има в него. Оттук възниква въпросът: "Може ли естеството на кода да бъде добро или зло?"
Очевидно вирусът, разработен от хакер, който злонамерено пробива защитните сили на вашия компютър и крие хаос в живота ви, е наситен с лоша природа. Но какво да кажем за вирус, създаден от добрите момчета, за да проникне в компютрите на терористичната организация, за да предотврати терористичните атаки? Каква е неговата природа? Технически той може да бъде идентичен с неговия зловещ колега, просто използван за „добри“цели. Значи природата му е мила? Това е целият етичен парадокс на злонамерен софтуер. Но не бихме могли да го пренебрегнем, мислейки за „злия“код.
Според мен има код, който по своята същност гравитира към „злото“и има код, който по своята същност е пристрастен към добронамереността. Това е по-важно в контекста на офлайн компютрите.
В Kwikdesk разработваме AI рамка и протокол въз основа на моя хибриден дизайн на експертна система / невронна мрежа, който най-много прилича на биологичен модел. Невроните се проявяват като I / O модули и виртуални устройства (в известен смисъл автономни агенти), свързани чрез "аксони", сигурни, разделени канали от криптирани данни. Тези данни се дешифрират, когато влизат в неврона и след като някои процеси са кодирани, преди да бъдат изпратени до следващия неврон. Преди невроните да могат да комуникират помежду си чрез аксон, трябва да се извърши обмен на ключове между участника и канала.
Считам, че сигурността и разделението трябва да бъдат изградени в такива мрежи от най-ниското ниво. Суперструктурите отразяват качествата на най-малките им компоненти, така че всичко, което е по-малко от безопасните строителни блокове, ще доведе до опасна работа на цялата линия. Поради тази причина данните трябва да бъдат защитени локално и декриптирани, когато се прехвърлят локално.
Изпълнение и гаранции
Качеството на нашия живот заедно с машини, които стават все по-умни и по-интелигентни, е разбираемо притеснително и аз съм абсолютно уверен, че трябва да предприемем действия, за да гарантираме здравословно бъдеще за следващите поколения. Заплахите за умните машини са потенциално разнообразни, но могат да бъдат разделени на следните категории:
Резервация. На работните места хората ще бъдат заменени с машини. Тази промяна продължава от десетилетия и само ще се ускори. Необходимо е адекватно образование, за да се подготвят хората за бъдеще, в което стотици милиони традиционни работни места просто ще престанат да съществуват. Сложно е.
Сигурност. Разчитаме напълно на машини и ще продължим да разчитаме. Тъй като ние все повече се доверяваме на машини, докато преминаваме от безопасна зона към потенциална опасна зона, може да се сблъскаме с риск от грешка в машината или злонамерен код. Помислете за транспорта например.
Здраве. Лични диагностични устройства и мрежови медицински данни. AI ще продължи да се развива в превантивната медицина и многократния анализ на генетичните данни. Отново трябва да имаме уверения, че тези машини няма да участват в злонамерена подривна дейност или да ни навредят по никакъв начин.
Съдбата. AI прогнозира с все по-голяма точност къде ще отидете и какво ще направите. Докато се развива тази област, той ще знае какви решения вземаме, къде ще отидем следващата седмица, какви продукти ще купуваме или дори когато умрем. Искаме ли другите да имат достъп до тези данни?
Знание. Машините де факто натрупват знания. Но ако те придобият знания по-бързо, отколкото хората могат да го тестват, как можем да се доверим на неговата цялост?
В заключение искам да отбележа, че бдителният и отговорен подход към ИИ за смекчаване на потенциални проблеми при технологична експлозия на свръхнова е наш начин. Или ще укротим потенциала на ИИ и ще се молим той да носи само най-доброто за човечеството, или ще изгорим в неговия потенциал, който ще отразява най-лошото в нас.
Иля Кел
