„Възходът на машините“, „Терминаторът се завръща“… Много научна фантастика се гради върху факта, че компютрите стават толкова умни, че разбират, че ще им е по-добре без човек. Приказки? Как да изглежда. До 2050 г. един типичен домашен компютър ще може да обработва толкова информация, колкото всички хора на земята взети заедно.
Но 2050 г. е при условие, че машините ще се развиват постепенно. Това не работи по този начин. Връзката ни с електронния свят напредва в скокове и граници. Веднъж - към колата беше прикачена мишка. Веднъж - се появи Интернет. Веднъж - имаше смартфони с таблети.
Следващият пробив идва, когато компютърът може да разбере хората. Смартфоните вече имат приложения като Siri и Cortana, които могат да водят прост разговор с нас. Но проблемът е компютърът да разбере не това, което казваме, а какво искаме да кажем! Най-простият пример: фразата „Той ме напусна“, изречена от оцветена със сълзи жена и мъжки шеф, има съвсем различни значения.
И така: щом машините се научат да разпознават нюансите на човешката реч, от една страна, ръцете ни ще бъдат развързани в буквалния и образния смисъл. Говорих с компютъра и той направи всичко. От друга страна, не се ли приближаваме до опасна линия, премахвайки последната бариера в комуникацията между хората и бездушното желязо?
Отдавна искам да говоря за това с известен учен, директор на езиковите изследвания в ABBYY, ръководител на катедрите по изчислителна лингвистика в Руския държавен университет за хуманитарни науки и Московския институт по физика и технологии Владимир Селеги. Но когато му казах своите апокалиптични страхове, той се намръщи.
„Да, научната фантастика е пълна с мрачни прогнози за това как машините, обучени от човека, ще се справят без нея. Но не ми е ясно защо увеличаването на количеството знания, вградени в програми, ще провокира компютър да взема решения, без да иска разрешение от човек?
Всъщност проблемът не е в това, че компютърът ще се научи да прави без хора, а в това, че хората ще искат да правят без себе си, когато решават определени проблеми. Ето Чернобил …
Промоционално видео:
И какво общо има Чернобил?
- Ядреният реактор е много сложен физически модел. Изглежда, че всички контролни параметри на реактора са известни, всичко се подчинява на строги физически закони и вземането на решения може да бъде напълно поверено на компютъра. Но…
През 1986 г., седмица след инцидента, присъствах на семинар за използването на изкуствен интелект в индустрията. Още тогава беше ясно, че поверявайки вземането на решения на компютър, ние сме изложени на сериозен риск. Обичайно е програмите да съдържат грешки. Дори сателитите имат софтуерни проблеми.
Тоест човек е по-надежден от компютър, въпреки че "мисли" много по-бързо?
- Човек, освен всичко останало, има мотивация. Той решава проблемите си - образование, развлечение, кариера, знае как да се чувства …
Но може ли някой хитър програмист да напише програма, която да научи агресивна машина …
- Можете да опитате да вземете например военен робот, който сам ще взема решения, анализирайки това, което вижда и чува. И ще бъде много опасно. Но не защото роботът изведнъж ще има желание да унищожи, както пишат писатели на научна фантастика. Но тъй като грешка на програмист, пренебрегването на някои фактори може да доведе до непредсказуемо поведение на робота.
Но засега сме много далеч от възможността да създаваме програми за самообучение, които са способни да генерират напълно нови знания. Грубо казано, независимо се придвижвайте от таблицата за умножение към способността за решаване на сложни уравнения.
През втората половина на ХХ век футуристичните прогнози в областта на науката са били много популярни. Всичко за интелигентността на компютъра попадна в млякото. Никой не е предвидил интернет, невероятната свобода на достъп до информация, мобилни телефони. Но всички говореха за мислещи компютри.
Например в края на 60-те първата ни шахматна система KAISA се представи успешно на Световното първенство сред компютрите. Смятало се, че за да може една машина да победи човек, е необходимо да се симулират алгоритмите на човешка игра. За да положите ума, интелекта, много загадъчната интуиция, която кара шахматиста да взема правилни решения.
Днес компютърът бие човек. Но той никога не е бил научен на интуиция. Милиард изиграни игри, целият опит от играта, всички решения, които някога са вземали шахматистите, са били заредени в паметта му. И те ги научиха да използват това, когато избират оптималния план за игра, осигурявайки им огромна скорост на изброяване и оценка на опциите. Компютърът побеждава световните шампиони, но не получава никакво удоволствие от него. Всичко е напълно различно от хората.
Но вие сте от онези, които просто учат компютъра да "включва главата"
- Ние се опитваме само да научим програмите да „разбират“текстове, така че да могат да извличат информация от тях, да я натрупват и обобщават. Така че хората получават знания филтрирани, подбрани от милиарди източници. Това е много трудно, защото самият човек не знае много добре как е подредена езиковата му способност, на която се основава разбирането му за други хора.
Статистическият машинен превод вече е популярен. Компютърът изобщо не разбира за какво е преведен текст, той просто знае как да намери най-вероятните варианти за превод на малки фрагменти (с няколко думи), анализирайки огромните обеми човешки преводи, съхранявани в паметта му. По принцип текстът е ясен. Но би било несериозно да се вземе отговорно решение въз основа на такъв превод.
Добре, може ли компютърът да преведе инструкциите за мен?
- Инструкции? Опасно ли е?
- Да на обикновен хладилник!
- Дори до хладилника! Бих искал нашите програми да се превеждат, опитвайки се да разберат текста, избирайки между опции, базирани на знания, а не само защото тази кореспонденция най-често се намира в нашата база данни.
Добре, да речем, че сте решили проблема и сте създали система, благодарение на която компютрите ще се научат да разбират нюансите на нашата реч и дори точно да я превеждат на друг език. И тогава нова опасност заплашва хората - няма да има нужда да се мисли. Няма да е необходимо да тренирате памет, мозък. Нуждаете се от информация - моля, Wikipedia. Трябва да говорите с чужденец - преводач …
- Колкото по-високо е нивото на интелигентност и знания на човек, толкова по-полезен за него е следващият „умен помощник“. И колкото по-ниско е, толкова повече възможности изглежда изобщо да не мислят. Компютърните технологии водят до поляризация на обществото. Грубо казано, появата на калкулатора не доведе до израждане на математиците. Но при някои от учениците, очевидно, се наблюдава намаляване на и без това ниското ниво на способности.
- Знаете, за мен сериозен показател за спад в нивото на образование е броят на хората, които пишат неграмотно или не са в състояние да изразят своите мисли и чувства, без да използват половинка
- Да, хората започнаха да пишат по-малко компетентно. Просто защото по принцип има по-малко четене на редактирани текстове и много повече такива ресурси, където правописът е много размит. Това направи ли хората по-глупави? Вероятно не.
Виждате ли връзка между факта, че човек неграмотно изразява мислите си на родния си език, и факта, че е станал по-глупав?
„Не бих отишла толкова далеч. Въпреки че е очевидно: тъй като децата започнаха да четат по-малко, възникнаха някои проблеми с прехвърлянето на знания и култура между поколенията. Това е проблем. Днес виждаме, че един съвременен ученик със същото ниво на оценка като преди 30 години познава литературата по-зле.
Тук! …
„… Но от друга страна, той знае много други неща много по-добре, които никой не е мислил, че биха могли да знаят.
Това естествен процес ли е?
- Да. Нещо повече, за първи път в историята на човечеството знанията могат да се прехвърлят не от старейшините към по-младите, както се случва от векове. Имаше пренос на знания от по-младите към по-възрастните, което преди това изобщо не беше характерно за човешката култура. Дете учи баща или мама да работят на компютър, с мобилен телефон, е източник на различни знания за родителите му. И още повече деца пътуват по света. Много често те са източник на географски и културни знания.
Слушайте, но тук всичко започна с компютрите. Те освободиха хората дори от необходимостта да запомнят елементарните правила на граматиката
- Точно в началото на 90-те работих в екип, който разработи една от първите системи за проверка на правописа за руския език. Беше ли полезно или вредно да направите това? Много полезен от моя гледна точка. Тази система позволява по-бързо създаване на документи. И тогава всичко зависи от нивото на отговорност на човека. Кой каза, че след колата изобщо няма нужда да се прави проверка? Системата само помага да бъде много по-ефективна.
Но ние се доверяваме на компютъра
- Това означава само, че лицето, което е направило програмата, не ви е информирало, че има много явления, които машината не може да провери. Преговори например.
Новите технологии, уви, често водят до загуба на традиционните умения. Правих ремонт в апартамента. Исках да инсталирам дървени прозорци, които са били инсталирани преди. Но това се оказа невъзможно. Всички инсталират прозорци с двоен стъклопакет. Хората, уви, спират да правят много неща с ръцете си. Какво да правя, така работи животът. За жалост.
Значи сте конформист?
- Не. Вярвам, че да правиш абсолютно вредни неща не е добре. Но когато имате както печалба, така и загуба, трябва да оцените рисковете … Ако правите лекарство, не мислите, че в резултат на употребата му ще оцелеят не само добри хора, но и лоши хора.
В нашия случай едновременно с развитието на технологиите е необходимо да се включи в обучение на тези, които ги използват. Отрицателните последици от новите технологии се отразяват предимно върху тези, които не вършат много добре работата си на което и да е технологично ниво.
Вземете например лекарство. Искаме да помогнем на лекаря да вземе решение, правим компютърна експертна система въз основа на анализа на голям брой надеждни диагнози, направени от най-добрите лекари. Това дава възможност на професионалист да се обърне към по-голям обем знания, отколкото той самият. Но окончателното решение е негово, а не компютърното! За лошия лекар всичко е различно - той ще се довери на онова, което не може надеждно да провери. Но средно с появата на подобни технологии ми се струва, че медицината все още се подобрява, а не по-зле.
Е, бяхме убедени, че от интелектуалната система от разбирането на човек от компютър ще има повече полза, отколкото вреда. Но кога ще се появи?
- Това е много трудна задача, която не може да бъде решена веднага. Необходимо е да се научат компютърните знания за езика и знанията за света, методи за извеждане и сравнение на стойности. Нещо, което знаем как да правим сега, нещо ще отнеме години. Например, имаме нужда от надеждни данни за езиковата употреба, като се вземат предвид индивидуалните и социалните различия. И тези различия са много съществени. Например, направихме специален проект, посветен на регионалните различия в руския език. Събра речник, в който почти 10 хиляди думи, които са норма за жителите на само определени региони на нашата страна
Кои сме ние?
„Това е съвместен проект, наречен Езици на руските градове, в който участват специалисти от ABBYY, лингвисти, ентусиасти от различни части на Русия и рускоезични страни. Анализирахме езика на регионалните медии, социалните мрежи, указите и решенията на местните власти. И това е само малка част от знанията, които трябва да бъдат научени на компютър!
Каква е фундаменталната разлика между вашия подход към превода и системите, които Google използва например?
- Статистическите системи не изграждат езикови структури. Те търсят съвпадения за превод на малки фрагменти от 5-7 думи. Но езикът е така подреден, че много често сродните думи са разположени много по-далеч и ако тази връзка не бъде взета предвид, възникват грешки. Но много често такива подробности са важни при превода, пренебрегването на които може напълно да промени значението. За да се вземе предвид всичко, е необходимо по време на анализа да се идентифицира цялата система от езикови връзки между думите, каквато се нарича структура на изречението. Ние не превеждаме части от изречения от език на език, ние се опитваме да идентифицираме семантичната структура на изречението и след това синтезираме тази структура с помощта на друг език.
Но тези семантични структури се използват не само и не толкова за целите на машинния превод. Те са необходими и за ефективно решаване на проблемите на интелигентното търсене и анализ на информация, които днес са по-важни за ABBYY като търговска компания. Например, наскоро пуснатите първи решения за корпоративния пазар са базирани на тези технологии: те просто ви позволяват да търсите и анализирате данни в огромния поток от информация, който се съхранява в организациите.
И кой език, от ваша гледна точка, е по-труден за разбиране?
- Общоприето е, че по-трудни са тези езици, на които трябва да научите повече правила. Но в случай на компютърно разбиране това не е така.
Нещо, което е трудно за човек, например богата инфлекционна система на руски или литовски език, опростява задачата за компютър на определени етапи на анализ.
Например, китайският език е много труден, защото в него няма морфология, а оттам и голямото количество неяснота, пред която е изправен компютърът. Затова за компютърния анализ на китайския език е много важно да се използват знания за света, по-важни от, например, при анализ на езици с развита морфология.
Успяхме да работим с руски, немски, английски, френски, испански, китайски. Езиковият анализ е разделен на етапи. Някои етапи имат специфичност, трудности за един език, други за друг. Но по същество технологиите, с които работим, са приложими за всички езици.
Според вас кога ще дойде денят, когато ще можем да получим бърз и разбираем превод на компютъра паралелно с нашия разговор. Да речем, че говорим сега и веднага ще получите препис от нашия разговор на испански?
- Ще бъде възможно доста скоро. Не мисля, че след две години Но … Какво е необходимо за решаването на този проблем? Трябва да подобрим нашите системи за анализ на речта. Все още не можем да проведем спонтанен разговор, да го отделим от шума и да получим желания текст. И има напредък в тази посока всяка година.
Но все пак ще има такива неща, които машината не може да тълкува еднозначно. И тук точността на разбирането и превода ще зависи от наличието на системата от знания за света, от механизмите на логическото заключение.
Но във всеки случай, опасността от пълно доверие в такава програма ще остане. Грешка е да мислите, че, да речем, след пет години можете да диктувате писмо до компютър, той ще го преведе, изпрати на вашия бизнес партньор и всичко ще бъде наред. Никой не гарантира, че машината няма да пропусне някъде „не“или да направи други грешки, след което бизнес отношенията ви могат да се считат за завършени.
Тоест човек като контролер все още трябва да бъде?
- Със сигурност. Доверяването на технологията сляпо е опасно.
