Как компютрите взимат странни решения
Изкуственият интелект се развива толкова бързо, че мнозина започват да изпитват безпокойство: ако скоро ще може да изпита емоции и да вземе свои собствени решения. Независимо дали става въпрос за бот, автономно превозно средство или за вземане на решения в бизнеса и науката: изкуственият интелект прониква във всички области на нашия живот и общество. Машинните мозъци се считат за логични, неемоционални и безпристрастни, но практиката показва, че не винаги решават всичко с открит ум.
Изкуственият интелект е незаменим, когато е важно да се разпознават модели в големи количества данни и да се вземат решения въз основа на тях. Но в бъдеще системите за изкуствен интелект могат да се използват и в области, в които нашето благополучие и дори животът ни са пряко зависими от заключенията - в медицината, при избора на работа, издаването на заеми и правосъдието.
Колко обективно и морално правилно изкуственият интелект взема решение? Можем ли наистина да се доверим на мозъка на машината за вземане на такива потенциално важни решения?
Изкуственият интелект се използва във всички области
Дори и сега адаптивните алгоритми се използват в много области от нашето ежедневие. Има дигитални асистенти за разбиране на гласови команди и въпроси. В Интернет уеб ботовете помагат за поддържането и контрола на уебсайтовете, така че да бъдат трудни за разграничаване от хората. Дори когато се откриват фалшиви новини и манипулации с изображения, се включват системи за изкуствен интелект.
Промоционално видео:
AI системите също вършат своята работа в индустрията, бизнеса и дори правителството. Те оптимизират и контролират производствените процеси, регулират логистиката на контейнерните пристанища и големите складове или поддържат счетоводни записи. Застрахователните компании и банките вече имат първите интелигентни програми за проверка на подадени заявления или вземане на решения относно плащанията. В Ikea, Deutsche Telekom и много други компании, UNICEF или библиотеки, виртуални асистенти участват в обслужването на клиентите.
Голямо количество данни, обработени за обучение
Всичко това е възможно благодарение на способността на AI системите бързо да анализират огромни количества данни, да идентифицират модели и корелации. Например, алгоритъмът се учи от безброй снимки на домашни любимци със съвпадащи имена. След период на обучение системата може да избере напълно нови снимки на желаните видове. Той признава разликите сам по себе си.
Много други AI системи използват текст като основа за учене. Те оценяват контекста, в който стои една дума и изучават нейното семантично значение, както и връзките с подобни думи или синоними. Тези семантични връзки превеждат програмите в математически изрази и по този начин научават дори сложни семантични контексти.
Само благодарение на тази способност изкуственият интелект може например да оцени медицинските данни и медицинските записи и да изведе характеристиките на клиничните снимки от тях. Въз основа на тези резултати AI системите вече се използват като диагностични средства, те могат да разпознаят различни видове рак, признаци на болестта на Алцхаймер, суицидни състояния и опасни нива на захар при диабет.
Но колкото и атрактивно да звучи, все повече AI има голям недостатък. Колкото по-нататък изкуственият интелект прониква практически във всички сфери на нашето общество, толкова по-големи са потенциалните последици от неговите решения. Финансовото или професионалното бъдеще на човек или дори неговият живот зависи от неговата преценка.
AI решения, които могат да струват живота
Например, ако AI погрешно диагностицира в медицината, без да е разпитан, пациентът може да се подложи на неправилно лечение или дори да умре. Военните използват автономна оръжейна система, която взема грешни решения. Например, ИИ не може да различи бягащия приятел от врага, невинния умрял.
AI алгоритмите вече се използват в съдилищата в Съединените щати. Те прогнозират вероятността за рецидивизиране на нарушителите в съда. Оценката им често влияе върху решението на съда и съответно на присъдата на осъдения.
Ако AI вземе решение за заеми
По същия начин, решението за финансиране и застраховане може да повлияе дали човек получава заем или не. Тези системи обикновено се обучават с помощта на бази данни.
И тук ИИ търси модели: кои хора обикновено връщат заемите си и кои не? Той разработва своите процедури за оценка и взема подходящи решения. По-конкретно, това означава, че хората с грешно място на пребиваване или професия няма да получават заеми, независимо колко са готови да плащат, въпреки тези обстоятелства.
При такова разпределение на отговорностите с компютри, човек ще бъде само помощник за изпълнение на решения на кибер мозъците. И това вече се случва.
Кой е отговорен за грешките?
Друг проблем в развитието на AI: колкото по-сложни са принципите на вземане на решения, толкова по-трудно е хората да ги разбират. То повдига и въпроса кой е отговорен за грешките.
Случаите на произшествия при шофиране на автомобили на автопилот се зачестиха: кой е виновен за това, че някои ситуации не се съхраняват в паметта или AI прави грешни изводи. Или може би прави свои заключения? Вече има такива примери.
Играещите ботове са разработили свои собствени правила по време на играта
За това проучване изследователите позволиха на 100 умни бота да си взаимодействат помежду си в игра на концесия. Всеки от тях трябва да реши дали дарява нещо на някой от своя екип или на участник в играта отвън.
Изненадващо, с течение на времето ботовете все повече се изключват от външни групи и даряват само на членовете на своя екип.
Причината за това: умните ботове адаптираха стратегията си за игра, копирайки поведението на другарите, които събраха най-много пари и бяха най-успешните. Така се появиха групи ботове, които се държаха по същия начин и последователно изключваха несвързани участници в играта. Постоянно създавайки нещо, което изчислява, анализира и взема решения по-бързо от него, човечеството един ден ще загуби контрол над своето създаване, действията на което няма да може да следи.
Според учените това е очевидно: изкуственият интелект не се нуждае от изкуствени данни, за да бъде предубеден, достатъчно е да има други машини около него. Защото дори това може да създаде групов ум, известен от човешките общности. Следователно, използвайки AI, хората трябва да оставят решението на себе си.
Василик Светлана