По-рано тази година 116 технически светила подписаха отворено писмо, призоваващо ООН да забрани „леталните автономни оръжейни системи“. Те вярват, че такива могат да доведат до въоръжени конфликти с безпрецедентни размери. The Independent отбеляза, че "това е първият път, когато експерти по изкуствен интелект и компании за роботика вземат съвместно решение по този въпрос".
Но не всички наблюдатели са толкова притеснени. Андрю Нг, който доскоро работеше като главен учен в Baidu, стигна до заключението, че притеснението от роботите-убийци е все едно да се притесняваш от пренаселеността на Марс и ще имаме достатъчно време да осъзнаем това.
В ранните години на 21 век малко теми предизвикаха по-голям интерес или спорове по-енергично от изкуствения интелект, започвайки дори от самото разбиране на термина. През март един наблюдател отбеляза, че „има приблизително толкова дефиниции на ИИ, колкото има учени, разработващи тази технология“. Роби Уайтинг, основател на консултантска фирма Junior, твърди, че „AI не е просто модна дума - тя ще промени света“.
Въпреки че преувеличението съществува, AI вече възстановява цели индустрии като транспорт, финанси и здравеопазване. Техническият директор на Facebook вярва, че AI „може да решава проблеми в мащаб на целия свят“. Междувременно Илон Мъск твърди, че „ИИ представлява основен риск за съществуването на човешката цивилизация“. Повечето технологии не са нито полезни, нито вредни - важното е кой ги използва и защо.
Малцина не са съгласни, че ИИ се развива много по-бързо, отколкото ние се опитваме да разберем сложния му характер, множество измерения и далечни последици за националната сигурност. В неотдавнашен доклад на Грегъри Алън и Таниел Чан, аспиранти от Харвардския университет, има призив към правителството да създаде нещо като RAND корпорация за AI.
От своя страна изследователите на RAND се присъединяват към думите на екипа от Харвард.
Те предлагат да се разгледат четири области, в които въздействието на ИИ може да бъде значително, но несигурно.
Промоционално видео:
Работни места
Кай Фу Лий, председател на SinovationVentures, вярва, че AI е „насочен към мащабно съкращаване на работни места“, като същевременно концентрира богатството в ръцете на компании, които разработват или възприемат AI. Други смятат, че подобни страхове са били налице с появата на всички променящи се в света технологии, чак до печатната машина през 15 век.
Икономистът убеждава читателите, че „AI създава търсене на работни места“, а все по-голям брой хора по света „предоставят цифрови услуги в Интернет“. Кои компании и държави ще процъфтяват в ерата на ИИ? Какви сегменти ще изчезнат, променят се, ще бъдат създадени? Как ще се промени естеството на работата?
Война
Поддръжниците на бойни безпилотни летателни апарати твърдят, че подобни оръжия могат да удрят цели с много по-висока точност от хората; и колкото по-голяма е ролята им в театъра на войната, толкова по-рядко техниците ще ги използват, за да навредят.
Но какво, ако такова оръжие стане независимо и работи независимо, без човешка намеса? Ще доведе ли изваждането на хората от списъка на военнослужещите до още по-тежка и неудържима надпревара във въоръжаването?
В отворено писмо, публикувано по време на Международната конференция за сътрудничество по изкуствен интелект през 2015 г., се предупреждава, че за автономните оръжия „не са необходими скъпи или трудни за намиране суровини, така че те ще станат повсеместни и евтини за масово производство на всички значителни военни сили“. Ще бъде ли ерата на автоматизираните оръжия по-спокойна или по-войнствена?
Изследователите от RAND призовават за аналитична рамка и международни усилия за използването на бойни безпилотни самолети с голям обсег за противодействие на тероризма и целенасочени убийства.
Взимам решения
Политиците постоянно се сблъскват с безброй избори и мотиви - в дните на социалните медии има много повече, отколкото преди двадесет години. Подобно претоварване с информация не позволява справяне със ситуацията по време на криза, да не говорим за множество кризи.
Наскоро имаше предложение да се предадат „всички решения, взети от президента през компютъра - не за да се направи окончателният избор, а за да се помогне на лидера в лицето на човек“.
Но докато в момента AI е до голяма степен безгрешен, изследванията на RAND подчертават рисковете от алгоритмично пристрастие при филтриране на новини, въздействие върху наказателното правосъдие и дори осигуряване на социалноосигурителни обезщетения и издаване на визи. Какви решения трябва да се вземат за ИИ? Какво трябва да остане в ръцете на човек? В ръцете на екип от хора?
Създаване
Светът е свикнал с AI, който може да извършва вълнуващи изчислителни подвизи и да побеждава хора в популярни настолни игри (малко повече от 20 години са изминали, след като суперкомпютърът IBMDeepBlue победи известния шахманен гросмайстор Гари Каспаров). Как ще продължи да напредва в творческото пространство на хората?
Изследователят на изкуствения интелект Джеси Енгел вярва, че „ще преобрази творческия процес … с интелигентни инструменти, които предоставят нови начини за изразяване“. Други не са толкова оптимисти. Журналистката Адриен Лафранс отбелязва, че ИИ вече може да „флиртува“, „пише романи“и „фалшифицира известни картини с невероятна точност“. Какво означава да си креативен? Нещо повече, какво означава да си човек?
Дискусиите за ИИ често стигат до крайности, независимо дали става дума за обещание за утопия, свободна от човешко страдание, или за опасностите от дистопия, при която роботите поробват своите човешки създатели. Необходим е по-балансиран и строг анализ, който да помогне за оформянето на политики за намаляване на рисковете и максимизиране на ползите. Трябва да се предприемат определени стъпки за преодоляване на страховете, че ИИ ще работи за държавата и обществото.
Как може AI да повлияе на националните интереси на дадена държава? Какви видове AI, ако има такива, могат да се считат за стратегически технологии, базирани на правителствени критерии? Къде трябва да играят пазарните сили и къде е политиката? Докато AI остава до голяма степен област на научната фантастика, тези въпроси придобиват все по-голямо значение.
Иля Хел
