Новината, че автоматизацията рано или късно ще започне масово да лишава хората от техните работни места и да ги остави зад оградата на социалната полезност, едва ли ще предизвика положителни емоции у човек, гледащ към бъдещето. Шоувете като „The Terminator“или например свежият „World of the Wild West“добавят гориво към огъня, който също допринася за общата прасенце на страховете, но от гледна точка на развитието на „недружелюбен“изкуствен интелект.
Реални ли са тези страхове? Може би. Или може би това е просто измислена истерия. Но колкото и да е, Институтът на инженерите по електроника и електроника (IEEE) е уверен, че развитието на ИИ и системите за автоматизация трябва „да бъде съобразено с пълно уважение и спазване на човешките морални ценности и етични принципи“.
Институтът представи своите идеи под формата на документ на 136 страници, наречен „Етично съобразен дизайн“, който е един вид „стандарт“за проектирането, производството и разработването на роботи и изкуствен интелект. Документът е разработен със съдействието на над 100 световни експерти в областта на ИИ, правото, етиката, философията и политиката. С други думи, с участието на най-изтъкнатите учени, учени и представители на правителствения сектор.
„Като предоставяме на експерти и разработчици най-добри практики за изграждане на автоматизирани и интелигентни продукти, услуги и системи, които спазват установените етични човешки принципи, можем да се справим със страховете си от тези технологии и да се съсредоточим върху ползите, които тези технологии могат да донесат на човечеството. не само в бъдеще, но и днес”, казва Константинос Карачалиос, управляващ директор на Асоциацията за стандарти IEEE.
IEEE отбелязва, че инициативата е напълно отворена и те са готови за предложения и дискусии по въпроси от интерес от инженери, разработчици и дизайнери на системи за автоматизация и разработка на AI. В същото време те са готови да проведат пълноценен диалог, тъй като обратната връзка по този въпрос е един от най-важните аспекти в развитието на обсъжданите стандарти.
По отношение на предложенията, описани в самия документ, те включват съображения относно методологията на научните изследвания и разработки; описва притесненията относно създаването на "черни кутии". С други думи, документът предупреждава AI и индустрията за автоматизация срещу собствени разработки.
Промоционално видео:
От по-фундаментална гледна точка това, което предлага IEEE, повдига няколко интересни въпроса наведнъж, най-важният от които е може би следният: може ли моралът да се програмира изобщо? Наистина ли е възможно да се адаптират AI и технологиите за автоматизация към „стандартите и човешките и социалните ценности“, към които се отнася документът IEEE?
Въпреки това IEEE настоява за важността и необходимостта от стандарти. В крайна сметка, благодарение на тях, ще можем да бъдем сигурни, че хората в крайна сметка няма да страдат при създаването и разработването на нови технологии.
„Стандартите ще могат да осигурят индустриален контрол на интелигентните и автономни технологии. Интелигентните системи стават все по-сложни и следователно тяхното непрограмирано поведение може да стане опасно. За разрешаването на този проблем е необходим надзор над процедурата за разработване на интелигентни и автономни системи."
„Изследователите и разработчиците, участващи в разработването и внедряването на автономни и интелигентни системи, ще трябва да се сблъскат с по-прогресивен и сложен набор от мерки за съответствие по въпросите на моралната и техническата безопасност. Следователно те ще трябва да подхождат към работата си по-отговорно”.
Ако разгледате ситуацията като цяло, IEEE предприе много важна и наистина необходима стъпка към „хуманизирането“на автономни и интелигентни системи.
НИКОЛАЙ ХИЖНЯК
