Ние живеем в златна епоха от научни данни, заобиколени от огромни запаси от генетична информация, медицински изображения и астрономически данни. Настоящите възможности на алгоритмите за машинно обучение позволяват на изкуствения интелект да изучава тези данни толкова бързо и в същото време много внимателно, често отваряйки вратата към потенциално нови научни открития. Въпреки това не трябва да се доверяваме сляпо на резултатите от научните изследвания, проведени от AI, казва изследователят от университета Райс Genever Allen. Поне не на сегашното ниво на развитие на тази технология. Според учения проблемът се крие във факта, че съвременните ИИ системи нямат способността да оценяват критично резултатите от своята работа.
Според Алън, AI системите, които използват методи за машинно обучение, тоест когато обучението се осъществява в процеса на прилагане на решения на много подобни проблеми, а не просто чрез въвеждане и следване на нови правила и разпоредби, може да се вярва за вземане на някои решения. По-точно, е напълно възможно задачите да се възлагат на AI при решаване на въпроси в тези области, където крайният резултат може да бъде лесно проверен и анализиран от самия човек. Като пример можем да вземем, да кажем, да броим броя на кратерите на Луната или да прогнозираме афтършокове след земетресение.
Въпреки това, точността и ефективността на по-сложни алгоритми, които се използват за анализ на много големи количества данни за намиране и определяне на неизвестни досега фактори или връзки между различни функции, "са много по-трудни за проверка", отбелязва Алън. По този начин невъзможността да се провери данните, съчетани от такива алгоритми, може да доведе до погрешни научни заключения.
Вземете например медицината за прецизност, където специалистите анализират метаданните на пациента, за да намерят специфични групи от хора с подобни генетични характеристики, за да разработят ефективни лечения. Някои AI програми, предназначени да пресеят генетични данни, наистина са ефективни за идентифициране на групи пациенти с подобни предразположения, като например развитие на рак на гърдата. Те обаче се оказват напълно неефективни при идентифицирането на други видове рак, например колоректален. Всеки алгоритъм анализира данните по различен начин, така че при комбиниране на резултатите често може да възникне конфликт в класификацията на пациентската извадка. Това от своя страна кара учените да се чудят на кой ИИ в крайна сметка да се доверят.
Тези противоречия възникват поради факта, че алгоритмите за анализ на данни са проектирани по такъв начин, че да се подчиняват на инструкциите, заложени в тези алгоритми, които не оставят място за нерешителност, несигурност, обяснява Алън.
Учените не обичат несигурността. Въпреки това, традиционните методи за определяне на несигурността на измерването са предназначени за онези случаи, когато се изисква анализ на данни, които са специално подбрани за оценка на конкретна хипотеза. Така не работят AI програмите за извличане на данни. Тези програми не се ръководят от никаква ръководна идея и просто анализират набори от данни, събрани без конкретна конкретна цел. Ето защо много изследователи на ИИ, включително самата Алън, сега разработват нови протоколи, които ще позволят на AI системите от ново поколение да оценят точността и възпроизводимостта на техните открития.
Промоционално видео:
Изследователят обяснява, че един от новите методи за добив ще се основава на концепцията за препроизводство. Например, ако AI система трябва да направи важно откритие, например идентифицира групи пациенти, клинично важни за изследване, тогава това откритие трябва да бъде показано в други бази данни. За учените е много скъпо да създадат нови и по-големи набори от данни, за да валидират изваждането на ИИ. Следователно, според Алън, е възможно да се използва подход, при който „ще се използва съществуващият набор от данни, информацията в която ще бъде смесена на случаен принцип по такъв начин, че да имитира напълно нова база данни“. И ако отново и отново ИИ може да определи характерните характеристики, които дават възможност да се извърши необходимата класификация, „тогава ще бъде възможно да се разгледаче имате наистина истинско откритие в ръцете си “, добавя Алън.
Николай Хижняк
