АИ системи су већ забринути, посебно они који су способни да контролишу друге машине.Много
Претпоставимо да неко треба да програмирасистем вештачке интелигенције са супериорном људском интелигенцијом, тако да може да учи независно од човека. Тада ће АИ повезан на Интернет имати приступ свим подацима човечанства. Такође ће моћи да замени све постојеће програме и преузме контролу над свим машинама широм света. Да ли ће се догодити ова утопија или дистопија? Може ли АИ да излечи рак, успостави светски мир и спречи климатску катастрофу? Или ће уништити човечанство и заузети Земљу?
Компјутерски научници и филозофи се питају да ли уопште можемо да се снађемо са суперинтелигентним АИ-јем да осигурамо да не успепредстављају претњу човечанству.
„Суперинтелигентна машина која влада светом,звучи као научна фантастика. Али већ постоје машине које одређене важне задатке обављају потпуно независно, док програмери не разумеју у потпуности како су то научили. Стога се поставља питање да ли би ово у неком тренутку могло постати неконтролисано и опасно за човечанство “, каже коаутор студије Мануел Себриан, шеф групе за дигиталну мобилизацију у Центру за људе и машине на Институту за људски развој Мак Планцк.
Научници су истражили две различите идеје какосуперинтелигентни АИ се може контролисати. С једне стране, могућности суперинтелигентне уметничке интелигенције могле би се посебно ограничити, на пример, изоловањем од Интернета и свих осталих техничких уређаја, тако да не може да ступи у контакт са спољним светом, али то би суперинтелигентну уметну интелигенцију учинило много мање моћном и мање способном да одговори на хуманитарне задатке ... Без такве могућности, АИ би од самог почетка могао бити мотивисан да следи само циљеве који испуњавају интересе човечанства, на пример, тако што ће у њега програмирати етичке принципе. Међутим, истраживачи такође показују да ове и друге модерне и историјске идеје за контролу суперинтелигентне интелигенције имају своја ограничења.
У свом истраживању тим се развиотеоретски алгоритам ограничавања који осигурава да суперинтелигентна АИ ни под којим околностима не може наштетити човеку тако што ће прво симулирати понашање АИ и зауставити га ако се сматра штетним. Али пажљива анализа показује да се у нашој тренутној рачунарској парадигми такав алгоритам не може изградити.
„Ако проблем раставимо на основна правилатеоријске рачунарске науке, испоставило се да би алгоритам који би рекао АИ да не уништава свет могао нехотице да заустави сопствене операције. Ако се то десило, не бисте знали да ли ће алгоритам задржавања и даље анализирати претњу и да ли је зауставио да садржи злонамерни АИ. У основи, ово чини алгоритам задржавања неупотребљивим “, каже Ииад Рахван, директор Центра за људе и машине.
На основу ових прорачуна, проблем задржавања није изведив, односно ниједан алгоритам не може да нађе решење да утврди да ли ће АИ нанети штету свету или не.
Погледајте и:
Министарство здравља Аргентине открило је податке о нежељеним ефектима код оних који су примили Спутник В.
Испоставило се да је Платипус генетска мешавина сисара, птица и гмизаваца
Побачај и наука: шта ће бити са децом која ће се родити