Как започна всичко?
Нов доклад на ООН беше публикуван през септември 2021 г. Експерти проучиха как страни и компании
Вчера шефът на ООН по правата на човека МишелБачелет, призова за мораториум върху използването на технологии за изкуствен интелект, които представляват сериозна заплаха за правата на човека. Включително системи за сканиране на хора, проследяващи хора на обществени места. Тя отбеляза, че страните трябва незабавно да забранят приложенията за изкуствен интелект, които не отговарят на международното законодателство за правата на човека.
Къде използването на AI е неприемливо?
Приложенията да бъдат забранениТе включват правителствени системи за „социален рейтинг“, които оценяват хората въз основа на тяхното поведение, и някои базирани на ИИ инструменти, които разделят хората на групи, като етническа принадлежност или пол.
Технологии, базирани на изкуствениРазузнаването „може да бъде сила за добро“ и може също така да доведе до „негативни, дори катастрофални последици“, ако се използва, без да се отчита как те влияят върху човешките права, каза Бачелет в изявление.
„Не става въпрос за липсата на изкуственоразузнаване“, обясни пред репортери Пеги Хикс, директор на тематичното взаимодействие в Центъра за човешки права на ООН. Тя се обърна към медиите при представянето на доклада в Женева. „Въпросът е, че ако AI ще се използва в тези много важни функционални области, свързани с правата на човека, тогава това трябва да се направи правилно. И ние просто не създадохме структурата, която гарантира това.“
Бачелет не призова за пълна забранатехнология за разпознаване на лица, но отбеляза, че правителствата трябва да спрат да сканират поведението на хората в реално време. Например, за оценка на работата на персонала. Трябва да се уверите, че технологията е точна и че AI е безпристрастен и отговаря на стандартите за поверителност и защита на данните.
Докладът също поражда притеснения относноинструменти, които се опитват да определят емоционалното и психическото състояние на хората, като анализират изражението на лицето или движенията на тялото. Експертите подчертават, че подобни технологии са обект на пристрастия, погрешно тълкуване и липса на научна основа.
„Използването на системи от държавните органиПризнаването на емоции, например за подчертаване на лица за полицейско задържане или арест, или за оценка на достоверността на изявленията по време на разпитите, рискува да подкопае правата на човека, като неприкосновеността на личния живот, свободата и справедливостта на съдебната власт “, се казва в доклада.
Къде е проблемът с използването на AI особено остър?
Въпреки че имената на конкретни държави в докладане се споменават, струва си да се спомене Китай. Нека припомним, че през май властите стартираха програма за тестване на камери за разпознаване на емоции върху уйгури в западния регион Синдзян. И признание на самите уйгури. Да припомним, че още през 2018 г. Human Rights Watch публикува доклад за преследването на мюсюлманското население на китайския регион Синдзян. Според организацията през последните години уйгурите са били задържани там масово и често без причина, поставяйки ги в затвори и образователни лагери; Милиони хора са под постоянно видеонаблюдение, а социалният им статус и съдба зависят от точките, натрупани в системата за „социален кредит“.
Ключови автори на доклада обаче казаха, че назоваването на конкретни държави не е в техните правомощия и дори може да бъде контрапродуктивно.
„В китайския контекст кака в други контексти сме загрижени за прозрачността и дискриминационните приложения, насочени към конкретни общности“, обяснява говорителката на ООН Пеги Хикс.
Тя цитира няколко съдебни дела в САЩ и Австралия, където изкуственият интелект е злоупотребяван.
Един от най -силните прецеденти в САЩ -ситуация с Amazon. Тази корпорация е един от центровете за развитие в областта на изкуствения интелект. През 2017 г. компанията закри пилотен проект за набиране на персонал, базиран на изкуствен интелект, който изпълняваше почти три години. Един от ключовите проблеми беше половата дискриминация на кандидатите - алгоритъмът подценява оценките на кандидат -жените.
Междувременно в Австралия съдът създаде новаторска дейностпрецедент. Системите с изкуствен интелект вече могат да бъдат юридически признати като изобретатели в патентни заявки. Не всички обаче са съгласни с това решение.
Какъв е долният ред?
Препоръките на доклада отразяват мнението на мнозинаполитически лидери в западните демокрации. Важно е не само да се използва икономическият и социален потенциал на ИИ, но и да се отговори на нарастващите опасения относно надеждността на инструментите, които проследяват и профилират хората.
Министърът на търговията на САЩ Джина Раймондо по време навиртуална конференция през юни засили опасенията на служителите на ООН. „Страшно е да се мисли как може да се използва за допълнително засилване на дискриминационните тенденции - каза тя. - Трябва да сме сигурни, че не допускаме това.“
По този начин европейските регулатори вече саса предприели стъпки за ограничаване на най -рисковите приложения за изкуствен интелект. Предложените правила, изложени от служители на Европейския съюз тази година, ще забранят определени употреби на AI, като сканиране на лица в реално време, и ще контролират строго други употреби, които биха могли да застрашат безопасността на човека или правата на човека.
Чета По -нататък
Уникална лодка се превръща в подводница за две минути и е невидима за врага
Физиците са охладили атомите до най -ниската температура в света
Най -подробният модел на Вселената е публикуван онлайн. Всеки може да го изучава