Доклад на евродепутата Петър Витанов предупреждава за живот по Оруел.
Алгоритми в изкуствения интелект дискриминират източноевропейците

 

Алгоритми, въведени в изкуствения интелект (ИИ), дискриминират много източноевропейци, като прогнозират, че шансът те да бъдат престъпници е по-голям, отколкото при западноевропейците.

 

Това заяви пред Клуб Z българският евродепутат социалист Петър Витанов.

 

В резултат много жители на Източна Европа, пребиваващи на Запад, трудно си намират там работа или жилища под наем.

 

Витанов представи пред Европейския парламент в Страсбург доклада си за изкуствения интелект в наказателното право и използването му от полицията и съдебните органи по наказателно-правни въпроси. Той бе одобрен от ЕП с 377 гласа "за", 248 "против" и 62 "въздържал се".

 


Дискриминацията става най-вече в приложенията с ИИ в прогнозирането в полицейската област, се казва в доклада. Като пример Петър Витанов посочи скандала в Нидерландия, довел до оставката на правителството на Марк Рюте в началото на тази година. Причина бяха разкритията, че над 800 българи получили незаконно детски надбавки и помощ за наеми в размер на общо 4 милиона евро за периода 2007-2013 г. В действителност те пребивавали в страната съвсем за кратко и изобщо не полагали никакъв труд.

 

Поради всичко това на много други българи в Нидерландия неправомерно са отказани помощи, каза Витанов.

 

Но не само източноевропейци страдат от грешни изчисления на приложения с изкуствен интелект, допълни евродепутатът. Потърпевши са също по-бедните хора, тези с чужди имена, имигрантите, цветнокожи и други уязвими общности.

 

В някои алгоритми имената на източноевропейците например са зададени като чужди, уточни Витанов в отговор на въпрос на Клуб Z. Предположението е, че чужденците са по-склонни към извършването на определен тип престъпления или злоупотреби.

 

„Тези, които задават алгоритмите, често използват подходи, които бих нарекъл неблагонадеждни. Но те вероятно изхождат от данните, с които разполагат. Има вероятност наистина чужденците да извършват повече престъпления на глава на населението. Но в крайна сметка има презумпция за невинност. Това, че си чужденец, не те прави автоматично престъпник“, уточни българският евродепутат.

 

Неговата и на колегите му от ЕП цел не е да спрат техническия и технологичния прогрес, а да гарантират неговата употреба, по-специално в сферата на правоприлагането, по начин, който да спазва и зачита основните човешки права.

 

„Опитахме се да ограничим ползването му, особено тогава, когато няма достатъчно данни за положително въздействие и когато има достатъчно данни за наличие на вредни въздействие върху тези права“, продългжи Витанов.

 

Леви срещу десни и за ИИ


На дебата се обособили две групи

 

Представителите на първата, в която са социалистите и повечето леви евродепутати, смятат, че основните права могат да бъдат спазвани и гарантирани, когато не се позволява използване на приложения с ИИ в правоприлагавето, свързани с лицевото разпознаване на публични места или с  прогнозирането в полицейската област.

 

От другата група искали тези предложения да се използват при определени условия, за да бъдат гарантирани правата. В тази група влизат Европейската народна партия (ЕНП) и другите десни формации. Депутати от ЕНП дори бяха внесли три изменения в доклада в тази насока. Сред тях бяха българите Радан Кънев („Демократична България“) и Ева Майдел и Андрей Новаков от ГЕРБ. И трите предложения обаче бяха отхвърлени.

 

В крайна сметка Кънев подкрепи доклада, сочат резултатите от поименното гласуване. Останалите шестиа български представители в ЕНП бяха „против“. „За“ гласуваха петимата ни евродепутати социалисти и тримата либерали. Двамата ни „консерватори“ се въздържаха.

 

„Не се страхуваме да поискаме ограничаване, забрана или мораториум  за използването на приложения с ИИ по различни причини. Лицевото разпознаване, идентификацията по всякакви биометримни данни данни като лицевите характеристики са предпоставки за нарушаване на основните човешки  права“, каза Витанов.

 

Като пример той изтъкна, че изкуственият интелект се използва както в недемократични държави като Китай срещу уйгурското малцинство, така и в развити демокрации като САЩ. Оказало се, че  при лицево разпознаване най-вече на цветнокщожи в Америка има огромен процент грешки. Това се твърди в доклад на Американския съюз за граждански свободи (АСГС). И това също е дискриминация.

 

Като във филма "Специален доклад"


Петър Витанов направи асоциация с филма „Специален доклад“ с участието на Том Круз. В него специализиран полицейски отдел хмаща убийци, преди те да са извършили престъплението.

 

„Ако при лицевото разпознаване и невъзможността на останеш анонимен се нарушава правото на сдружаване и неприкосновеност, в случая с потенциалния бъдещ престъпник дискриминацията е ужасяваща. Нарушава се  презумпцията за невинност. Как да обясните на една майка, която гледа сама детето си, работи по 12 часа и не може да излезе от гетото, че синът й е потенциален престъпник само защото алгоритъмът на ИИ казва така?“, попита социалистът.

 

Той и повечето му съпартийци от групата на Прогресивния алианс на социалистите и демократите (СиД) смятат, че личната свобода и неприкосновеността са по-ценни и от сигурността, и от технологичния процес. Затова те се опитват да ограничат използването на ИИ в сферите, в които има нарушение на основните права и свободи.

 

Действително не искаме да отречем ползите от използ на ИИ в правоприлагането. Може да е полезен от глед точмка на обрал данни, на разкр престъпления. Обработва данните за секунди, десетократно по-бързо от чов мозък. Има своето приложение. Грешкине, обаче, които възникват, особено при лицеевото разпознаване, въздействат върху свободата на събирания и т.н.

 

И главният проблем не е дали приложенията за ИИ се използват от демократични или недемократични правителства. А е в това, че изкривяват резултатите.

 

Витанов даде още един пример:

 

„Според ИИ вероятността жител на квартал с мексиканци в САЩ само заради това, че е отгледан от един родител, че живее в беден квартал, че е чужденец, да стане потенциален престъпник е 3-4 пъти по-голяма. Това предизвиква редица проверки от полицейските власти. После човекът опитва да си намери работа. Евентуалният работотодател обаче вижда, че срещу него има 40-50 проверки, и си казва, че нещо не е наред и няма да го вземе. Така той няма никакъв или има по-затруднен достъп до работа. Така изкривените данни на ИИ въздействат върху съдбите на много хора.“

 

Въпреки това в ЕП има хора, които искат безконтролно използване на лицево разпознаване или прогнозирането в полицейската област. Някои представители на десницата обаче се съгласили с вижданията на левицата, твърди Витанов. Но според него те погрешно смятат, че системата може да бъде по-достоверна в бъдеще.

 

„Няма как обаче машината да замести човешкия разум и да ти каже кой може да е престъпник. Като идеш в едно гето, полицейският служител познава по-добре хората, семействата. И той има обективен поглед, който не може да бъде заменен от машината. Честно казано, малко ме притеснява да живеем по Оруел или в някакъв кафез, който отнема личните ни свободи и възможността да останем неприкосновени“, продължи българският представител.

 

Клуб Z го попита как би се противопоставил на аргументи от рода на тези, че причина за масовото следене е заплахата от тероризъм.

 

„Сред основните аргументи на опонентите ни бяха развитието на технологиите и сигурността. Само че каква сигурност можем да имаме, когато не зачитаме човешките права и свободи? Според мен трябва да извлечем ползите от ИИ. Но много внимателно да ограничим възможностите за използване на онези приложения, които представляват заплаха. Винаги човешката свобода е на първо място“, отговори Витанов.

 

Той е убеден, че в Европа трябва да има общ стандарт за използването на ИИ, който след това да бъде разширен и извън нея.

 

Докъде стигнаха китайците

 

Същевременно Петър Витанов е ужасен от ставащото в Китай. Там от началото на годината действа Социалната кредитна система. Това е високотегнологична програма за наблюдение, оценка и разделение на населението на страната. Властите в Пекин твърдят, че така коригират поведението на гражданите.

 

„Едно от нещата, които искаме да ограничим, е използването на бази данни от социалните мрежи. Има технологии като „ИИ Клиър Вю“, които използват и обработват данните, снимките, информацията на милиарди граждани и ги продават на съответните агенции, свързани с националната сигурност. Това противоречи на разбиранията ни и на редица права и свободи на гражданите“, обобщи Витанов.

 

Еврокомисарят по вътрешните работи Илва Йохансон сякаш споделяше мнението на сънародника ни.

„Няма място за масов контрол и наблюдение в ЕС. Имаме обаче много защити. В предложението на Комисията за новия закон за ИИ има допълнителна защита, а именно, че обработването на биометрични данни няма да се разрешава, освен ако не са дадени някои много специални условия. Ще защитим основните човешки права“, увери тя.

 

Йохансон допълни, че законът забранява на правоприлагащите органи да обработват биометрични данни в реално време.

 

Тя посочи качествата на приложенията с ИИ. По думите й повечето от тях се използват главно за административни и преводачески услуги и не застрашават личното пространство. Профилирането например се използва за идентифициране от разстояние на лице, представляващо висок риск за обществото. Лицевото разпознаване служи за установяване и на престъплението, и на извършителя. Такива системи са вече действащи и спасяват човешки животи.

 

„Всеки потенциал на дадена система обаче трябва да бъде одобрен от експерти, преди тя да бъде използвана. Нека бъда ясна – няма да се вземат решения за нарушаване на личното пространство. ИИ ще се използва само за вземане на временни решения. Трябва да има съответни превантивни клаузи“, завърши Йохансон.

 

 

Източник: clubz.bg

 

 

 

 

 

Още от категорията

17 коментар/a

Бля бля бля на 08.10.2021 в 08:48
Не само че има дискриминиране на източноевропейците. В ЕС има умишлено затваряне на очите пред безобразията на черни от Африка, или мюсюлмани от Близкия Изток , или араби от Магреба. Идете в който и да е голям западноевропейски град , социалните жилища се дават без проблем и по бърза процедура на чернухите. Ако българин или румънец подаде документи за общинско жилище, чака до второ пришествие ! Така че освен дискриминация към източноевропейците, има и "позитивна" дискриминация /толериране !/ на африканци, мюсюлмани и араби !
Да, на 08.10.2021 в 09:18
източноевропейци от България и Румъния, пребиваващи и не работещи в Нидерландия, да се досещате какво се крие зад този новоговор?
Бля мля бля мля на 08.10.2021 в 09:22
Причините за т. нар. "позитивна дискриминация" (баси идиотския термин, сякаш може да има "положителна дискриминация", тоест, ПОХВАЛНО ПРЕСТЪПЛЕНИЕ) са две: белите източноевропейци са все още християни (дори, о, ужас: ПРАВОСЛАВНИ!), а мургавите наистина са повече склонни към престъпления (съжалявам, но е факт!). При това по-трудно се поддават на манипулации, защото комунизмът ни имунизира срещу всякаква пропаганда.
Много пъти и по различни причини на 08.10.2021 в 09:56
има дискриминиране на източноевропейците. Мен и жена ми са ни питали в здравно заведение на острова - "Как да ви пиша? Вие бели ли сте?" - въпрос от медиц. лице (тъмнокоса и с тъмни очи мургава англичанка, (но бяла)). А ние, аз съм рус и ярко синеок, а жена ми е едва ли не Шарън Стоун, че и по-хубава. Нарочно я въртях 5-10 мин. да ми поясни какво по-точно ни пита. Накрая ни писа все пак при белите. Само това, че се гъбарках десетина мин. с нея, ми позволи да не се почувствам зле.
коректор на 08.10.2021 в 10:14
Цитат от статията: "Действително не искаме да отречем ползите от използ на ИИ в правоприлагането. Може да е полезен от глед точмка на обрал данни, на разкр престъпления. Обработва данните за секунди, десетократно по-бързо от чов мозък. Има своето приложение. Грешкине, обаче, които възникват, особено при лицеевото разпознаване, въздействат върху свободата на събирания и т.н." Обидно е за читателите ви да откриват по една -две грешки на изречение.
демократ на 08.10.2021 в 12:14
Не знаете ли???? Те отдавна са заместили цензурата и дискриминацията с алгоритми определящи някакво ниво или качество. Световната Банка и МВФ за това са създадени, пък и всички НПО. Рейтингът и статистиката какво е? Банките така отпускат пари на държавите. А Кристалина Георгиева за такива алгоритми си пострада. ЕТО ТАЗИ КЛАСАЦИЯ: https://en-m-wikipedia-org.translate.goog/wiki/Ease_of_doing_business_index?_x_tr_sl=en&_x_tr_tl=bg&_x_tr_hl=bg&_x_tr_pto=nui,sc дискриминацията е основата на дясното
Карачибук на 08.10.2021 в 12:54
Много объркано човече е писало тази статия. Кашата в мислите му проличава още от първото изречение - "Алгоритми, въведени в изкуствения интелект (ИИ), дискриминират много източноевропейци, като прогнозират, че шансът те да бъдат престъпници е по-голям, отколкото при западноевропейците". Объркани мисли на един глупав човек! Алгоритмите не дискриминират - те са просто правила за извършване на определени действия. Очевидно е, че става въпрос за информационни системи, които се използват от полицията. В тях има модул, който прогнозира вероятността за извършване на престъпление в даден район, а може би и определя най-очаквания му тип. Това става навярно чрез евристични алгоритми, използваща натрупаната криминална статистика. Във всеки по-голям западноевропейски град има райони, населени преобладаващо с масово преселили се емигранти. Те обикновено не желаят да се интегрират. Така постепенно се обособяват цели квартали, населени с емигранти от определени страни, със сходни съдби, нрави, възпитание, професии, образование, девиации и т.н. Тези обстоятелства рефлектират и върху криминалната статистика, използвана от полицийските информационни системи. Те са полезни и е глупаво да се твърди, че дискриминарат определени групи хора.
Eisblock на 08.10.2021 в 13:08
Цитат: > ... В Австралия въвеждат точно същите неща, насочени и към спиране на достъпа до интернет - в зависимост какво гледаш, четеш и (пази Боже) - пишеш. В щата Виктория явно са тръгнали да овеществяват налудничавите видения на "Говорещата глава" Клаус Шваб.
"аз съм рус и ярко синеок, а жена ми е едва ли не Шарън Стоун, че и по-хубава" на 08.10.2021 в 13:42
Брато, да те пита и теб човек, къде си помъкнал Шарън при тези тъмни ингилизки субекти.
ЛЯВО ИЛИ ДЯСНО на 08.10.2021 в 14:05
Статистически по-бедните са склонни на повече престъпни действия. Източноевропейците са бедни. И черните са бедни, и циганите са бедни. Бедните са мързеливите, е опорна точка на дясното и Костов..
КАЗАНО на 08.10.2021 в 14:47
9.10.2018 г. — Румен Радев: Неравенствата увеличават бедността, а тя поражда корупция и престъпност - Днес стотици хиляди българи живеят в бедност....
естествен интелект на 08.10.2021 в 17:49
Във филма "Специален доклад" много ясно го показаха това бъдеще което вече се случва . Разпознаване по ретината от ИИ. Тотален контрол на всички нива. Във филма "Гатака" имаше пример за разпознаване по ДНК. Методики има много за разпознаване и контрол. Само да не стане като в Терминатора, ИИ да откачи и да ликвидира всички хора. А всъщност може би ще бъде по добре да очисти планетата от д*билите защото станаха мнозинство.
Истината на 08.10.2021 в 20:16
е, че българите са номер едно по лошотия и престъпност зад граница. По- вече зулуми са ми правили и от негрите даже!
иван костов каза на 08.10.2021 в 20:18
БЕДНИТЕ СА ГЛУПАВИТЕ, ГЛУПАВИТЕ СА БЕДНИТЕ. Значи в училищата да приемат само богатите, СЪЩО ще ПОмисли ИЗКУСТВЕНИЯТ ИНТЕЛЕКТ.
математик на 08.10.2021 в 23:04
Истината е, че индобългарите правят в по голямата си част проблеми и понеже са с български паспорти и повечето с български имена и така България е нарочена за циганска държава, което не е вярно. Едно агресивно малцинство създава проблеми , както е впрочем и във америка - там латиноси, афро и други от сорта правят проблеми, но се водят американци. Просто статистика. Има решение , но е радикално и не се харесва на тълпата. ИИ ще ни разкаже играта като го пуснат да бесува, както на Терминатора когато генерала натисна Y. Но има време дотогава, май ?!?
Кин-Войло на 09.10.2021 в 12:58
«Има ли хора, налице са и проблеми с тях. Намалете броя на хората и ще намалите автоматично и проблемите!» (Стара Тоталитарна Мъдрост)» Пандемията не успя да намали броя на човеците — ТЯ СЕ ПРОВАЛИ БЕЗСЛАВНО, защото аранжьорите й се увлякоха и се опитаха безогледно да „ваксинират“, за да им се осъществи на всяка цена ЕКСПЕРИМЕНТА по РЕДУЦИРАНЕ броя на „проблемните индивиди“. Но сега има нова надежда за „аранжьорите“: започва НОВА ЛЕДНИКОВА ЕПОХА, при която би трябвало да измрат всички, с изключение на по-устойчивите НЕАНДЕРТАЛЦИ. „Ледниковата епоха“ се стартира чрез поскъпването на енергийните ресурси (което е предизвикано съвсем изкуствено — чрез ИДЕОЛОГИЧЕСКО СМУКАНЕ НА ПРЪСТИТЕ: „зелено бъдеще на Планетата“ и т.н.). Ако и „Ледниковата епоха“ не успее да си свърши работата, следват нови фази на изтреблението: дефицит на храни, дефицит на питейна вода, дефицит на въздух за дишане… Ако и тогава се отърве тук-там по някой човек — довършването ще се извърши по класическата методика: с изстрелване на поредица от заряди посредством автоматични пособия за отстрел, чрез които телесната обвивка на индивида се превръща на решето…
Поручик Ржевски на 12.10.2021 в 11:34
И аз си бих шута от западна европа, заради това, че там сега уважават черните, след това са местните бели, на трета позиция хървати, чехи и поляци и на последна позиция българи и румънци. Има си ясна класация и който си има робска психика и няма проблем да е пета категория може да си живее там....

Напиши коментар