ОН денеска повикаа да се воведе на мораториум за некои системи за вештачка интелигенција, како што е препознавање лица, додека не се воспостават елементите за заштита на човековите права.
– Технологиите за вештачка интелигенција можат да имаат негативни ефекти, дури и катастрофални, доколку се користат без да се земе предвид начинот на кој тие влијаат врз човековите права, рече Мишел Башеле, висока комесарка на ОН за човекови права.
Таа повика да се процени ризикот од различни системи кои се потпираат на вештачка интелигенција за правото на приватност или слобода на движење и изразување, а потоа да се забранат или силно да ги регулираат оние што претставуваат најголема опасност.
Но, додека чекаат да завршат тие проценки, државите треба да воведат мораториум за технологии кои потенцијално претставуваат голем ризик, рече Башеле, поранешна претседателка на Чиле, за време на презентацијата на новиот извештај на нејзината служба посветен на таа тема.
Извештајот, направен по барање на Советот за човекови права на ОН, разгледуваше како овие технологии често се користат без претходно правилно да се процени како тие функционираат или какво влијание ќе имаат.
На пример, лошото функционирање на вештачката интелигенција ги спречило луѓето да добијат социјална помош, да најдат работа или довело до апсење на невини луѓе врз основа на системи за препознавање лица кои не се добро направени и не можат правилно да ги препознаат луѓето со африкански карактеристики.
– Постои повеќе од реален ризик од дискриминација поврзана со одлуки базирани на вештачка интелигенција – ова се одлуки што можат да го променат, стигматизираат или да му наштетат на животот на една личност, рече Башеле.
Во извештајот се наведува дека вештачката интелигенција се развива врз основа на огромни бази на податоци, чие составување често е многу нетранспарентно. Овие бази на податоци би можеле да бидат лошо составени, застарени и затоа придонесуваат за кршење на човековите права.
Извештајот ја нагласува зголемената употреба на системи базирани на вештачка интелигенција од страна на органите на прогонот.
