Əsas Çıxarışlar
- Twitter istifadəçilərin şəkillərə baxış proqramında irqi qərəzlilik adlandırdıqları şeyi aradan qaldırmağa ümid edir.
- Texnologiya nəhənginin çağırışı sənayenin müxtəliflik problemlərini həll etmək üçün ehtiyac duyduğu mədəni hesablama ola bilər.
- Texnologiyanın müxtəlifliyi olmaması onun texnoloji inkişaflarının effektivliyinə zərbə vurur.
Twitter texnoloji sənayedə müxtəliflik məsələləri ilə bağlı daha geniş söhbətə səbəb olan trend mövzuya çevrildikdən sonra şəkil kəsmə alqoritmi ilə bağlı araşdırma başlatmağa hazırlaşır.
İstifadəçilər şəkillərin önizləmə alqoritmində açıq-aydın irqi qərəz aşkar etdikdən sonra sosial media cəngavərləri başlıqlara çevrildi. Kəşf Twitter istifadəçisi Colin Madland platformadan istifadə edərək Zoom-un yaşıl ekran texnologiyasından istifadə edən qaradərili həmkarlarını tanımadığını elan etdikdən sonra baş verdi, lakin möhtəşəm bir istehza nümayişində o, Twitter-in şəkil kəsmə alqoritminin eyni şəkildə davrandığını və Qara üzləri prioritetləşdirdiyini tapdı.
Əlbəttə, bu, hər hansı bir azlıq üçün böyük problemdir, lakin məncə daha geniş bir problem də var.
Digər istifadəçilər alqoritmin ardıcıl olaraq insanlardan tutmuş cizgi filmi personajlarına və hətta itlərə qədər ağ və daha açıq dərili üzlərə üstünlük verdiyini göstərən bir sıra viral tvitlərə səbəb olan trendə qoşuldular. Bu uğursuzluq texnoloji sənayedə davamlı olaraq azlıq qruplarını hesaba almayan və texniki tərəfə sıçrayan daha böyük mədəni hərəkatın göstəricisidir.
"Bu, azlıqları dəhşətli hiss edir, sanki vacib deyillər və bu, daha ciddi zərər verə biləcək başqa şeylər üçün istifadə edilə bilər," Erik Learned-Miller, universitetin kompüter elmləri professoru Massachusetts, telefon müsahibəsində bildirib."Bir proqram parçasının nə üçün istifadə oluna biləcəyinə və baş verə biləcək bütün zərərlərə qərar verdikdən sonra, bunların baş vermə şansını minimuma endirməyin yolları haqqında danışmağa başlayırıq."
Taymlaynda Kanarya
Twitter tvitlərə daxil edilmiş şəkilləri avtomatik kəsmək üçün neyron şəbəkələrdən istifadə edir. Alqoritmin ilkin baxış üçün üzləri aşkar etməli olduğu güman edilir, lakin onun nəzərəçarpacaq dərəcədə ağ əyriliyi var. Şirkətin sözçüsü Liz Kelley tvitində bütün narahatlıqlara cavab verdi.
Kelley tweet etdi, "Bunu gündəmə gətirən hər kəsə təşəkkür edirəm. Biz modeli göndərməzdən əvvəl qərəzliliyi yoxladıq və testlərimizdə irqi və ya cinsiyyətə meylliliyə dair dəlil tapmadıq, lakin aydındır ki, daha çox təhlilimiz var. başqalarının nəzərdən keçirə və təkrarlaya bilməsi üçün işimizi mənbə açacağıq."
“Vəhşi Təbiətdə Üz Tanıma Texnologiyaları: Federal Ofisə Çağırış” adlı ağ məqalənin həmmüəllifi, Learned-Miller sifətə əsaslanan süni intellekt öyrənmə proqramının həddi aşması üzrə aparıcı tədqiqatçıdır. O, illərdir təsviri öyrənmə proqramının potensial mənfi təsirini müzakirə edir və bu qərəzlərin ən yaxşı şəkildə azaldıldığı reallıq yaratmağın vacibliyindən danışır.
Üzün tanınması texnologiyası üçün bir çox alqoritmlər məlumat üçün istinad dəstlərindən istifadə edir, çox vaxt təlim dəstləri kimi tanınır, bunlar şəkil öyrənmə proqramının davranışını dəqiq tənzimləmək üçün istifadə edilən şəkillər toplusudur. Bu, nəticədə süni intellektə çoxlu üzləri asanlıqla tanımağa imkan verir. Bununla belə, bu istinad dəstlərinin müxtəlif hovuzu olmaya bilər ki, bu da Twitter komandasının yaşadığı problemlərə səbəb olur.
"Əlbəttə, bu, hər hansı bir azlıq üçün böyük problemdir, lakin məncə, daha geniş bir problem də var" dedi Learned-Miller. "Bu, texnologiya sektorunda müxtəlifliyin olmaması və sui-istifadə və sui-istifadəyə meylli bu cür güclü proqram təminatının düzgün istifadəsini göstərmək üçün mərkəzləşdirilmiş, tənzimləyici qüvvəyə ehtiyacla bağlıdır."
Texniki Müxtəliflik Yoxdur
Twitter ən son texnologiya şirkəti ola bilər, lakin bu, yeni problem deyil. Texnologiya sahəsi əsasən ağ rəngli, daim kişilərin üstünlük təşkil etdiyi sahə olaraq qalır və tədqiqatçılar müəyyən ediblər ki, müxtəlifliyin olmaması hazırlanmış proqram təminatında sistemli, tarixi balanssızlıqların təkrarlanmasına səbəb olur.
New York Universitetinin AI Now İnstitutunun 2019-cu il hesabatında tədqiqatçılar müəyyən ediblər ki, qaradərililər ölkənin ən yaxşı texnologiya firmalarında işçi qüvvəsinin 6 faizindən azını təşkil edir. Eynilə, qadınlar bu sahədə çalışan işçilərin yalnız 26 faizini təşkil edir - statistik göstərici onların 1960-cı ildəki payından aşağıdır.
Bu, azlıqlarda özlərini vacib deyilmiş kimi qorxunc hiss etdirir və bundan sonra daha ciddi zərər verə biləcək başqa şeylər üçün istifadə edilə bilər.
Zahirən bu təmsilçilik məsələləri adi görünə bilər, lakin praktikada vurulan zərər çox böyük ola bilər. AI Now İnstitutunun hesabatındakı tədqiqatçılar bunun səbəbli olaraq qeyri-ağ və kişi olmayan populyasiyaları hesaba almayan proqram təminatı ilə bağlı problemlərlə əlaqəli olduğunu göstərir. İstər infraqırmızı sabun dispenserləri daha tünd dərini aşkar edə bilmir, istərsə də Amazon-un süni intellekt proqramı qadın üzlərini kişi üzlərindən fərqləndirə bilmir, texnoloji sənayedə müxtəlifliyin aradan qaldırılması texnologiyanın müxtəlif dünya ilə məşğul ola bilməməsinə gətirib çıxarır.
"Məsələləri düşünməyən və bunların necə zərər verə biləcəyini və bu zərərlərin nə qədər əhəmiyyətli olduğunu həqiqətən dərk etməyən bir çox insan var," Öyrənilmiş-Miller süni intellekt təsvirinin öyrənilməsi ilə bağlı təklif etdi. "Ümid edirəm ki, insanların sayı azalır!"
