Əsas Çıxarışlar
- Yeni proqram aləti AI-ya nifrət nitqi üçün internet şərhlərinə nəzarət etməyə imkan verir.
- İnsan imkanlarını üstələyən nəhəng material həcminə görə internet məzmununu idarə etmək üçün AI lazımdır.
- Lakin bəzi ekspertlər deyirlər ki, nitqin süni intellektlə monitorinqi məxfiliklə bağlı narahatlıq doğurur.
Onlayn nifrət nitqi artdıqca, bir şirkət deyir ki, onun insan moderatorlarına etibar etməyən bir həlli ola bilər.
Spectrum Labs adlı startap real vaxt rejimində zəhərli mübadilələri aşkar etmək və bağlamaq üçün platforma provayderlərinə süni intellekt texnologiyası təqdim edir. Lakin ekspertlər deyirlər ki, süni intellekt monitorinqi həm də məxfilik problemləri yaradır.
"AI monitorinqi çox vaxt zamanla nümunələrə baxmağı tələb edir ki, bu da məlumatların saxlanmasını tələb edir "deyərək, təhlükəsizlik və məxfiliyə uyğunluğu qiymətləndirən Schellman şirkətinin baş əməkdaşı David Moody Lifewire-a e-poçt müsahibəsində bildirib. "Bu data qanunların məxfilik datası (şəxsi müəyyən edilə bilən məlumat və ya PII) kimi qeyd etdiyi datanı əhatə edə bilər."
Daha Nifrət Nitqi
Spectrum Labs köhnə nifrət nitqi probleminə yüksək texnologiyalı həll vəd edir.
"Orta hesabla, biz platformalara məzmunun moderasiyası səylərini 50% az altmağa və zəhərli davranışların aşkarlanmasını 10 dəfə artırmağa kömək edirik" deyə şirkət öz saytında iddia edir.
Spectrum 40-dan çox davranış identifikasiyası modelini yaratmaq üçün xüsusi zərərli davranışlar üzrə təcrübəyə malik tədqiqat institutları ilə işlədiyini deyir. Şirkətin Guardian məzmun moderasiyası platforması "icmaların toksiklikdən qorunmasını dəstəkləmək" üçün məlumat alimləri və moderatorlar qrupu tərəfindən qurulmuşdur."
İnsanın onlayn trafikin hər bir hissəsini izləməsi mümkün olmadığı üçün nifrət nitqi ilə mübarizə yollarına artan ehtiyac var, nitqin tanınmasını təmin edən və müştərilərin nifrətin monitorinqində iştirak edən AssemblyAI-nin baş direktoru Dylan Fox çıxışı Lifewire-a e-poçt müsahibəsində bildirib.
"Təkcə Twitter-də gündə təxminən 500 milyon tvit var" dedi. "Bir nəfər hər 10 saniyədə bir tvit yoxlaya bilsə belə, Twitter bunun üçün 60 min insanı işə götürməlidir. Bunun əvəzinə biz prosesi avtomatlaşdırmaq üçün süni intellekt kimi ağıllı vasitələrdən istifadə edirik."
İnsandan fərqli olaraq, süni intellekt 7/24 işləyə bilər və potensial olaraq daha ədalətli ola bilər, çünki o, öz qaydalarını heç bir şəxsi inanclara müdaxilə etmədən bütün istifadəçilərə bərabər şəkildə tətbiq etmək üçün nəzərdə tutulub, Fox bildirib. Məzmuna nəzarət etməli və nəzarət etməli olan insanlar üçün də xərc var.
"Onlar zorakılığa, nifrətə və iyrənc hərəkətlərə məruz qala bilər ki, bu da insanın psixi sağlamlığına zərər verə bilər" dedi.
Spectrum onlayn nifrət nitqini avtomatik aşkar etməyə çalışan yeganə şirkət deyil. Məsələn, Center Malaysia bu yaxınlarda Malayziya netizenləri arasında nifrət nitqini tapmaq üçün hazırlanmış onlayn izləyicini işə saldı. Onların hazırladıqları proqram təminatı (Tracker Benci) onlayn, xüsusən də Twitter-də nifrət nitqini aşkar etmək üçün maşın öyrənməsindən istifadə edir.
Çətinlik insanların bir-biri ilə konstruktiv əlaqə qura biləcəyi məkanları necə yaratmaqdır.
Məxfilik Narahatlığı
Spektrum kimi texnoloji həllər onlayn nifrət nitqi ilə mübarizə apara bilsə də, kompüterlərin nə qədər polislik etməli olduğuna dair suallar doğurur.
Sözün azadlığına təsirləri var, ancaq yazıları nifrət nitqi kimi silinəcək məruzəçilər üçün deyil, Santa Clara Universitetinin Markkula Tətbiqi Etika Mərkəzinin internet etikası üzrə direktoru İrina Raicu Lifewire-a e-poçtla bildirib. müsahibə.
""Söz azadlığı" adı altında təqiblərə yol verilməsi bu cür çıxışların hədəflərini (xüsusilə də konkret şəxslərə qarşı yönəldildikdə) danışmağı dayandırmağa - müxtəlif söhbətləri və platformaları tamamilə tərk etməyə sövq etdi "dedi Raicu."Çətinlik insanların bir-biri ilə konstruktiv şəkildə əlaqə qura biləcəyi məkanları necə yaratmaqdır."
Şirkətlər monitorinq zamanı ictimaiyyətə açıq məlumatlardan istifadə edərlərsə, AI nitq monitorinqi məxfilik problemləri yaratmamalıdır, Fox dedi. Bununla belə, şirkət problemli istifadəçiləri əvvəlcədən müəyyən etmək üçün istifadəçilərin digər platformalarda necə qarşılıqlı əlaqədə olduğuna dair təfərrüatları satın alırsa, bu, məxfiliklə bağlı narahatlıqları artıra bilər.
"Tətbiqdən asılı olaraq bir az boz sahə ola bilər," o əlavə etdi.
Spectrum Labs-ın baş direktoru Justin Davis Lifewire-a e-poçtda şirkətin texnologiyasının saniyənin kəsirləri ərzində 2 ilə 5 min sıra məlumatı nəzərdən keçirə biləcəyini söylədi. "Ən əsası, texnologiya insan moderatorlarının məruz qaldığı zəhərli məzmunun miqdarını azalda bilər" dedi.
İnsan nitqinin və mətninin onlayn monitorinqində süni intellektdə inqilabın astanasında ola bilərik. Moody bildirib ki, gələcək irəliləyişlərə nifrət nitqinin əvvəllər məlum olmayan formalarını və ya hər hansı digər senzura edilə bilən nümunələri müəyyən etmək üçün daha yaxşı müstəqil və avtonom monitorinq imkanları daxildir.
AI də tezliklə xəbərlərin təhlili, ictimai sənədlər, trafik nümunəsi təhlili, fiziki monitorinq və bir çox başqa seçimlər vasitəsilə spesifik nitq nümunələrində nümunələri tanıya və mənbələri və onların digər fəaliyyətlərini əlaqələndirə biləcək.
Lakin bəzi ekspertlər deyirlər ki, insanlar nifrət nitqini izləmək üçün həmişə kompüterlərlə işləməli olacaqlar.
"Tək süni intellekt işləməyəcək" dedi Raicu. "O, digər cavablarla birlikdə istifadə edilməli olan bir qüsursuz alət kimi tanınmalıdır."
Düzeltmə 25/1/2022: Nəşrdən sonrakı e-poçtu əks etdirmək üçün axırdan 5-ci abzasda Justin Davisdən sitat əlavə edildi.
