Əsas Çıxarışlar
- ToxMod, Bostonda yerləşən Modulate şirkəti tərəfindən real vaxt rejimində pozucu nitqi avtomatik aşkar edib ona qarşı fəaliyyət göstərdiyini iddia edir.
- Sadə dillə məhdudlaşdırılmaq əvəzinə, ToxMod emosiya, həcm və ritm kimi qeyri-maddiləri müəyyən etmək üçün maşın öyrənməsindən istifadə edir.
- ToxMod hazırda oyundaxili söhbət otaqları ilə istifadə üçün nəzərdə tutulub, lakin onun Twitch kanalınıza gəlməməsi üçün heç bir səbəb yoxdur.
Bostonda yerləşən bir şirkət, deyilənlərlə onun mənasını ayırd edə bilən dünyanın ilk səsli moderasiya xidməti kimi təqdim etdiklərini yaratmaq üçün maşın öyrənməsindən istifadə edir.
ToxMod İnternetdə istənilən açıq məkanı moderasiya etmək paradoksunu həll etmək cəhdidir; tələbi qarşılamaq üçün kifayət qədər insan yoxdur, lakin alqoritmlər, filtrlər və hesabat sistemi nüansı başa düşmür.
ToxMod-un verilənlər bazası ilə o, oyunçuların nitqindəki emosiya və səs səviyyəsi kimi amilləri izləyə bilər ki, bu da ona bir anlıq fasilə və davranış nümunəsi arasında fərq qoymağa kömək edir. Bu yaxınlarda bu, hazırda Steam Erkən Girişdə olan 7v7 Amerika futbol oyununa Gridiron əlavəsi kimi elan edildi.
"Hər kəs bilir ki, səsli söhbətdə və oyunlarda təqib, nifrət nitqi və toksiklik böyük problemdir. Bu, hamı tərəfindən başa düşülür" dedi. Lifewire. "Biz bu müxtəlif maşın öyrənmə sistemləri vasitəsilə əldə etdiyimiz xüsusiyyətləri götürə və icmadan öyrəndiyimiz bütün bu ekspert biliklərini nəzərə alan bir sistemə birləşdirə bilərik."
Yeni Robot Moderatorlarımızı salamlayıram
Modulate keçən payızdan bəri ToxMod üzərində işləyir və onu şirkətin üç əsas xidmətindən biri kimi birləşdirir. O, həmçinin maşın öyrənməsi ilə dəstəklənən səs maskası VoiceWear və istifadəçilərə icmalarındakı insanların nələri müzakirə etdiyini öyrənməyə imkan verən toplayıcı xidməti VoiceVibe təklif edir.
ToxMod söhbətdə işləyərkən, xəbərdarlıqların verilməsi, oyunçuların səsini kəsmək və ya fərdi olaraq səs səviyyəsini tənzimləmək kimi müxtəlif avtomatik tədbirlər görmək üçün Modulatın admin paneli vasitəsilə proqramlaşdırıla bilər.
Təsdiq üçün Modulate serverləri ilə yoxlamadan əvvəl yerli instansiyasının ilk addım atdığı triaj sistemindən istifadə edir. Sonra nəhayət, insan müdaxiləsini tələb edə biləcək nöqtəyə çatır. Modulatın "triaj qapıları" adlandırdığı hər yoxlamadan növbə ilə keçməklə, ideya ondan ibarətdir ki, ToxMod kiçik moderatorlar qrupuna daha böyük icmanı effektiv şəkildə idarə etmək üçün alətlər verir.
"Kədərli həqiqət odur ki, hər kəs bu təcrübəni yaşayıb, hansı platformada olursan ol, səsli söhbətdən istifadə etməyə cəhd edib və bunu kəşf edib, oğlum, bu pis fikirdir" dedi Modulate şirkətinin baş direktoru Mayk Pappas. Lifewire ilə video zəng. "İçəri girib "Bura Vəhşi Qərb deyil. Qaydalar var" deyə bilmək. Məncə, bu, həqiqətən də vacibdir."
Sistemi Qırmaq
Təbii ki, ToxMod haqqında veriləcək ikinci və ya üçüncü sual onu necə pozmaqdır.
Twitter-i idarə edən alqoritmlər kimi bir çox avtomatik moderasiya sistemləri ilə onları bəyənmədiyiniz insanlara qarşı oynamaq asandır. Sadəcə bir neçə corab-kukla hesabları ilə hədəfinizi kütləvi şəkildə bildirin və onlar etibarlı şəkildə qadağanı yeyəcəklər.
"Əsas səviyyədə ToxMod-un bu əlavə oyunçu hesabatlarına etibar etməsinə ehtiyac yoxdur" dedi Pappas. “Hansı cinayətlərə diqqət yetirməli olduğumuza dair dəqiq təxminlər verə bilir. Oyunçuların sistemi oynamağa çalışmasından narahat olmaq lazım deyil, çünki oyun üçün heç nə yoxdur.
Hər kəs bilir ki, səsli söhbətdə və oyunda təqib, nifrət nitqi və toksiklik böyük problemdir.
"Bir oyunçu kimi üzərində nəzarət edə biləcəyiniz tək şey öz səsinizdir" deyə Pappas davam etdi. "Edə biləcəyiniz ən pis şey, bir insana qarşı daha az pis olmaqdır, ona görə də sizi pis aktyor kimi qeyd etməyək, mən deyərdim ki, bu, missiyanın uğuruna yaxın bir şeydir."
Ümumiyyətlə, ToxMod-un arxasında duran ideya aktiv rekultivasiya cəhdidir. Bu nöqtədə bir çox oyunçu təsadüfi təhqirlərdən tutmuş aktiv təhdidlərə qədər açıq səs kanallarında təsadüfi qəriblər tərəfindən bir növ təcavüzlə qarşılaşdı. Nəticədə, oyunçular ümumiyyətlə səsli söhbətdən çəkinir və öz rahatlıqları müqabilində onun rahatlığından imtina etməyə üstünlük verirlər.
"Görməyimizi gözlədiyimiz şey [pis aktyorlar tapılmadan və silinmədən əvvəl səsli söhbətə daha az vaxt sərf edirlər"" dedi Pappas."Bu, sadəcə xətti təsirdən daha çox şeyə malikdir. Hər kəs səsli söhbəti daha təhlükəsiz yer kimi görəndə, daha çox yaxşı aktyor səsli çata qayıtmağa və onu sınamağa hazırdır. Məncə, hər şey müsbət istiqamətdə inkişaf edə bilər."
