Əsas Çıxarışlar
- AI və maşın öyrənmə alqoritmləri insan davranışını izləyir və onlarla manipulyasiya etməyi öyrənə bilər, ekspertlər deyir.
- Tədqiqatçılar bu yaxınlarda insanların süni intellektdən istifadə edərək seçim etmələri zamanı zəiflikləri tapmaq və onlardan istifadə etmək üçün bir yol yaratdılar.
- Bir müşahidəçi deyir ki, hazırda ən mürəkkəb sosial media alqoritmi TikTok-dur.
Süni intellekt (AI) və maşın öyrənmə alqoritmləri getdikcə daha çox istifadəçilərin davranışlarına təsir etməyi öyrənir.
Avstraliyanın milli elm agentliyinin tədqiqatçıları bu yaxınlarda insanların süni intellektdən istifadə edərək seçim etmə yollarında zəiflikləri tapmaq və onlardan istifadə etmək üçün bir yol yaratdılar. Ən son tədqiqat insan qərar qəbulunu manipulyasiya etmək üçün nəzərdə tutulmuş süni intellektlə idarə olunan sistemlər dalğasından sadəcə biridir.
"Artıq süni intellektin davranışa təsir etdiyi bir çox yolların sonu yoxdur," Kentaro Toyama, Miçiqan Universitetinin İnformasiya Məktəbinin professoru və Geek Heresy: Sosial Dəyişikliyi Texnologiya Kultundan xilas etmək kitabının müəllifi, e-poçt müsahibəsində bildirib.
"Əslində, əgər siz nə vaxtsa Google axtarışı etmisinizsə və linki izləmisinizsə, maraqlarınızı təxmin edən və sizin üçün ən uyğun olduğunu düşündüyü nəticələri qaytaran AI sistemi sizə təsir etdi."
AI vs. İnsanlar
Avstraliyada yeni bir məqalədə dərc edilən araşdırmada insan iştirakçılar müxtəlif təcrübələrdə kompüterə qarşı oyunlar oynadılar. İlk sınaqda iştirakçılar pul qazanmaq üçün qırmızı və ya mavi rəngli qutuların üzərinə klikləmişdilər.
Süni intellekt təxminən 70%-də uğurlu olub, iştirakçının seçim nümunələrini öyrənib və onları konkret seçimə istiqamətləndirib.
Başqa bir təcrübədə iştirakçılar ekrana baxıb və onlara müəyyən simvol göstərildikdə düyməni basıb, başqa bir simvol təklif edildikdə isə ona basmayıb. Süni intellekt simvolları yenidən təşkil etməyi öyrəndi, buna görə də iştirakçılar daha çox səhv etdilər.
Təcrübələrin nəticəsi, tədqiqatçılar süni intellektin iştirakçıların cavablarından öyrəndiyi nəticəsinə gəldi. Maşın daha sonra insanların qərar qəbul etməsində zəiflikləri müəyyənləşdirdi və hədəfə aldı. Əslində, süni intellekt iştirakçıları müəyyən hərəkətlər etmək üçün manipulyasiya edə bilər.
Süni intellekt və ya maşın öyrənməsinin insanları manipulyasiya edə bilməsi heç də təəccüblü deyil, müşahidəçilər deyirlər.
"AI hər gün davranışımıza təsir edir" deyə Pensilvaniya ştatının York Kollecində kibertəhlükəsizlik və biznes idarəçiliyi üzrə dosent Tamara Şvarts e-poçt müsahibəsində bildirib.
"Facebook və ya Twitter kimi sosial media proqramlarında alqoritmlər haqqında hər zaman eşidirik. Bu alqoritmlər diqqətimizi əlaqəli məzmuna yönəldir və "əks-səda kamerası" effekti yaradır ki, bu da öz növbəsində davranışımıza təsir edir."
TikTok Baxır
Hazırda ən mürəkkəb sosial media alqoritmi TikTok-dur, Schwartz bildirib. Tətbiq nə ilə maraqlandığınızı, nəyisə nə qədər müddətə izlədiyinizi və nəyisə nə qədər tez ötürdüyünüzü təhlil edir, sonra izləməyinizə davam etmək üçün təkliflərini dəqiqləşdirir.
"TikTok nəyi bəyəndiyinizi, necə öyrəndiyinizi və məlumatı necə seçdiyinizi anlayan bu süni intellekt alqoritmi sayəsində digər platformalardan daha çox asılılıq yaradır" deyə o əlavə edib. "Biz bunu bilirik, çünki istifadəçilərin TikTok-da keçirdiyi orta vaxt 52 dəqiqədir."
Süni intellekt tərəfindən insan davranışının manipulyasiyası müsbət nəticələr verə bilər, AI şirkətinin baş direktoru Chris Nicholson, Pathmind-in e-poçt müsahibəsində iddia etdi. Məsələn, ictimai səhiyyə agentlikləri insanları daha yaxşı qərarlar qəbul etməyə təşviq etmək üçün süni intellektdən istifadə edə bilər.
"Lakin sosial media, video oyun istehsalçıları, reklamçılar və avtoritar rejimlər insanları öz maraqlarına uyğun olmayan qərarlar qəbul etməyə sövq etmək yollarını axtarır və bu, onlara bunu etmək üçün yeni alətlər verəcək," əlavə etdi.
Süni intellektin davranışa təsir göstərməsi ilə bağlı etik problemlər çox vaxt dərəcə ilə bağlıdır, Toyama dedi. Süni intellekt fərdi üstünlüklərdən və zəif cəhətlərdən istifadə oluna bilən fokuslanmış reklamlara imkan verir.
"Məsələn, süni intellekt sistemi siqareti tərgitməyə çalışan insanları müəyyən edə və onları cazibədar siqaret reklamları ilə tərifləyə bilər" deyə o əlavə etdi.
Hər kəs insan davranışının süni intellektlə manipulyasiyasının problemli olması ilə razılaşmır. Stevens Süni İntellekt İnstitutunun direktoru Ceyson J. Korso e-poçt müsahibəsində klassik psixologiya və süni intellekt məlumatları müşahidə edir.
"İnsan alimləri, yəqin ki, müşahidələri ümumiləşdirməkdə və daha geniş tətbiq oluna bilən insan davranışı nəzəriyyələrini distillə etməkdə daha yaxşı olar, halbuki AI modelləri problemə aid nüansları müəyyən etmək üçün daha münasib olardı," Korso dedi.
"Etik baxımdan mən bunlar arasında fərq görmürəm."
