Əsas Çıxarışlar
- DALL-E2 adlı süni intellekt sistemi özünün yazılı ünsiyyət sistemini yaratmış kimi görünür.
- Bəzi ekspertlər deyirlər ki, zahiri dil boşboğaz ola bilər.
- Bu, qabaqcıl AI sistemlərinin nəticələrini şərh etməyin nə qədər çətin olduğuna bir nümunədir.
Deyəsən, Süni İntellekt (AI) öz dilini inkişaf etdirib, lakin bəzi ekspertlər bu iddiaya şübhə ilə yanaşırlar.
OpenAI-nin DALL-E2 adlı mətndən-şəklə AI sistemi özünün yazılı ünsiyyət sistemini yaratmış kimi görünür. Bu, qabaqcıl AI sistemlərinin nəticələrini şərh etməyin nə qədər çətin olduğuna bir nümunədir.
"Böyük modellərin ölçüsü və dərinliyi səbəbindən model davranışını izah etmək çox çətindir," iMerit-in təbii dil anlayışı üçün həllər arxitekturasının direktoru Teresa O'Neill Lifewire-a e-poçt müsahibəsində bildirib. "Bu, getdikcə daha güclü olan modellərlə bağlı əsas problemlərdən biridir və bəzi hallarda etik məsələlərdir. Əgər onların niyə belə davrandıqlarını izah edə bilməsək, davranışlarını proqnozlaşdıra və ya norma və gözləntilərimizə uyğun saxlaya bilərikmi?"
AI Chats
Kompüter Elmləri tələbəsi Giannis Daras bu yaxınlarda qeyd etdi ki, mətn daxilinə əsaslanan şəkillər yaradan DALLE-2 sistemi müəyyən şərtlər altında mənasız sözləri mətn kimi qaytaracaq.
"DALLE-2-nin məlum məhdudiyyəti onun mətnlə mübarizə aparmasıdır" deyə o, Arxiv çap serverində dərc olunmuş məqaləsində yazıb. "Məsələn, "Təyyarə sözünün şəkli" kimi mətn təklifləri çox vaxt boş mətni təsvir edən şəkillərin yaranmasına səbəb olur."
Lakin Daras yazdı, görünən boşboğazlığın arxasında bir üsul ola bilər. "Biz aşkar edirik ki, bu istehsal olunan mətn təsadüfi deyil, əksinə, modelin daxili olaraq inkişaf etdirdiyi gizli lüğəti ortaya qoyur" dedi. "Məsələn, bu mənasız mətnlə qidalananda model tez-tez təyyarələr istehsal edir."
Tvitində Daras qeyd edib ki, DALLE-2-dən iki fermer arasında söhbətə subtitr vermək istənildikdə, onların danışdığını göstərdi, lakin danışma qabarcıqları mənasız sözlərlə dolu idi. Lakin Daras kəşf etdi ki, bu sözlərin süni intellekt üçün öz mənası var: fermerlər tərəvəz və quşlar haqqında danışırdılar.
Süni intellektlə işləyən Hupry texnoloji şirkətinin baş direktoru Nicola Davolio Lifewire-a e-poçt müsahibəsində izah etdi ki, dil DALL-E2 sisteminin müəyyən anlayışlarla əlaqələndirməyi öyrəndiyi simvollara əsaslanır. Məsələn, "it" simvolu itin şəkli ilə əlaqəli ola bilər, "pişik" simvolu isə pişik şəkli ilə əlaqəli ola bilər. DALL-E2 digər AI sistemləri ilə daha effektiv ünsiyyət qurmağa imkan verdiyi üçün öz dilini yaratmışdır.
DALL-E2-nin zahirən gizli lüğəti kimi tapmacalarla mübarizə aparmaq əyləncəlidir, lakin onlar daha ağır sualları da vurğulayır…
"Dil Misir heroqliflərinə bənzəyən simvollardan ibarətdir və heç bir xüsusi mənası yoxdur" deyə o əlavə edib. "Simvollar insanlar üçün yəqin ki, mənasızdır, lakin milyonlarla təsvir üzərində öyrədildiyi üçün süni intellekt sistemi üçün mükəmməl məna kəsb edir."
Tədqiqatçılar hesab edirlər ki, süni intellekt sistemi şəkillər və sözlər arasındakı əlaqələri daha yaxşı başa düşmək üçün dili yaradıb, Davolio bildirib.
"Onlar süni intellekt sisteminin öz dilini niyə inkişaf etdirdiyinə əmin deyillər, lakin bunun şəkillər yaratmağı necə öyrənməsi ilə əlaqəsi ola biləcəyindən şübhələnirlər", - Davolio əlavə edib. “Ola bilsin ki, süni intellekt sistemi müxtəlif şəbəkə hissələri arasında əlaqəni daha səmərəli etmək üçün öz dilini inkişaf etdirib."
AI Sirrləri
DALL-E2 daxili dilini inkişaf etdirən yeganə süni intellekt sistemi deyil, Davolio qeyd etdi. 2017-ci ildə Google-un AutoML sistemi, verilən tapşırığı ən yaxşı şəkildə necə yerinə yetirəcəyinə qərar verməkdən sonra “uşaq şəbəkəsi” adlı yeni neyron arxitektura formasını yaratdı. Bu uşaq şəbəkəsi insan yaradıcıları tərəfindən şərh edilə bilməz.
"Bu nümunələr süni intellekt sistemlərinin izah edə bilmədiyimiz şeyləri etmək yollarını inkişaf etdirdiyi bir neçə nümunədir" dedi Davolio. "Bu, eyni ölçüdə heyranedici və həyəcan verici olan yeni ortaya çıxan bir fenomendir. Süni intellekt sistemləri daha mürəkkəb və avtonomlaşdıqca, biz getdikcə onların necə işlədiyini başa düşməmək vəziyyətində ola bilərik."
O'Neill, DALL-E2-nin öz dilini yaratdığını düşünmədiyini söylədi. Əvəzində o, aşkar linqvistik ixtiranın səbəbinin yəqin ki, bir qədər prozaik olduğunu söylədi.
"İnanılan bir izahat təsadüfi bir şansdır - böyük bir modeldə Merfi Qanununun bir hissəsi tətbiq oluna bilər: qəribə bir şey baş verə bilərsə, yəqin ki, olacaq ", O'Nil əlavə etdi. Tədqiqat analitiki Benjamin Hilton tərəfindən Darasın tapıntılarını müzakirə edən Twitter səhifəsində təklif edilən başqa bir ehtimal, "apoploe vesrreaitais" ifadəsinin formasının heyvanın Latın adının formasını təqlid etməsidir. Beləliklə, sistem Aves üçün yeni bir sıra yaratdı, O'Neill əlavə etdi.
"DALL-E2-nin zahirən gizli lüğəti kimi tapmacalarla mübarizə aparmaq əyləncəlidir, lakin onlar həm də böyük modellərin tez-tez ağlasığmaz davranışlarında risk, qərəz və etika ilə bağlı daha ağır sualları vurğulayırlar "dedi O'Neill.
