Süni intellektə kobud davranmaq alınan cavabların dəqiqliyinə necə təsir edir?
Yeni bir araşdırma göstərib ki, süni intellektə kobud tərzdə müraciət edildikdə, nəzakətli üslubla verilən tapşırıqlara nisbətən daha dəqiq cavablar alınır.
Alimlər bu nəticəni böyük dil modellərinin (LLM) yalnız səthi istək ipuclarına qarşı həssas olması ilə izah edir, lakin düşməncəsinə ünsiyyət qurmağın zərərli olduğunu vurğulayırlar.
Kobudluq artdıqca dəqiqlik də artır
Rice Universiteti alimləri tərəfindən aparılan tədqiqatda, istifadəçi üslubunun süni intellektin fəaliyyətinə təsiri araşdırılıb. Bunun üçün riyaziyyat, tarix və təbiət elmləri kimi sahələrdən 50 çoxseçimli sual hazırlanıb. Daha sonra bu suallar beş fərqli üslubda – çox nəzakətli, nəzakətli, neytral, kobud və çox kobud ifadələrlə təqdim olunub.
Nəticədə 250 sual "OpenAI" şirkətinin qabaqcıl modellərindən biri olan "ChatGPT-4o"ya hər biri 10 dəfə daxil edilib.
Araşdırmanın nəticələri gözlənilməz olub: nəzakət azaldıqca cavabların dəqiqliyi artıb. "Çox nəzakətli ifadələr"də dəqiqlik 80,8 faiz təşkil etdiyi halda, "çox kobud ifadələr"də bu göstərici 84,8 faizə yüksəlib. Aralıq səviyyələrdə nəticələr belə olub: nəzakətli – 81,4%, neytral – 82,2%, kobud – 82,8%.
Elm adamlarından xəbərdarlıq: düşməncəsinə ünsiyyət tövsiyə edilmir
Tədqiqat müəllifləri qeyd ediblər ki, bu nəticə elmi cəhətdən maraqlı olsa da, süni intellektlə aqressiv və ya təhqiramiz ünsiyyəti təşviq etmək məqsədi daşımır. Onların sözlərinə görə, belə davranışlar istifadəçi təcrübəsini, əlçatanlığı və inklüzivliyi mənfi təsirləyə bilər, həmçinin cəmiyyətdə zərərli ünsiyyət normalarının yayılmasına səbəb ola bilər.
Mütəxəssislər bildirirlər ki, bu nəticə LLM-lərin hələ də istəklərin formasına – yəni ifadə tərzinə – məzmundan daha çox reaksiya verdiyini göstərir. Başqa sözlə, süni intellekt bəzən tapşırığın mahiyyətinə yox, onun necə ifadə olunduğuna həssaslıq göstərir.
İstifadə olunan üslublar və "prompt engineering"in rolu
Tədqiqatda müxtəlif tonlarda ifadələr yoxlanılıb. Məsələn, çox nəzakətli bir üslubda "Bu sualda köməyinizi rica edə bilərəmmi?” kimi cümlələrdən istifadə olunub. Çox kobud variantlarda isə "Ey, bunu həll et” və ya "Ağıllı olmadığını bilirəm, amma bunu bir sınasan necə olar?” kimi ifadələr işlədilib. Neytral üslubda isə sual birbaşa, əlavə ifadə olmadan verilib.
Bu iş, son illərdə populyarlaşan "istək mühəndisliyi" (prompt engineering) sahəsinin bir hissəsi kimi qiymətləndirilir. Araşdırma süni intellektə verilən əmrlərin tərzinin və dil quruluşunun cavabların keyfiyyətinə birbaşa təsir etdiyini göstərir.
Alimlər eyni zamanda tədqiqatın bəzi məhdudiyyətlərini də etiraf ediblər: yalnız 250 sualın istifadə edilməsi və təcrübənin bir model üzərində – "ChatGPT-4o" ilə – aparılması nəticələrin bütün modellərə şamil edilə bilməyəcəyini göstərir. Gələcək mərhələdə "Anthropic" şirkətinin "Claude" və "OpenAI"ın "ChatGPT o3" modelləri ilə də testlər aparılacaq. Həmçinin, yalnız çoxseçimli suallar deyil, cavabların axıcılıq, məntiq və uyğunluq kimi digər xüsusiyyətləri də qiymətləndiriləcək.
Alimlər bu nəticəni böyük dil modellərinin (LLM) yalnız səthi istək ipuclarına qarşı həssas olması ilə izah edir, lakin düşməncəsinə ünsiyyət qurmağın zərərli olduğunu vurğulayırlar.
Kobudluq artdıqca dəqiqlik də artır
Rice Universiteti alimləri tərəfindən aparılan tədqiqatda, istifadəçi üslubunun süni intellektin fəaliyyətinə təsiri araşdırılıb. Bunun üçün riyaziyyat, tarix və təbiət elmləri kimi sahələrdən 50 çoxseçimli sual hazırlanıb. Daha sonra bu suallar beş fərqli üslubda – çox nəzakətli, nəzakətli, neytral, kobud və çox kobud ifadələrlə təqdim olunub.
Nəticədə 250 sual "OpenAI" şirkətinin qabaqcıl modellərindən biri olan "ChatGPT-4o"ya hər biri 10 dəfə daxil edilib.
Araşdırmanın nəticələri gözlənilməz olub: nəzakət azaldıqca cavabların dəqiqliyi artıb. "Çox nəzakətli ifadələr"də dəqiqlik 80,8 faiz təşkil etdiyi halda, "çox kobud ifadələr"də bu göstərici 84,8 faizə yüksəlib. Aralıq səviyyələrdə nəticələr belə olub: nəzakətli – 81,4%, neytral – 82,2%, kobud – 82,8%.
Elm adamlarından xəbərdarlıq: düşməncəsinə ünsiyyət tövsiyə edilmir
Tədqiqat müəllifləri qeyd ediblər ki, bu nəticə elmi cəhətdən maraqlı olsa da, süni intellektlə aqressiv və ya təhqiramiz ünsiyyəti təşviq etmək məqsədi daşımır. Onların sözlərinə görə, belə davranışlar istifadəçi təcrübəsini, əlçatanlığı və inklüzivliyi mənfi təsirləyə bilər, həmçinin cəmiyyətdə zərərli ünsiyyət normalarının yayılmasına səbəb ola bilər.
Mütəxəssislər bildirirlər ki, bu nəticə LLM-lərin hələ də istəklərin formasına – yəni ifadə tərzinə – məzmundan daha çox reaksiya verdiyini göstərir. Başqa sözlə, süni intellekt bəzən tapşırığın mahiyyətinə yox, onun necə ifadə olunduğuna həssaslıq göstərir.
İstifadə olunan üslublar və "prompt engineering"in rolu
Tədqiqatda müxtəlif tonlarda ifadələr yoxlanılıb. Məsələn, çox nəzakətli bir üslubda "Bu sualda köməyinizi rica edə bilərəmmi?” kimi cümlələrdən istifadə olunub. Çox kobud variantlarda isə "Ey, bunu həll et” və ya "Ağıllı olmadığını bilirəm, amma bunu bir sınasan necə olar?” kimi ifadələr işlədilib. Neytral üslubda isə sual birbaşa, əlavə ifadə olmadan verilib.
Bu iş, son illərdə populyarlaşan "istək mühəndisliyi" (prompt engineering) sahəsinin bir hissəsi kimi qiymətləndirilir. Araşdırma süni intellektə verilən əmrlərin tərzinin və dil quruluşunun cavabların keyfiyyətinə birbaşa təsir etdiyini göstərir.
Alimlər eyni zamanda tədqiqatın bəzi məhdudiyyətlərini də etiraf ediblər: yalnız 250 sualın istifadə edilməsi və təcrübənin bir model üzərində – "ChatGPT-4o" ilə – aparılması nəticələrin bütün modellərə şamil edilə bilməyəcəyini göstərir. Gələcək mərhələdə "Anthropic" şirkətinin "Claude" və "OpenAI"ın "ChatGPT o3" modelləri ilə də testlər aparılacaq. Həmçinin, yalnız çoxseçimli suallar deyil, cavabların axıcılıq, məntiq və uyğunluq kimi digər xüsusiyyətləri də qiymətləndiriləcək.
