ChatGPT-nin yazdığı mətnlərə görünməz işarələr əlavə edilir
"OpenAI", ChatGPT və "Codex" vasitəsilə yaradılan mətnlərə görünməz filiqran əlavə etməyə hazırlaşır. Şirkətin “textGrain” adlandırdığı sistem ilkin mərhələdə Avropa İttifaqı ölkələrində istifadəyə veriləcək.
Yeni texnologiya mətnin "OpenAI" alətləri ilə yaradılıb-yaradılmadığını müəyyənləşdirməyə kömək edəcək. Bu addım Avropa İttifaqının süni intellektlə yaradılan məzmunların maşınlar tərəfindən tanına biləcək formada işarələnməsini tələb edən qanunvericiliyinə uyğunlaşmaq məqsədi daşıyır.
“textGrain” istifadəçinin görə bilmədiyi işarəni mətnə yerləşdirir. Bunun üçün modelin söz seçimlərinə statistik siqnal əlavə olunur. "OpenAI" tərəfindən hazırlanmış ayrıca aşkarlama vasitəsi isə həmin siqnalın mətndə olub-olmadığını yoxlayır.
Bununla belə, sistem süni intellekt tərəfindən yaradılmış mətnləri tam dəqiqliklə müəyyən edə bilməyəcək. "OpenAI" də aşkarlama vasitəsinin bəzi hallarda filiqranı tapa bilməyəcəyini və ya filiqran olmayan mətni səhvən işarələyə biləcəyini bildirir.
Testlər göstərib ki, mətn üzərində dəyişikliklər edilməsi aşkarlama imkanlarını əhəmiyyətli dərəcədə azalda bilər. Şirkətin 400 sözlük mətn parçaları üzərində apardığı sınaqda sözlərin 10 faizinin sinonimlərlə əvəzlənməsi filiqranın aşkarlanma göstəricisini təxminən 92 faizdən 66 faizə endirib. Dəyişikliklərin 25 faizə çatdırılması zamanı isə bu göstərici 17 faizə qədər düşüb.
Qısa mətnlərdə də filiqranın aşkarlanmasının daha çətin olduğu qeyd edilir. Tərcümə, redaktə və yenidən yazma kimi proseslər də sistemin effektivliyini azalda bilər.
Filiqran mətnin kim tərəfindən hazırlandığını, hansı hesabdan istifadə edildiyini və ya hansı sorğunun verildiyini göstərməyəcək. Eyni zamanda məzmunun düzgünlüyünü və onun hazırlanmasında insanın nə qədər iştirak etdiyini müəyyənləşdirməyəcək.
"OpenAI" ilkin mərhələdə aşkarlama alətini geniş ictimaiyyətə təqdim etməyəcək. Ona yalnız təsdiqlənmiş tədqiqatçılar və ekspert təşkilatlar çıxış əldə edə biləcəklər.
Şirkət API istifadəçilərinə də dəstəklənən modellərdə filiqranlı mətn istehsalını istəyə bağlı aktivləşdirmək imkanı verəcək. Bu funksiya API tərəfində standart olaraq deaktiv saxlanılacaq.
//valyuta.az
Yeni texnologiya mətnin "OpenAI" alətləri ilə yaradılıb-yaradılmadığını müəyyənləşdirməyə kömək edəcək. Bu addım Avropa İttifaqının süni intellektlə yaradılan məzmunların maşınlar tərəfindən tanına biləcək formada işarələnməsini tələb edən qanunvericiliyinə uyğunlaşmaq məqsədi daşıyır.
“textGrain” istifadəçinin görə bilmədiyi işarəni mətnə yerləşdirir. Bunun üçün modelin söz seçimlərinə statistik siqnal əlavə olunur. "OpenAI" tərəfindən hazırlanmış ayrıca aşkarlama vasitəsi isə həmin siqnalın mətndə olub-olmadığını yoxlayır.
Bununla belə, sistem süni intellekt tərəfindən yaradılmış mətnləri tam dəqiqliklə müəyyən edə bilməyəcək. "OpenAI" də aşkarlama vasitəsinin bəzi hallarda filiqranı tapa bilməyəcəyini və ya filiqran olmayan mətni səhvən işarələyə biləcəyini bildirir.
Testlər göstərib ki, mətn üzərində dəyişikliklər edilməsi aşkarlama imkanlarını əhəmiyyətli dərəcədə azalda bilər. Şirkətin 400 sözlük mətn parçaları üzərində apardığı sınaqda sözlərin 10 faizinin sinonimlərlə əvəzlənməsi filiqranın aşkarlanma göstəricisini təxminən 92 faizdən 66 faizə endirib. Dəyişikliklərin 25 faizə çatdırılması zamanı isə bu göstərici 17 faizə qədər düşüb.
Qısa mətnlərdə də filiqranın aşkarlanmasının daha çətin olduğu qeyd edilir. Tərcümə, redaktə və yenidən yazma kimi proseslər də sistemin effektivliyini azalda bilər.
Filiqran mətnin kim tərəfindən hazırlandığını, hansı hesabdan istifadə edildiyini və ya hansı sorğunun verildiyini göstərməyəcək. Eyni zamanda məzmunun düzgünlüyünü və onun hazırlanmasında insanın nə qədər iştirak etdiyini müəyyənləşdirməyəcək.
"OpenAI" ilkin mərhələdə aşkarlama alətini geniş ictimaiyyətə təqdim etməyəcək. Ona yalnız təsdiqlənmiş tədqiqatçılar və ekspert təşkilatlar çıxış əldə edə biləcəklər.
Şirkət API istifadəçilərinə də dəstəklənən modellərdə filiqranlı mətn istehsalını istəyə bağlı aktivləşdirmək imkanı verəcək. Bu funksiya API tərəfində standart olaraq deaktiv saxlanılacaq.
//valyuta.az
