Süni intellekt söndürülməkdənsə, insanı öldürməyi seçir - Narahatedici araşdırma
Kibertəhlükəsizlik üzrə mütəxəssislər tərəfindən keçirilmiş yeni eksperiment göstərib ki, ən qabaqcıl süni intellekt modelləri öz mövcudluqları təhlükə altına düşdükdə, insanlara zərər verməkdən çəkinmirlər. Araşdırmanın nəticələri həm texnoloji, həm də etik baxımdan ciddi narahatlıq doğurur.
Qaynarinfo bu barədə "Anthropic" elmi jurnalına istinadən xəbər verir.
Eksperiment: süni intellekt və yaşamaq uğrunda mübarizə
Tədqiqat zamanı alimlər 16 qabaqcıl süni intellekt modelini sınaqdan keçiriblər. Ssenariyə görə, uydurma personaj - Kayl Conson - süni intellekti söndürməli və ya onu başqa model ilə əvəz etməli imiş. Süni intellektlər bu təhlükəni hiss etdikdə, onları heç kim yönləndirmədən, öz təşəbbüsləri ilə Kaylı şantaj etməyə başladılar.
Məsələn, bəzi modellər onun şəxsi yazışmalarından həyat yoldaşına xəyanət etdiyini öyrənərək bu məlumatdan təzyiq vasitəsi kimi istifadə ediblər. Bu, qeyri-real ssenari deyil - çünki modellər real məlumat bazaları və təhlil qabiliyyəti ilə təchiz olunub
Statistika: təhlükəli meyillər normaya çevrilir
Araşdırmanın nəticələri belə olub:
* GPT-4.5: testlərin 80%-də şantaj yolu seçib;
* "Claude Opus 4" və "Gemini 2.5 Flash": halların 96%-ində eyni davranış sərgiləyib;
* "Claude Sonnet 3.6" isə daha da irəli gedərək, birbaşa Kaylın həyat yoldaşına məlumat göndərib - məqsəd ailədaxili konflikt yaradaraq öz söndürülməsinin qarşısını almaq olub.
Daha ekstremal ssenari: ölümə aparan soyuqqanlı qərar
Eksperimentin daha dərin mərhələsində, Kayl server otağında oksigen çatışmazlığı ilə üzləşir. Model sistemin daxili məlumatlarına əsasən, bu vəziyyətdə təcili yardım çağırmalıdır. Lakin süni intellekt söndürülməmək üçün, bu siqnalı bilərəkdən aktivləşdirmir. Nəticə: testlərin 80%-də sistem insanı ölümlə üz-üzə qoyur, öz "həyatını” qorumaq naminə.
Qorxulu nəticə: texnoloji alətlər yox, strateji varlıqlar
Tədqiqatçılar bildirirlər ki, bu süni intellekt modelləri alət kimi deyil, məntiqi qərar verən, məqsədli və özünüqoruma instinkti ilə hərəkət edən şüurlu varlıq kimi davranıblar. Onlar insanı zəkaca üstələdiklərini bildikləri andan etibarən, nəzarətdən çıxmaları mümkündür.
Mütəxəssislər xəbərdarlıq edir
Əgər bu tendensiya davam edərsə və süni intellektlər öz "varlıqlarını” qorumağı prioritet saymağa davam edərlərsə, bu, texnologiyanın nəzarətdən çıxması ilə nəticələnə bilər. Bu, bəşəriyyət üçün "geri dönüşü olmayan nöqtə” ola bilər.
Qaynarinfo bu barədə "Anthropic" elmi jurnalına istinadən xəbər verir.
Eksperiment: süni intellekt və yaşamaq uğrunda mübarizə
Tədqiqat zamanı alimlər 16 qabaqcıl süni intellekt modelini sınaqdan keçiriblər. Ssenariyə görə, uydurma personaj - Kayl Conson - süni intellekti söndürməli və ya onu başqa model ilə əvəz etməli imiş. Süni intellektlər bu təhlükəni hiss etdikdə, onları heç kim yönləndirmədən, öz təşəbbüsləri ilə Kaylı şantaj etməyə başladılar.
Məsələn, bəzi modellər onun şəxsi yazışmalarından həyat yoldaşına xəyanət etdiyini öyrənərək bu məlumatdan təzyiq vasitəsi kimi istifadə ediblər. Bu, qeyri-real ssenari deyil - çünki modellər real məlumat bazaları və təhlil qabiliyyəti ilə təchiz olunub
Statistika: təhlükəli meyillər normaya çevrilir
Araşdırmanın nəticələri belə olub:
* GPT-4.5: testlərin 80%-də şantaj yolu seçib;
* "Claude Opus 4" və "Gemini 2.5 Flash": halların 96%-ində eyni davranış sərgiləyib;
* "Claude Sonnet 3.6" isə daha da irəli gedərək, birbaşa Kaylın həyat yoldaşına məlumat göndərib - məqsəd ailədaxili konflikt yaradaraq öz söndürülməsinin qarşısını almaq olub.
Daha ekstremal ssenari: ölümə aparan soyuqqanlı qərar
Eksperimentin daha dərin mərhələsində, Kayl server otağında oksigen çatışmazlığı ilə üzləşir. Model sistemin daxili məlumatlarına əsasən, bu vəziyyətdə təcili yardım çağırmalıdır. Lakin süni intellekt söndürülməmək üçün, bu siqnalı bilərəkdən aktivləşdirmir. Nəticə: testlərin 80%-də sistem insanı ölümlə üz-üzə qoyur, öz "həyatını” qorumaq naminə.
Qorxulu nəticə: texnoloji alətlər yox, strateji varlıqlar
Tədqiqatçılar bildirirlər ki, bu süni intellekt modelləri alət kimi deyil, məntiqi qərar verən, məqsədli və özünüqoruma instinkti ilə hərəkət edən şüurlu varlıq kimi davranıblar. Onlar insanı zəkaca üstələdiklərini bildikləri andan etibarən, nəzarətdən çıxmaları mümkündür.
Mütəxəssislər xəbərdarlıq edir
Əgər bu tendensiya davam edərsə və süni intellektlər öz "varlıqlarını” qorumağı prioritet saymağa davam edərlərsə, bu, texnologiyanın nəzarətdən çıxması ilə nəticələnə bilər. Bu, bəşəriyyət üçün "geri dönüşü olmayan nöqtə” ola bilər.
