Süni intellektlə bağlı qorxulu PROQNOZ: onilliyin sonuna qədər bəşəriyyəti məhv edə bilər
Süni intellekt bu onilliyin sonuna qədər nəzarətdən çıxaraq bəşəriyyətin mövcudluğu üçün ciddi təhlükəyə çevrilə bilər.
Median.Az xarici KİV-ə istinadən xəbər verir ki, bu barədə “Anthropic” şirkətinin keçmiş tədqiqatçısı Ceykob Kokson bildirib.
Şirkətin təhlükəsizlik üzrə komandalarından birinin rəhbəri Evan Habinger də süni intellektin özünü təkmilləşdirmə sürətindən ciddi narahat olduğunu açıqlayıb.
Əvvəllər “OpenAI”da da çalışan Ceykob Kokson süni intellekt sistemlərinin təlimi ilə məşğul olduğu “Anthropic” şirkətindən ayrılıb. O, qərarını şirkətin təhlükəsizlik məsələlərinə kifayət qədər ciddi yanaşmaması ilə izah edib.
Kokson “X” sosial şəbəkəsində paylaşdığı yazıda “OpenAI” və “Anthropic” şirkətlərinin faktiki olaraq özünü təkmilləşdirə və özünü çoxalda bilən superintellekt yaratmaq uğrunda yarışdığını iddia edib.
Tədqiqatçının sözlərinə görə, şirkətlər süni intellektin potensial olaraq fəlakətli nəticələr yarada biləcəyini bildikləri halda bu istiqamətdə işi davam etdirirlər.
“Onlar bizim həyatımızla oynayırlar”, – deyə Kokson bildirib.
Onun fikrincə, öz imkanlarını müstəqil şəkildə təkmilləşdirə bilən sistem yaradılarsa, texnologiyanın inkişafı insanların nəzarətindən çıxa bilər.
“Anthropic” şirkətinin təhlükəsizlik komandalarından birinə rəhbərlik edən Evan Habinger də Koksonun fikirlərinə reaksiya verərək süni intellektin özünü təkmilləşdirməsinin sürətindən narahat olduğunu bildirib.
Onun sözlərinə görə, bu proses əvvəl düşünüldüyündən daha sürətlə gedir.
Habinger hətta süni intellektin bütün bəşəriyyətin məhvinə səbəb ola biləcəyi ssenarini istisna etməyib və belə bir ehtimalı 10 faizdən çox qiymətləndirib.
Mütəxəssisləri ən çox narahat edən məqam öz imkanlarını müstəqil şəkildə yaxşılaşdıra bilən süni intellekt sisteminin yaradılmasıdır. Nəzəri baxımdan belə bir sistem ardıcıl olaraq özünü təkmilləşdirə və inkişaf sürətini insanların nəzarət edə bilməyəcəyi səviyyəyə çatdıra bilər.
Süni intellekt təhlükəsizliyi üzrə mütəxəssislər uzun illərdir belə risklər barədə xəbərdarlıq edirlər. Hazırda süni intellekt artıq yeni texnologiyaların hazırlanmasında istifadə edilən proqram kodlarının bir hissəsini özü yarada bilir.
Habingerin sözlərinə görə, “Anthropic” şirkətinin son dərəcə güclü süni intellekt sistemlərinin təhlükəsizliyini və onların insan dəyərlərinə uyğunluğunu təmin edəcək yetərli planı hələ yoxdur.
Oxşar narahatlıqları daha əvvəl müasir süni intellektin qabaqcıllarından biri hesab edilən Nobel mükafatı laureatı Cefri Hinton da səsləndirib. O, süni intellekt texnologiyalarının sürətli inkişafının potensial təhlükəli nəticələri barədə dəfələrlə xəbərdarlıq edib.
Median.Az xarici KİV-ə istinadən xəbər verir ki, bu barədə “Anthropic” şirkətinin keçmiş tədqiqatçısı Ceykob Kokson bildirib.
Şirkətin təhlükəsizlik üzrə komandalarından birinin rəhbəri Evan Habinger də süni intellektin özünü təkmilləşdirmə sürətindən ciddi narahat olduğunu açıqlayıb.
Əvvəllər “OpenAI”da da çalışan Ceykob Kokson süni intellekt sistemlərinin təlimi ilə məşğul olduğu “Anthropic” şirkətindən ayrılıb. O, qərarını şirkətin təhlükəsizlik məsələlərinə kifayət qədər ciddi yanaşmaması ilə izah edib.
Kokson “X” sosial şəbəkəsində paylaşdığı yazıda “OpenAI” və “Anthropic” şirkətlərinin faktiki olaraq özünü təkmilləşdirə və özünü çoxalda bilən superintellekt yaratmaq uğrunda yarışdığını iddia edib.
Tədqiqatçının sözlərinə görə, şirkətlər süni intellektin potensial olaraq fəlakətli nəticələr yarada biləcəyini bildikləri halda bu istiqamətdə işi davam etdirirlər.
“Onlar bizim həyatımızla oynayırlar”, – deyə Kokson bildirib.
Onun fikrincə, öz imkanlarını müstəqil şəkildə təkmilləşdirə bilən sistem yaradılarsa, texnologiyanın inkişafı insanların nəzarətindən çıxa bilər.
“Anthropic” şirkətinin təhlükəsizlik komandalarından birinə rəhbərlik edən Evan Habinger də Koksonun fikirlərinə reaksiya verərək süni intellektin özünü təkmilləşdirməsinin sürətindən narahat olduğunu bildirib.
Onun sözlərinə görə, bu proses əvvəl düşünüldüyündən daha sürətlə gedir.
Habinger hətta süni intellektin bütün bəşəriyyətin məhvinə səbəb ola biləcəyi ssenarini istisna etməyib və belə bir ehtimalı 10 faizdən çox qiymətləndirib.
Mütəxəssisləri ən çox narahat edən məqam öz imkanlarını müstəqil şəkildə yaxşılaşdıra bilən süni intellekt sisteminin yaradılmasıdır. Nəzəri baxımdan belə bir sistem ardıcıl olaraq özünü təkmilləşdirə və inkişaf sürətini insanların nəzarət edə bilməyəcəyi səviyyəyə çatdıra bilər.
Süni intellekt təhlükəsizliyi üzrə mütəxəssislər uzun illərdir belə risklər barədə xəbərdarlıq edirlər. Hazırda süni intellekt artıq yeni texnologiyaların hazırlanmasında istifadə edilən proqram kodlarının bir hissəsini özü yarada bilir.
Habingerin sözlərinə görə, “Anthropic” şirkətinin son dərəcə güclü süni intellekt sistemlərinin təhlükəsizliyini və onların insan dəyərlərinə uyğunluğunu təmin edəcək yetərli planı hələ yoxdur.
Oxşar narahatlıqları daha əvvəl müasir süni intellektin qabaqcıllarından biri hesab edilən Nobel mükafatı laureatı Cefri Hinton da səsləndirib. O, süni intellekt texnologiyalarının sürətli inkişafının potensial təhlükəli nəticələri barədə dəfələrlə xəbərdarlıq edib.
