"Anthropic" və "OpenAI"dan Al təhlükəsi xəbərdarlığı: Bu, bəşəriyyəti xilas edə bilər
Son günlər süni intellektin (Al) yaxın gələcəkdə bəşəriyyət üçün təhlükəyə çevrilə biləcəyi ilə bağlı daha çox ciddi xəbərdarlıq səslənir. Bu yeni apokaliptik xəbərdarlıqlar dalğasına ilk olaraq “Anthropic” şirkətinin keçmiş tədqiqatçısı Ceykob Kokson rəhbərlik edib. O, “Anthropic” və “OpenAI” şirkətlərinin “insanların həyatını riskə atdığını” bildirib. Daha sonra bu fikri “OpenAI” şirkətinin idarə heyəti və təhlükəsizlik komitəsinin üzvü Pol Kristianо da dəstəkləyib.
“Business Insider”in yazdığına görə, təhlükə ilə bağlı bu qəfil diqqət artımı ən pis ssenarinin reallaşma ehtimalını azalda bilər. Bundan əlavə, süni intellekt sənayesinin aparıcı şirkətləri bu təhlükə ilə mübarizə aparmaq üçün bir araya gəlməyə razılaşıb.
Kristiano Koksonun açıqlamasından sonra “daha etibarlı uyğunlaşdırma sistemi olmadan fövqəlzəka yaradılacağı təqdirdə insanların əksəriyyətinin ölə biləcəyini” bildirib. Daha sonra “Anthropic” şirkətinin baş direktoru Dario Amodey də bu fikri dəstəkləyib və üç mərhələdən ibarət təhlükəsizlik planı təklif edib.
Bundan sonra “OpenAI” rəhbəri Sem Altman şirkətinin “Anthropic”in müstəqil ekspertlərə geniş çıxış imkanının yaradılması təşəbbüsünə qoşulacağını açıqlayıb. Daha sonra “Tesla” və “SpaceX” şirkətlərinin rəhbəri İlon Mask sosial şəbəkələrdə Amodeyin süni intellektin təhlükəsi ilə bağlı haqlı olduğunu yazıb.
Nəşr vurğulayıb ki, süni intellektin yaratdığı təhlükələrin açıq şəkildə müzakirə edilməsi daha geniş məlumatlılığa şərait yaradır. Ehtimal olunur ki, bu yanaşma “Anthropic” və “OpenAI” şirkətlərinin xəbərdarlıq etdiyi, bəşəriyyətin məhvinə gətirib çıxara biləcək hadisənin qarşısının alınmasına kömək edə bilər.
Bununla yanaşı, nəşr qeyd edib ki, bazarlar ümumilikdə sakitliyini qoruyur. Ötən həftə fond bazarında geriləmə müşahidə olunsa da, daha sonra süni intellekt sahəsində fəaliyyət göstərən şirkətlərin səhmləri bahalaşıb və həftəni artımla başa vurub.
Bundan əvvəl “Anthropic” şirkətinin 27 yaşlı tədqiqatçısı Ceykob Kokson tərtibatçıların özünü təkmilləşdirə bilən fövqəlzəka yaratmağa tələsdikləri, lakin gələcəkdə onu necə idarə edəcəkləri barədə düşünmədikləri ilə bağlı narahatlıqlar səbəbindən şirkəti və süni intellekt sənayesini tərk etmək qərarına gəlib.
Kokson hesab edir ki, dünya tədricən “geri dönüş nöqtəsinə” yaxınlaşır. O bildirib ki, süni intellektlə məşğul olan şirkətlərin rəhbərləri neyron şəbəkələrin bu onilliyin sonuna qədər bəşəriyyəti məhv edə biləcəyinə inanırlar. Məhz buna görə Kokson “insan həyatları ilə oynamamaq” üçün “Anthropic”dən istefa verib.
//qaynar.az
“Business Insider”in yazdığına görə, təhlükə ilə bağlı bu qəfil diqqət artımı ən pis ssenarinin reallaşma ehtimalını azalda bilər. Bundan əlavə, süni intellekt sənayesinin aparıcı şirkətləri bu təhlükə ilə mübarizə aparmaq üçün bir araya gəlməyə razılaşıb.
Kristiano Koksonun açıqlamasından sonra “daha etibarlı uyğunlaşdırma sistemi olmadan fövqəlzəka yaradılacağı təqdirdə insanların əksəriyyətinin ölə biləcəyini” bildirib. Daha sonra “Anthropic” şirkətinin baş direktoru Dario Amodey də bu fikri dəstəkləyib və üç mərhələdən ibarət təhlükəsizlik planı təklif edib.
Bundan sonra “OpenAI” rəhbəri Sem Altman şirkətinin “Anthropic”in müstəqil ekspertlərə geniş çıxış imkanının yaradılması təşəbbüsünə qoşulacağını açıqlayıb. Daha sonra “Tesla” və “SpaceX” şirkətlərinin rəhbəri İlon Mask sosial şəbəkələrdə Amodeyin süni intellektin təhlükəsi ilə bağlı haqlı olduğunu yazıb.
Nəşr vurğulayıb ki, süni intellektin yaratdığı təhlükələrin açıq şəkildə müzakirə edilməsi daha geniş məlumatlılığa şərait yaradır. Ehtimal olunur ki, bu yanaşma “Anthropic” və “OpenAI” şirkətlərinin xəbərdarlıq etdiyi, bəşəriyyətin məhvinə gətirib çıxara biləcək hadisənin qarşısının alınmasına kömək edə bilər.
Bununla yanaşı, nəşr qeyd edib ki, bazarlar ümumilikdə sakitliyini qoruyur. Ötən həftə fond bazarında geriləmə müşahidə olunsa da, daha sonra süni intellekt sahəsində fəaliyyət göstərən şirkətlərin səhmləri bahalaşıb və həftəni artımla başa vurub.
Bundan əvvəl “Anthropic” şirkətinin 27 yaşlı tədqiqatçısı Ceykob Kokson tərtibatçıların özünü təkmilləşdirə bilən fövqəlzəka yaratmağa tələsdikləri, lakin gələcəkdə onu necə idarə edəcəkləri barədə düşünmədikləri ilə bağlı narahatlıqlar səbəbindən şirkəti və süni intellekt sənayesini tərk etmək qərarına gəlib.
Kokson hesab edir ki, dünya tədricən “geri dönüş nöqtəsinə” yaxınlaşır. O bildirib ki, süni intellektlə məşğul olan şirkətlərin rəhbərləri neyron şəbəkələrin bu onilliyin sonuna qədər bəşəriyyəti məhv edə biləcəyinə inanırlar. Məhz buna görə Kokson “insan həyatları ilə oynamamaq” üçün “Anthropic”dən istefa verib.
//qaynar.az
