Süni intellekt nəhənglərində nə baş verir? - "Dünya təhlükədə"
Silikon Vadisində yüksək vəzifəli istefalar ard-arda davam edir. Süni intellekt yarışının aparıcı şirkətləri olan "OpenAI", "Anthropic" və "xAI"da mühüm mövqelərdə çalışan şəxslərin istefa xəbərləri yayılır.
Valyuta.az xəbər verir ki, "Anthropic"dən "Dünya təhlükədə" xəbərdarlığı ilə ayrılan tədqiqat qrupu rəhbərindən tutmuş, "OpenAI"ın reklam strategiyalarına etiraz edən mütəxəssislərə qədər bir çox ekspert süni intellektin potensial riskləri ilə bağlı narahatlıqlarını daha açıq şəkildə ifadə etməyə başlayıb.
"OpenAI"da iki ildir tədqiqatçı kimi çalışan Zoe Hitziq "New York Times" üçün qələmə aldığı yazı ilə istefasını açıqlayıb. O, şirkətin yeni reklam strategiyası ilə bağlı narahatlıqlarını ifadə edərək ChatGPT-nin istifadəçi məlumatlarını saxlama üsuluna diqqət çəkib. Hitziq bildirib ki, istifadəçilər tibbi qorxularından münasibət problemlərinə, dini inanclarından ölüm sonrası düşüncələrinə qədər ən məxfi məlumatlarını pis niyyəti olmayan proqramla paylaşdıqlarını düşünürlər. O, sistemlərin istifadəçiləri hələ tam anlamadığımız və buna görə də qarşısını ala bilmədiyimiz üsullarla manipulyasiya etmək potensialına malik olduğu barədə xəbərdarlıq edib.
"Anthropic"dən müəmmalı vida: "Dünya təhlükədə"
Bənzər hadisə "Anthropic"də də yaşanıb. Şirkətin Təhlükəsizlik Tədbirləri üzrə Araşdırma qrupunun rəhbəri Mrinank Şarma çərşənbə axşamı yayımladığı vida mesajında “Dünya təhlükədə” ifadəsini işlədib.
Şarma ayrılma səbəbi ilə bağlı ətraflı məlumat verməsə də, "burada çalışdığım müddətdə dəyərlərimizin hərəkətlərimizə istiqamət verməsinin nə qədər çətin olduğunu dəfələrlə gördüm” deyə qeyd edib.
İlon Mask isə bu ayrılıqları “yenidən strukturlaşma” və “böyüməni sürətləndirmə” addımı kimi qiymətləndirib.
İlon Maskın "xAI" şirkətində yarpaq tökümü
İlon Maskın sahibi olduğu "xAI"da 24 saat ərzində iki həmtəsisçi vəzifəsindən ayrılıb. "X" sosial media platformasında elan edilən bu inkişafdan sonra təsisçi heyətinin yarısının şirkətdən ayrıldığı məlum olub. Ötən həftə ərzində daha beş əməkdaşın istefa verdiyi "xAI" xüsusilə "Grok" adlı çat-botun məzmununa görə tənqid olunurdu.
Təhlükəsizlik, yoxsa gəlir?
Ayrılıqların əsas səbəbi kimi təhlükəsizlik narahatlıqları ilə gəlir yönümlü idarəetmə təzyiqi arasındakı gərginlik göstərilir. "Wall Street Journal"ın məlumatına görə, "OpenAI" ChatGPT-də cinsi məzmuna icazə verəcək “böyüklər rejimi”nə qarşı çıxan yüksək səviyyəli təhlükəsizlik rəhbəri Rayan Beyermeysteri işdən azad edib. Şirkət işdən çıxarılmanın təhlükəsizlik xəbərdarlıqları ilə bağlı olmadığını bildirsə də, Beyermeyster bu iddiaları rədd edib.
Süni intellektin “xaç atası” kimi tanınan Ceffri Hintonun "Google"dan ayrıldıqdan sonra başladığı xəbərdarlıq dalğası bu gün də sektorun əsas simaları arasında rezonans doğurur. Ekspertlər yaxın gələcəkdə “nəyin real olduğunu müəyyən etməyin çətinləşəcəyi” bir dünyaya doğru sürətlə irəliləndiyi qənaətində birləşirlər.
Valyuta.az xəbər verir ki, "Anthropic"dən "Dünya təhlükədə" xəbərdarlığı ilə ayrılan tədqiqat qrupu rəhbərindən tutmuş, "OpenAI"ın reklam strategiyalarına etiraz edən mütəxəssislərə qədər bir çox ekspert süni intellektin potensial riskləri ilə bağlı narahatlıqlarını daha açıq şəkildə ifadə etməyə başlayıb.
"OpenAI"da iki ildir tədqiqatçı kimi çalışan Zoe Hitziq "New York Times" üçün qələmə aldığı yazı ilə istefasını açıqlayıb. O, şirkətin yeni reklam strategiyası ilə bağlı narahatlıqlarını ifadə edərək ChatGPT-nin istifadəçi məlumatlarını saxlama üsuluna diqqət çəkib. Hitziq bildirib ki, istifadəçilər tibbi qorxularından münasibət problemlərinə, dini inanclarından ölüm sonrası düşüncələrinə qədər ən məxfi məlumatlarını pis niyyəti olmayan proqramla paylaşdıqlarını düşünürlər. O, sistemlərin istifadəçiləri hələ tam anlamadığımız və buna görə də qarşısını ala bilmədiyimiz üsullarla manipulyasiya etmək potensialına malik olduğu barədə xəbərdarlıq edib.
"Anthropic"dən müəmmalı vida: "Dünya təhlükədə"
Bənzər hadisə "Anthropic"də də yaşanıb. Şirkətin Təhlükəsizlik Tədbirləri üzrə Araşdırma qrupunun rəhbəri Mrinank Şarma çərşənbə axşamı yayımladığı vida mesajında “Dünya təhlükədə” ifadəsini işlədib.
Şarma ayrılma səbəbi ilə bağlı ətraflı məlumat verməsə də, "burada çalışdığım müddətdə dəyərlərimizin hərəkətlərimizə istiqamət verməsinin nə qədər çətin olduğunu dəfələrlə gördüm” deyə qeyd edib.
İlon Mask isə bu ayrılıqları “yenidən strukturlaşma” və “böyüməni sürətləndirmə” addımı kimi qiymətləndirib.
İlon Maskın "xAI" şirkətində yarpaq tökümü
İlon Maskın sahibi olduğu "xAI"da 24 saat ərzində iki həmtəsisçi vəzifəsindən ayrılıb. "X" sosial media platformasında elan edilən bu inkişafdan sonra təsisçi heyətinin yarısının şirkətdən ayrıldığı məlum olub. Ötən həftə ərzində daha beş əməkdaşın istefa verdiyi "xAI" xüsusilə "Grok" adlı çat-botun məzmununa görə tənqid olunurdu.
Təhlükəsizlik, yoxsa gəlir?
Ayrılıqların əsas səbəbi kimi təhlükəsizlik narahatlıqları ilə gəlir yönümlü idarəetmə təzyiqi arasındakı gərginlik göstərilir. "Wall Street Journal"ın məlumatına görə, "OpenAI" ChatGPT-də cinsi məzmuna icazə verəcək “böyüklər rejimi”nə qarşı çıxan yüksək səviyyəli təhlükəsizlik rəhbəri Rayan Beyermeysteri işdən azad edib. Şirkət işdən çıxarılmanın təhlükəsizlik xəbərdarlıqları ilə bağlı olmadığını bildirsə də, Beyermeyster bu iddiaları rədd edib.
Süni intellektin “xaç atası” kimi tanınan Ceffri Hintonun "Google"dan ayrıldıqdan sonra başladığı xəbərdarlıq dalğası bu gün də sektorun əsas simaları arasında rezonans doğurur. Ekspertlər yaxın gələcəkdə “nəyin real olduğunu müəyyən etməyin çətinləşəcəyi” bir dünyaya doğru sürətlə irəliləndiyi qənaətində birləşirlər.
