DeepSeek bioloji silahlar barəsində məlumat verməyi bacarır
Süni İntellekt
11.02.2025
Emil Nəcəfov
Anthropic şirkətinin baş direktoru Dario Amodei, DeepSeek-in süni zəka modeli ilə bağlı testlərin nəticələrindən narahatlığını ifadə edib. Onun sözlərinə görə, Anthropic mütəxəssisləri tərəfindən aparılmış təhlükəsizlik yoxlamaları zamanı süni zəka modeli açıq mənbələrdə demək olar ki, tapılması mümkün olmayan bioloji silahlar haqqında məlumat təqdim edib. Göründüyü kimi, sistemin belə informasiyanın yaradılmasının qarşısını alan daxili müdafiə mexanizmləri yoxdur. Buna baxmayaraq, Amodei DeepSeek-i ABŞ süni zəka şirkətləri üçün ciddi rəqib hesab edir. Eyni zamanda, Pentaqon və ABŞ Hərbi Dəniz Qüvvələri bu modelin istifadəsinə məhdudiyyətlər tətbiq edib.
Jordan Schneider-in ChinaTalk podkastına vermiş olduğu müsahibədə Dario Amodei, Anthropic tərəfindən aparılan təhlükəsizlik sınaqları zamanı DeepSeek modelinin bioloji silahlar haqqında məlumat yaratdığını bildirib. Amodei-nin sözlərinə görə, bu modelin performansı, onların indiyə qədər test etdikləri bütün digər modellərdən daha pis olub. O qeyd edib ki, DeepSeek-in belə məzmunun yaradılmasının qarşısını alan heç bir daxili müdafiə mexanizmi yoxdur. Amodei izah edib ki, Anthropic süni zəka modellərini mütəmadi olaraq test edir ki, onların milli təhlükəsizliyə təhdid yaradıb-yaratmadığını qiymətləndirsin.
Komanda, modellərin Google və ya dərsliklər kimi açıq mənbələrdə olmayan bioloji silahlarla bağlı məlumatlar yarada bilib-bilmədiyini təhlil edir. Amodei-nin fikrincə, hazırda DeepSeek modelləri ciddi təhlükə yaratmır, lakin gələcəkdə bu vəziyyət dəyişə bilər. O, DeepSeek mühəndislərinin istedadını etiraf etsə də, onları süni zəkanın təhlükəsizliyinə daha çox diqqət ayırmağa çağırıb. Amodei müsahibəsində Anthropic-in hansı DeepSeek modelini test etdiyini və sınaqlar barədə ətraflı texniki məlumatları açıqlamayıb. DeepSeek məhsullarının populyarlığı artır, lakin eyni zamanda onların təhlükəsizliyi ilə bağlı suallar yaranır.
Məsələn, Cisco mütəxəssisləri keçən həftə bildiriblər ki, DeepSeek R1 sınaqlar zamanı zərərli sorğuların heç birini bloklaya bilməyib və onun təhlükəsizlik mexanizmləri 100% sındırılıb. DeepSeek kibercinayətkarlıq və digər qanunsuz fəaliyyətlərlə bağlı zərərli məlumatlar yaradıb. Bununla belə, Llama-3.1-405B və GPT-4 kimi digər qabaqcıl süni zəka modellərində də yüksək səhv göstəriciləri qeydə alınıb - müvafiq olaraq 96% və 86%. DeepSeek ətrafında vəziyyət qeyri-müəyyən olaraq qalır. Amazon və Microsoft kimi şirkətlər açıq şəkildə R1 modelini öz bulud xidmətlərinə inteqrasiya etməyi planlaşdırdıqlarını bildiriblər.
Bu isə müəyyən mənada ironikdir, çünki Amazon, Anthropic-in ən böyük investorlarından biridir. Digər tərəfdən, ABŞ Hərbi Dəniz Qüvvələri və Pentaqon kimi dövlət qurumları da daxil olmaqla, getdikcə daha çox ölkə və şirkət DeepSeek xidmətlərini qadağan etməyə başlayıb. Hələlik aydın deyil ki, DeepSeek-ə qarşı məhdudiyyətlər artırılacaqmı və onun qlobal bazardakı inkişafı davam edəcəkmi? Hər halda, Amodei Çin startapını süni zəka sahəsində aparıcı ABŞ şirkətləri ilə rəqabət apara biləcək yeni güclü oyunçu hesab edir. Bununla yanaşı, Anthropic-in rəhbəri, Çin ordusu tərəfindən istifadə oluna biləcəyi səbəbilə, bu ölkəyə çip ixracına sərt nəzarətin tətbiq olunmasını dəstəklədiyini bildirib.
Mənbə: Techcrunch
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Süni zəkanın “xaç anası”: "Süni zəka qanunları elmi fantastikaya deyil, real elmə əsaslanmalıdır"
Süni zəkanın “xaç anası”: "Süni zəka qanunları elmi fantastikaya deyil, real elmə əsaslanmalıdır"
Süni zəkanın “xaç anası” kimi tanınan alim, Fei-Fei Li, süni zəka siyasətinin formalaşdırılması üçün 3 əsas prinsipi təqdim edib.
Fransa prezidenti süni zəka sahəsinə 109 milyard avroluq investisiyanı elan edib
Fransa prezidenti süni zəka sahəsinə 109 milyard avroluq investisiyanı elan edib
Fransa prezidenti Emmanuel Macron süni zəkanın inkişafına 109 milyard avro məbləğində böyük investisiyalar elan edib. Bu qərar, 500 milyard dollar dəyərində investisiya nəzərdə tutan ABŞ layihəsi “Stargate”ə Fransanın cavabı kimi qiymətləndirilir.
Gmail hesablarına süni zəka əsaslı fişinq hücumları edilir
Gmail hesablarına süni zəka əsaslı fişinq hücumları edilir
Son zamanlar Gmail istifadəçiləri daha mürəkkəb fişinq (phishing) hücumları ilə qarşılaşır. Bu vəziyyət ABŞ Federal Təhqiqatlar Bürosunun (FBI) Gmail istifadəçiləri üçün ciddi xəbərdarlıq etməsinə səbəb olub.
OpenAI öz süni zəka çipinin istehsalına artıq bu il start verə bilər
OpenAI öz süni zəka çipinin istehsalına artıq bu il start verə bilər
Süni zəka sahəsində aparıcı şirkət olan OpenAI, NVIDIA istehsalı olan süni zəka sürətləndiricilərindən asılılığını azaltmaq üçün ciddi səylər göstərir. Açıqlandığına görə, OpenAI qarşıdakı bir neçə ay ərzində öz çipinin hazırlanmasını başa çatdırmağı və onu TSMC şirkətinin zavodlarında ən qabaqcıl texnoloji proseslərdən istifadə edərək istehsal etməyi planlaşdırır.
Sam Altman: "Süni zəka məhsulları ucuzlaşdıracaq, lakin bərabərsizlikdən xilas etməyəcək"
Sam Altman: "Süni zəka məhsulları ucuzlaşdıracaq, lakin bərabərsizlikdən xilas etməyəcək"
OpenAI şirkətinin CEO-su Sam Altman yeni essedə bildirib ki, şirkət süni zəkanı hər kəs üçün əlçatan etmək məqsədilə genişmiqyaslı investisiyalara və təcrübi yanaşmalara hazırdır. O, bir daha vurğulayıb ki, tezliklə ümumi süni zəka (AGI) ortaya çıxacaq və bu, iqtisadiyyatı köklü şəkildə dəyişəcək, elmi tərəqqini sürətləndirəcək və bir çox məhsulların qiymətini azaldacaq.
Həftənin xəbərləri
