Süni zəka qlobal pandemiya riskini artıra bilər
Süni İntellekt
04.07.2025
Emil Nəcəfov
Süni zəkanın qlobal pandemiya ehtimalını 5 dəfə artırma potensialı var. Bu barədə Rand Corporation-ın yeni hesabatının müəllifləri xəbərdarlıq edirlər. Onların nəticələri bioterrorizm və laboratoriyalardan sızmalarla bağlı ssenarilərin, generativ süni zəka texnologiyaları ilə gücləndirilmiş modelləşdirilməsinə əsaslanır. Tədqiqat ABŞ Müdafiə Nazirliyinin Perspektivli Araşdırmalar Agentliyi (DARPA) tərəfindən sifariş edilib və birbaşa olaraq böyük dil modellərinin (LLM) inkişafı ilə bağlı etik və tənzimləmə məsələlərini əhatə edir. ChatGPT kimi modellər bioloji silahların hazırlanması və yayılması prosesini xeyli sadələşdirə bilər. Müəlliflər bildirirlər ki, süni zəka patogenin seçimi, DNT-nin sintezi, saxlanma və daşınma şəraitinin müəyyən edilməsi, eləcə də mövcud nəzarət tədbirlərindən yayınma baxımından kömək edə bilər. Tədqiqat, açıq API vasitəsilə süni zəka sistemlərinə çıxış əldə edən və elmi nəşrlər əsasında təlim görmüş modellərdən istifadə edən hipotetik niyyətli şəxslər üzərində aparılıb.
Hətta texniki hazırlığı məhdud olan şəxslər belə, məsələn, çiçək virusu kimi təhlükəli agentlərin yaradılması ilə bağlı addım-addım təlimatlar əldə ediblər. Əsas risk ondan ibarətdir ki, süni zəka bioloji hücumlara çıxış baryerini azalda bilər. Əvvəllər belə fəaliyyətlər yüksək ixtisas və əhəmiyyətli resurslar tələb edirdisə, indi süni zəkanın verdiyi təlimatlar bilik çatışmazlığını kompensasiya edə bilər. Xüsusilə təhlükəli olan məqam - yoluxuculuq və davamlılıq xüsusiyyətləri optimallaşdırılmış bioloji agentlərin avtomatik şəkildə yaradılması və sınaqdan keçirilməsi imkanının yaranmasıdır. Ayrı-ayrı böyük dil modelləri artıq elmi təcrübələri imitasiya edən material və metodları seçmək qabiliyyətinə malikdir. Rand Corporation vurğulayır ki, burada söhbət təkcə terrorçu qruplardan yox, həm də təsadüfi səhvlərdən gedir. Araşdırmaları sürətləndirmək məqsədilə süni zəkadan istifadə edən laboratoriyalar, qeyri-iradi şəkildə təhlükəli patogen yarada və onu ətraf mühitə buraxa bilərlər.
Belə sızmaların təsiri COVID-19-dan daha genişmiqyaslı ola bilər - xüsusilə də lazımi nəzarət və etik məhdudiyyətlər olmadıqda. Hesabatda xüsusi diqqət tənzimləmə zərurətinə ayrılıb: alimlər böyük dil modellərində biotexniki məlumatlara çıxışa qadağaların tətbiqini, biotəhlükəli məzmun üçün filtrlərin yaradılmasını və elmi tədqiqatlarda istifadə olunan modellərin auditinin təmin edilməsini tövsiyə edirlər. Bundan əlavə, bioloji məlumatların açıq şəkildə dərc olunması prinsiplərinin də yenidən nəzərdən keçirilməsi vacib hesab olunur. Hesabatda birmənalı ssenari verilməsə də, əsas nəticə belədir: əgər süni zəkanın inkişafı bioloji risklər nəzərə alınmadan davam edərsə, yaxın onilliklərdə yeni pandemiyanın baş vermə ehtimalı dəfələrlə artacaq. Beləliklə, əslində müalicə və profilaktikaya kömək etməli olan texnologiyalar, təsadüfən bioloji təhlükələrin katalizatoruna çevrilə bilər.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Metakainatın uğursuzluğundan sonra Zuckerberg növbəti innovasiyanı vəd edir
Metakainatın uğursuzluğundan sonra Zuckerberg növbəti innovasiyanı vəd edir
Bu həftə Meta-nın rəhbəri Mark Zuckerberg daxili xidməti qeyddə yaxın gələcəyə dair baxışını bölüşüb. O bildirib ki, hər kəs üçün fərdi süperzəka insanlıq üçün yeni dövrün başlanğıcı olacaq. Bu, ilhamverici səslənsə də, cəmi 4 il əvvəl o, oxşar sözləri metakainat konsepsiyası haqqında da demişdi - lakin həmin ideya uğursuzluqla nəticələndi.
İnsan qərarlarını proqnozlaşdıran süni zəka hazırlanıb
İnsan qərarlarını proqnozlaşdıran süni zəka hazırlanıb
Alimlər müxtəlif vəziyyətlərdə - qumar oyunlarından tutmuş məntiqi tapşırıqlara qədər - insanların hansı qərarları verəcəklərini dəqiq proqnozlaşdıra bilən Centaur adlı süni zəka modeli hazırlayıblar.
Ağciyərlərdəki şişləri həkimlərdən daha dəqiq təyin edən süni zəka hazırlanıb
Ağciyərlərdəki şişləri həkimlərdən daha dəqiq təyin edən süni zəka hazırlanıb
Alimlər şişin dəqiq ölçüsünü və sərhədlərini müəyyən edə bilən süni zəka alqoritmi hazırlayıblar. Bu, müalicənin seçilməsi və təyini üçün əsas amillərdən biridir.
Meta süni zəka botlarına birinci yazmağı və özlərini xatırlatmağı öyrədib
Meta süni zəka botlarına birinci yazmağı və özlərini xatırlatmağı öyrədib
Meta şirkəti fərdiləşdirilə bilən çat-botları istifadəçilərlə uzunmüddətli ünsiyyətdə daha təşəbbüskar olmağa öyrədir. Bu çat-botlar istifadəçi tərəfindən sorğu gəlmədən, əvvəlki söhbətləri xatırlatmalı və ünsiyyəti davam etdirməyi təklif etməlidirlər.
Şirkət rəhbərləri artıq süni zəka səbəbilə işçi ixtisarlarını gizlətmirlər
Şirkət rəhbərləri artıq süni zəka səbəbilə işçi ixtisarlarını gizlətmirlər
Böyük şirkətlərin rəhbərləri artıq süni zəkanın əmək bazarına təhdid olub-olmadığı sualından yayınmırlar. İndi onlar iş yerlərinin ixtisarı ilə bağlı proqnozlar verməyə başlayıblar. Ən radikal proqnozu Ford Motor şirkətinin baş direktoru Jim Farley səsləndirib.
Həftənin xəbərləri
