OpenAI rəhbərləri xəbərdarlıq ediblər ki, onların növbəti nəsil süni intellekt modelləri (ChatGPT) bioloji silahların yaradılması da daxil olmaqla yeni risklər yarada bilər ki, bu da elmi təcrübəsi olmayan insanlara potensial təhlükəli maddələr yaratmağa imkan verir.
Yüksək riskli AI-nin ortaya çıxması üçün dəqiq vaxt verilməsə də, OpenAI-nin təhlükəsizlik sistemlərinin rəhbəri Johannes Heidecke "o3-ün bəzi varislərinin bu səviyyəyə çatacağını" vurğulayıb.
"Biz hələ yeni, tamamilə naməlum bir şeyin mövcud olduğu, əvvəllər mövcud olmayan bioloji təhlükələr yaradan bir dünyada deyilik. Biz mütəxəssislərin artıq tanış olduğu şeylərin təkrar istehsalından daha çox narahatıq", - Haydekke bildirib.
Süni intellektin məhdudlaşdırılmasının çətinliyi ondan ibarətdir ki, böyük dil modellərinə (LLM) tibbi nailiyyətlər yaratmağa imkan verən eyni imkanlardan bəziləri zərər üçün də istifadə oluna bilər.
O, etiraf edib ki, OpenAI və digərləri 99%-dən daha yüksək dəqiqliklə və ya 100 000-dən birində zərərli istifadənin qarşısını ala bilən aşkarlama sistemlərinə ehtiyac duyurlar. Eyni zamanda, insan nəzarəti vacibdir: monitorinq qrupları avtomatik filtrasiyadan yan keçən hadisələrə tez reaksiya verməli və potensial təhlükəni operativ şəkildə aradan qaldırmalıdır.
Hələ 2024-cü ildə OpenAI bioloji silahların yaradılmasına töhfə verə biləcək məlumatların əldə edilməsi üçün ChatGPT-dən istifadə cəhdlərinin qarşısını ala biləcək erkən xəbərdarlıq sistemi hazırladığını elan etmişdi. Aprel ayında o, o3 və o4-mini modelləri üçün monitorinq sistemini tətbiq etdi, kimyəvi və bioloji təhlükələrlə bağlı potensial təhlükəli sorğuları izlədi. Bu tədbirlər süni intellektin real silahların inkişafına səbəb ola biləcək göstərişlər verməsinin qarşısını almağa yönəlib.
Bu günlərdə elm adamları süni intellektin insan kimi düşünə biləcəyinə dair ilk dəfə sübut aşkarlayıblar. Bu kəşf süni intellektin inkişafına təsir göstərə və onun idrak qabiliyyətlərinin qiymətləndirilməsinə yanaşmanı dəyişə bilər.
2025-ci ilin əvvəlindən bütün dünyada 52 mindən çox İT mütəxəssisi işdən çıxarılıb. Səbəb kod yazmaq və testlər daxil olmaqla, rutin proqramlaşdırma tapşırıqlarını effektiv şəkildə yerinə yetirə bilən süni intellektin potensialıdır.
S.ELAY
XQ
