Anthropic-ın kiber-AI genişlənməsi Reddit-də kibertəhlükəsizlik icmasını bölür

Anthropic kiberə yönəlmiş AI modellərini açdı

Anthropic uzunmüddətli Cyber Mission təşəbbüsünə başladı; onun məqsədi qabaqcıl AI modelləri, təhləkələrin araşdırılması və mühəndislik dəstəyi ilə kritiki infrastrukturun və açıq mənbəli proqram təminatının qorunmasını təmin etməkdir. Şirkət Project Glasswing-i genişlənmiş Cyber Verification Program-ə birləşdiyini elan etdi; bu, daha çox qoruyucunun ən güclü modellərinə giriş imkanı verir. Əvvəllər Anthropic Mythos-u ictimaiyyətə açmadan, ondan yalnız Project Glasswing çərçivəsində tərəfdaş təşkilatların məhdud dairəsində istifadə edirdi. Cyber Mission vasitəsilə Anthropic mühəndislik istedadından istifadə etdiyini və kritiki infrastruktur və açıq mənbəli proqram təminatını qoruyanlara alətlər və maliyyə təmin etdiyini bildirir.

Qoruyucular kiçik rolların və müstəqilliyin itirilməsindən qorxurlar

Reddit-dəki iş, hansı ki sual verirdi: nə üçün icma Anthropic-in etdiyini qəbul edir? — kibertəhlükəsizlik mütəxəssisləri arasında sərt mübahisə yaratdı. Çoxları Anthropic-in pulsuz AI alətləri ilə sənayeni boşaldığını və insan bacarıqlarını dəyərsizləşdirdiyini söyləyir; bu tanıma senari xatırladır: bir şeyi pulsuz təklif et, rəqabəti məğlub et, hamısı ona asılı olsun, sonra qiymətləri artır. Bəzi şərhçilər eyni biliklərə — icmanın onilliklər ərzində qurduğu biliklərə — hazırlanmış modellərin onları yaradan insanları əvəz edə biləcəyindən qorxur. Xüsusi narahatçılığı kiçik rolların yox olması yaradır, çünki jurnal rutin oxunması və monitorinq avtomatlaşdırma gələcək ekspertlərin hadisələri araşdırdığını öyrəndiyi təlim meydanını götürəcək. Bir şərhçi başlanğıc səviyyəli vəzifələrin itirilməsinin AI-in təcrübəli işçiləri əvəz etməsindən daha təhlükəli olduğunu söylədi və qeyd etdi ki, işə götürən şəxslər bir vaxt mütəmadi onunla əlaqə saxlayırdı, bu gün isə təcrübəli namizədlər belə cavab almaqda çətinlik çəkirlər. Başqaları bu addımı bir neçə şirkətdə AI imkanlarının daha geniş cəmlənməsinin hissəsi kimi qiymətləndirir və insanlar tapşırıqları ötürdükdə, modellərin nəticələrini qiymətləndirmə bacarığını itirdikdə və sistemlərə — onları artıq yoxlamaq mümkün olmayan sistemlərə — daha çox güvendikdə özünü gücləndirən asılılıq barədə xəbərdarlıq edirlər.

AI alət kimi, əvəz edici kimi deyil

Hamısı AI peşəyə təhlükə yaradır deyil. Bəzi Reddit istifadəçiləri proqram təminatının zəifliklərlə dolu olduğunu və şirkətlərin pis təcrübələrdən istifadə etdiyini söyləyir; buna görə qoruyuculara daha yaxşı alətlər lazımdır AI qərarlı hissəsi olacaq. Başqaları Anthropic təşəbbüsünün məqsədinin daha güclü kiber imkanlar yayılmadan əvvəl kritiki sistemləri gücləndirmək olduğunu və inzibati işlərin avtomatlaşdırılmasının bozuluşlara əsaslanan rolların məhdudiyyətlərini aşdığını, eyni zamanda daha böyük imkanlar yaradığını söyləyir, çünki hücumçular daha güclü olur. Dəstəkçilər AI-in hələ də insan nəzarəti tələb etdiyini qəbul edir; bir şərhçi isə əsl problemi miqyaslı texniki borç və zibil adlandırır. İlerləmə argumentində AI avtomobilləri — dəmirçiləri və at dəmirçilərini əvəz edənləri — müqayisə edənlərə onların keçidi onilliklər lazım olub, AI dəyişikliyi isə aylar içində baş verir deyə cavab verilir. İştirakçıların əksəriyyəti insan qiymətləndirməsinin vacib qaldığına ümumi razıdır; bəziləri isə peşənin uyğunlaşdığını söyləyir, əgər AI şirkətləri praktik təhsil və bacarıq inkişafına sərmayə qoysalar, yalnız avtomatlaşdirilmiş tapşırıqlarla uğuru ölçməsələr.

Mənbələr: Cybernews