AlphaProof Code Signal-in kriptoqrafik nüvəsini dörd həftədə təsdiqlədi

Google DeepMind AlphaProof Code adlı, proqram təminatının təhlükəsizlik spesifikasiyalarına xətasız şəkildə cavab verdiyini riyazi olaraq sübut edən bir süni intellekt sistemini təqdim etdi. Tədqiqatçılar onu Signal-in şifrələmə protokolunda nümayiş etdirərək, adətən illər çəkən işi dörd həftəyə tamamladılar. Sistem yalnız nəzəri dizaynı deyil, istifadəçilərin cihazlarında işləyən faktiki kriptoqrafik nüvə kodunu da yoxladı.

Yoxlama necə işlədi

Mütəxəssislər formal təhlükəsizlik tələblərini müəyyənləşdirdikdən sonra Gemini Carbon əsasında qurulmuş AI agentləri Lean isbat dilində altı milyondan çox sətir yazdılar. Onlar kod bazasının təxminən bir faizini insan yoxlaması üçün işarələdilər. Test üçün qəsdən yerləşdirilmiş iki xəta dərhal aşkarlandı. AlphaProof Code-dakı süni intellekt agentləri həmçinin spesifikasiyaların yaradılmasına kömək edir və sonra proqram kodunun onlara uyğun olduğunu müstəqil şəkildə sübut edir.

Daha geniş təsirlər

DeepMind tədqiqatçıları Pushmeet Kohli və Swarat Chaudhuri-nin bloq yazısına görə, əvvəlki verifikasiya səyləri nəzəri dizayn mərhələsində dayanıb. Signal şirkətinin CTO-su Ehren Kret deyib ki, bu yanaşma süni intellekt təhlükələri artdıqca məlumat məxfiliyinə etibarı gücləndirir. DeepMind bu metodu elektrik şəbəkələrinə və tibbi cihazlara CodeMender kimi sistemlər vasitəsilə genişləndirməyi planlaşdırır.

Mənbələr: The Decoder