Codex agenti QR nüvəsini 232 dəfə sürətləndirib

GPU Mode və Core Automation-ın təşkil etdiyi avtomatik araşdırma müsabiqəsində sankalp təxəllüslü developer 183 iştirakçı arasında 12-ci yeri tutub. Onun həlli baza QR parçalanma nüvəsindən 232 dəfə sürətli işləyib. Blog yazısında o, OpenAI-ın Codex agentini və sıx təqdimat dövrünü necə istifadə etdiyini izah edir; bu yanaşmanı özü "loop engineering" adlandırır.

Problem: toplu Householder QR

İştirakçılar toplu kvadrat kompakt Householder QR parçalanmasını tətbiq etməli idilər. Giriş batch × n × n ölçüsündə FP32 CUDA matrislərindən ibarət toplu idi; çıxış isə torch.geqrf-in qaytardığı kompakt formatla eyni olmalıydı: H-in yuxarı üçbucağı R-ni saxlayır, aşağı hissə Householder vektorlarını, ayrı tau vektoru isə əks etdirmə əmsallarını daşıyır. Yoxlayıcı torch.linalg.householder_product(H, tau) ilə Q-nu bərpa edib A ≈ QR, QᵀQ ≈ I və QᵀA ≈ R şərtlərini yoxlayırdı.

Düzgün təqdimatlar müxtəlif ölçülər və şərtləndirmə halları üzrə həndəsi orta işləmə müddətinə görə sıralanırdı. Əsas ölçülər 512×512, həmçinin 1024, 2048 və 4096 idi. Daxildə FP16, FP8 və ya NVFP4 hesablamalarına icazə verilirdi, amma nəticə yenə FP32 səviyyəli yoxlamalardan keçməli idi.

Dövrün içində Codex

GPU Mode-un təqdim etdiyi popcorn CLI aləti agentlərə birbaşa test, ölçmə və lider lövhəsinə təqdimat imkanı verirdi. 14 gün ərzində müəllif 1500-dən çox təqdimat etdi. Codex iş sahəsində problem təsviri, təqdimat təlimatları olan AGENTS.md və hər cəhdi qeyd edən jurnal var idi. Rəqəmsal hədəflər üçün /goal əmrindən, dövrü dayandırmadan yoxlama üçün /btw-dən, darboğazları tapmaq üçün Modal və NCU profilləməsindən istifadə edirdi.

Yerli maksimumlarda ilişib qalmamaq üçün müəllif tək ən yaxşı namizəd yerinə üç-beş ideyadan ibarət "şüa" saxlayır, yeni ideyalar üçün daha güclü məsləhətçi modeldən istifadə edir və bəzən ayrı alt-agentləri eksperimentlərə göndərirdi.

419 ms-dən 1,8 ms-ə

Baza torch.geqrf yolu ümumilikdə təxminən 419 000 mikrosaniyə çəkirdi. n = 512 ölçüsü üçün bloklu Householder alqoritmi tətbiq edildikdən sonra müəllif bir gün ərzində 5000 mikrosaniyəyə çatdı; yekun nəticə 1805 mikrosaniyə oldu. Bloklu yanaşma panelin əks etdirmələrini bir rank-b WY yeniləməsində sıxır və qalan hissənin işini üç matris vurmasına çevirir — tensor nüvələrinin ən yaxşı işlədiyi forma budur.

Nəticə

Müəllif belə qənaətə gəlir ki, sahə biliyi həm mühitin qurulmasını, həm də modelin yönləndirilməsini sürətləndirir: problemi nə qədər yaxşı bilsən, agentə verdiyin suallar bir o qədər dəqiq olur. Onun sözlərinə görə, bu, avtomatik araşdırmada ilk ciddi cəhdi idi və seriyanın ikinci müsabiqəsi — xüsusi qiymətlərə parçalanma üzrə — artıq davam edir.