Ciddi AI məhsulu necə olmalıdır? Glyph-in esseysi

27 sentyabr 2026-cı ildə Glyph adı ilə yazan tərtibatçı və bloqçu, ciddi bir LLM əsaslı məhsulun necə görünməli olduğunu soruşan esse dərc etdi. Mətn tənqid və təklif olunan funksiyaların siyahısıdır, elan deyil: müəllifin arqumenti budur ki, bugünkü AI alətləri real iş görmək üçün lazım olan şeylərdən məhrumdur.

Glyph yazır ki, mövcud "AI" məhsulları öz önə sürdükləri iddiaları ciddi qəbul etmir: onun sözlərinə görə, bu alətlərin məhsul kimi quruluşu proqramdan çox saxta təhlükəsizlik hissi yaratmaq üçün hazırlanmış bir şey təəssüratı yaradır. Eyni tənqid, əlavə edir o, Ollama və açıq modellər üzərində qurulmuş digər alətlərə də aiddir.

Xətaların yoxlanması birinci dərəcəli funksiya kimi

Müəllifin ən böyük narazılığı odur ki, hər söhbət botu kiçik şriftlə xəta edə biləcəyini etiraf edir, lakin onları yoxlamaq üçün alət vermir. Gemini, Claude və ChatGPT bu cür xəbərdarlıqlar daşıyır; ChatGPT-də "ChatGPT can make mistakes. Check important info." yazılıb. Glyph soruşur ki, istifadəçi hansı məlumatın vacib olduğunu necə bilməlidir, və bu xəbərdarlıqları məsuliyyəti istifadəçiyə keçirən hüquqi formullaşdırma adlandırır. Onun təklifi hər iddianın yanında qeyd qutusu və görülən yoxlamanı izah edən qeyd yerləşdirməkdir; kod köməkçiləri üçün də bənzər mexanizm lazımdır ki, yoxlama səssizcə kod rəyçisinə ötürülməsin.

Eyni şey sitatlar üçün də keçərlidir: botlar siyahının ortasında istinad verməyi dayandırır, görünənlər isə demək olar ki, yalnız domen adını göstərir. Tədqiqat cavabı, müəllifə görə, dərc tarixi və müəllif adı kimi aydın metadatalarla sitatlar siyahısı olmalı, dəyişdirilməmiş sitat isə ön planda və AI tərəfindən yazılmış istənilən mətndən böyük göstərilməlidir.

İnterfeyslər, məlumat mənbəyi və kontekst

Təbii dildə interfeyslər, essenin qeyd etdiyi kimi, dəqiq deyil və təkrarlanır; söhbət botuna MCP serveri vasitəsilə "alətlər" vermək bunu düzəltmir: konkret vəzifəyə fokuslanan məhsul həmin vəzifə üçün interfeys təklif etməlidir. Glyph həmçinin məlumat mənbəyi göstəriciləri, nəticəni cədvəl kimi yoxlayan alətlər və heç bir məhsulun defolt göstərmədiyi kontekst pəncərəsinin görünürlüyünü istəyir.

Sandbox və insan tərəfi

Kod agentləri, yazır o, dəfələrlə məlumat məhv edib, yoxlanılan sistemin yerinə test kodunu redaktə edir və tez-tez Docker konteynerindən istifadə kimi məsləhətlə "düzəldilir". Təsdiq sorğuları, onun fikrincə, insanı "avtomatik təsdiq maşınına" çevirir. O, fayl əməliyyatlarının sandboxda saxlanmasını, hər əməliyyatdan əvvəl repozitoriyanın snapshotunu, avtomatik rejimlərin ləğvini və planların qrup şəklində nəzərdən keçirilməsini istəyir.

AI tətbiq edən təşkilatlar, Glyph əlavə edir, insan proseslərində də dəyişiklik etməlidir: diqqətin zəifləməsinə qarşı növbə rotasiyası və planlı istirahət, bacarıq itkisini yavaşlatmaq üçün qəsdən məşq və ruhi sağlamlıq resursları, o cümlədən istifadəçiyə görünən AI "dozimetri". Bu funksiyaların heç biri olmadan buraxılış, yekunlaşdırır o, riskə qarşı diqqətsiz münasibətə bənzəyir.