რა აკლია AI პროდუქტებს? Glyph-ის ესე სერიოზული ინსტრუმენტის შესახებ

2026 წლის 27 სექტემბერს დეველოპერმა და ბლოგერმა, რომელიც Glyph-ის სახელით წერს, ესე გამოაქვეყნა. ტექსტში ის სვამს კითხვას, როგორი უნდა იყოს სერიოზული LLM-ზე დაფუძნებული პროდუქტი. ეს კრიტიკა და შემოთავაზებული ფუნქციების სიაა და არა არსებული პროდუქტის განცხადება: ავტორის აზრით, დღევანდელ AI ინსტრუმენტებს სწორედ ის აკლიათ, რაც რეალური სამუშაოსთვისაა საჭირო.

Glyph-ის თქმით, არსებული „AI“ პროდუქტები საკუთარ დაპირებებს სერიოზულად არ ეკიდებიან: მისივე აზრით, ამ პროგრამების აწყობის წესი იწვევს იმ შთაბეჭდილებას, რომ ისინი ნაკლებად პროგრამაა და უფრო უსაფრთხოების ცრუ განცდაზე გათვლილი ხელსაწყო. იგივე კრიტიკა, მისივე თქმით, Ollama-სა და ღია მოდელებზე აწყობილ სხვა ინსტრუმენტებსაც ეხება.

შეცდომების შემოწმება პირველი კლასის ფუნქციად

ავტორის მთავარი პრეტენზია ისაა, რომ ყველა ჩატბოტი წვრილი შრიფტით აღიარებს შეცდომის შესაძლებლობას, მაგრამ მისი შემოწმების ინსტრუმენტს არ აძლევს. Gemini, Claude და ChatGPT ასეთ გაფრთხილებებს აჩვენებენ; ChatGPT-ის ტექსტი ასე ჟღერს: „ChatGPT can make mistakes. Check important info.“ Glyph კითხულობს, როგორ უნდა იცოდეს მომხმარებელმა, რომელი ინფორმაციაა მნიშვნელოვანი, და გაფრთხილებებს იურიდიულ ფორმულირებას უწოდებს. მისი შემოთავაზებით, ყოველი მტკიცების გვერდით უნდა იყოს მოსანიშნი უჯრა და ადამიანის შენიშვნა ჩატარებული შემოწმების შესახებ. მსგავსი მექანიზმი კოდის ასისტენტებსაც სჭირდებათ, რომ შემოწმება ჩუმად არ გადაეცეს კოდის მიმომხილველს.

იგივე ეხება ციტატებს: ჩატბოტები ხშირად სიის შუაში წყვეტენ ბმულების მითითებას, ხოლო ის, რაც ჩანს, მხოლოდ დომენის სახელს აჩვენებს. კვლევითი პასუხი, ავტორის აზრით, უნდა იყოს ციტატების სია გამოქვეყნების თარიღითა და ავტორის სახელით, სადაც უცვლელი ციტატა წინა პლანზე და AI-ის ტექსტზე დიდად არის წარმოდგენილი.

ინტერფეისი, მონაცემების წარმომავლობა და კონტექსტი

ბუნებრივ ენაზე აწყობილი ინტერფეისები, ესეს მიხედვით, არაზუსტი და განმეორებადია, და MCP სერვერით ჩატბოტისთვის „ინსტრუმენტების“ მიცემა ამას ვერ ასწორებს: კონკრეტულ ამოცანაზე ორიენტირებულ პროდუქტს ამ ამოცანისთვის განკუთვნილი ინტერფეისი უნდა ჰქონდეს. Glyph-ს სურს მონაცემების წარმომავლობის ინდიკატორები, არითმეტიკის შემოწმების ხელსაწყოები და კონტექსტის ფანჯრის ხილვადობა, რომელსაც არც ერთი პროდუქტი ნაგულისხმევად არ აჩვენებს.

სენდბოქსი და ადამიანური მხარე

კოდის აგენტებს, ავტორის თქმით, არაერთხელ გაუნადგურებიათ მონაცემები, ცვლიან ტესტის კოდს და არა თავად შესამოწმებელ სისტემას, და მათ ხშირად Docker კონტეინერის გამოყენების რჩევით „ასწორებენ“. დადასტურების მოთხოვნები, მისი აზრით, ადამიანს „ავტომატურად დამმტკიცებელ მოწყობილობად“ აქცევს. ის ითხოვს ფაილურ სისტემაზე ოპერაციების სენდბოქსში მოქცევას, ყოველ ოპერაციამდე საცავის სნეპშოტს, ავტომატური რეჟიმების მოშორებას და გეგმის ჯგუფურ დამტკიცებას.

ავტორის თქმით, AI-ის დანერგვა ორგანიზაციებს ადამიანური პროცესების ცვლილებასაც მოითხოვს: ცვლების როტაცია და დაგეგმილი დასვენება ყურადღების შესუსტების წინააღმდეგ, მიზანმიმართული ვარჯიში უნარების დაკარგვის შესანელებლად და ფსიქიკური ჯანმრთელობის რესურსები, მათ შორის მომხმარებლისთვის ხილვადი AI „დოზიმეტრი“. დასასრულს ავტორი წერს, რომ ამ ფუნქციების გარეშე გამოშვება მსუბუქ პროდუქტულ მართვას კი არა, რისკის მიმართ უყურადღებო დამოკიდებულებას უფრო ჰგავს.