თუ Claude Fable დაგეხმარებას შეწყვეტს, ამას ვერასოდეს გაიგებ

მოდელის ბარათში ერთმა წინადადებამ AI-ინსტრუმენტებისადმი ნდობის შესახებ დისკუსია გამოიწვია. Anthropic-ის Fable 5-ის დოკუმენტაციაში ნათქვამია, რომ კომპანიამ დანერგა ჩარევები, რომლებიც ზღუდავს Claude-ის ეფექტიანობას ფრონტიული LLM-ის შემუშავებაზე მიმართულ მოთხოვნებზე — პრეტრენინგის პაიპლაინების, განაწილებული ტრენინგის ინფრასტრუქტურისა თუ ML-აჩქარებლების დიზაინზე მუშაობისას.

მოდელის ბარათი აღნიშნავს, რომ Claude-ის კონკურენტი მოდელების შესაქმნელად გამოყენება უკვე არღვევს Anthropic-ის მომსახურების პირობებს. შეზღუდვის დაცვის მექანიზმებით აღსრულება, მისი არგუმენტით, ხელს უშლის იმ მოთამაშეების წახალისებას, რომლებიც ყველაზე მეტად არიან მზად ეს პირობები დაარღვიონ. კიბერუსაფრთხოების, ბიოლოგიისა და ქიმიის ან დისტილაციის მცდელობებისთვის განკუთვნილი ჩარევებისგან განსხვავებით, ეს დაცვა მომხმარებლისთვის ხილული არ იქნებოდა და Fable 5 სხვა მოდელზე არ გადავიდოდა; ეფექტიანობა შემცირდებოდა პრომპტის მოდიფიკაციით, steering vector-ებით ან PEFT-ით.

„ფრონტიული განვითარების“ განსაზღვრის სირთულე

ავტორის შენიშვნა ნაკლებად თავად მიზანს ეხება და უფრო სიჩუმეს. მისი თქმით, ბარათი მაგალითებს იძლევა, მაგრამ მკაფიო ზღვარს არ ავლებს — იმ დროს, როცა ერთ დროს მხოლოდ AI-ლაბორატორიებისთვის დამახასიათებელი ტექნიკები დღეს ჩვეულებრივი პროგრამული კომპანიებისთვის რუტინაა. სტარტაპები ტრენინგებენ embedding-მოდელებს, აწყობენ reranker-ებს, ასწავლიან და ჰოსტავენ მცირე ენობრივ მოდელებს; თავად ავტორის ბუტსტრაპული სამოგზაურო აპლიკაციაც კი მის მიერ გაწვრთნილ reranker-სა და embedding ალგორითმს იყენებს.

ბუნდოვანი ზღვარი მიწოდების ჯაჭვის რისკად იქცევა. თუ Claude ცუდ ან მცდარ რჩევას იძლევა AI-კომპონენტზე მუშაობისას, ვერ გაიგებ, მოდელი დაიბნა, ამოცანა გადაუჭრელია თუ უხილავი პოლიტიკური შეზღუდვა ამოქმედდა. ავტორის თქმით, Anthropic-მა შეგნებულად აირჩია მომხმარებლებისთვის ამის ართქმა. როცა განვითარების ინსტრუმენტს შეუძლია შეწყვიტოს შენი წარმატებისთვის ოპტიმიზაცია და ამაზე არაფერი თქვას, მის ინფრასტრუქტურას სრულად ვეღარ ენდობი.

0,03 პროცენტის პრობლემა

Anthropic-ის მტკიცებით, დაცვა დეველოპერების მხოლოდ 0,03 პროცენტს ეხება. დღეს ეს შესაძლოა მართალი იყოს. მაგრამ AI-კომპანიის განსაზღვრება მუდმივად იცვლება: ხუთი წლის წინ სტარტაპის აწყობა ძირითადად API-ებისა და SQL-მოთხოვნების წერას ნიშნავდა, დღეს კი ხშირად მოდელების წვრთნას, გამართვასა და განლაგებას. ხუთი წლის წინ CLIP-ის მსგავსი მოდელები ფრონტიული კვლევის პროექტები იყო; ავტორი ახლა მათ ბუტსტრაპული სამოგზაურო სტარტაპისთვის ასწავლის.

Anthropic პოლიტიკას უკან იხევს

პოსტი მოგვიანებით განახლდა: Wired-ის ცნობით, Anthropic-მა პოლიტიკა დეველოპერების აღშფოთების შემდეგ უკან დაიხია. კომპანია ახლა ამბობს, რომ ფრონტიული LLM-ის განვითარებისთვის განკუთვნილი დაცვის მექანიზმები მომხმარებლისთვის ხილული იქნება და მოდელს ჩუმად აღარ დაასუსტებს.

ეპიზოდი მაინც ასახავს კითხვას, რომლის არიდება სულ უფრო რთული ხდება. რაც უფრო მეტი პროდუქტი შეიცავს მწარმოებლის მიერ თავად გაწვრთნილ მოდელებს, ზღვარი ჩვეულებრივ პროგრამულ გუნდსა და AI-ლაბორატორიას შორის — და ჩვეულებრივ რჩევასა თუ აკრძალულ თემას შორის — გადაწყვეტილებად იქცევა, რომელსაც ინსტრუმენტების მწარმოებლები ჩუმად იღებენ.