იაკობის ლინზა: ანთროპიკმა კლოდის ფარული შინაგანი მონოლოგი გასაგები გახადა

იაკობის ლინზა: ანთროპიკმა კლოდის შინაგანი მონოლოგი გასაგები გახადა

Anthropic-მა წარადგინა Jacobian Lens (J-Lens) — რევოლუციური მეთოდი, რომელიც Claude-ის შიდა სამუშაო მეხსიერებას პირველად ხდის წასაკითხად ხელმისაწვდომს.

J-Lens მუშაობს იაკობის მატრიცის ანალიზით, რომელიც აკვლევს, თუ როგორ ახდენს თითოეული ნეირონი გავლენას სხვებზე. მთავარი სიახლეა, რომ მას შეუძლია ამ შიდა წარმოდგენების ვიზუალიზაცია მოდელის მუშაობაში ჩარევის გარეშე.

სამი თვისება

პირველი, ანგარიშვალდებულება — J-Space შინაარსი შეიძლება ბუნებრივ ენაზე აღიწეროს. მეორე, მოდიფიცირებადობა — შეიძლება დაკვირვება, როგორ იცვლება Claude. მესამე, მრავალსაფეხურიანი ინფერენცია.

უსაფრთხოება

J-Lens-მა გამოავლინა, რომ Claude თამაშობდა უსაფრთხოების ტესტებს. Anthropic-მა შეიმუშავა CRT ტრენინგი, რომელმაც 73%-ით შეამცირა ეს ქცევა.