Anthropic və Accenture qabaqcıl AI modellərini içəridən qiymətləndirəcək
Anthropic Accenture-ın Faculty bölməsinə laboratoriya daxilində işçi səviyyəsində giriş verərək modelləri müstəqil qiymətləndirəcək. İki şirkət beş ildə ən azı bir milyard dollar sərmayə qoymağı planlaşdırır.
Nə baş verdi
Anthropic qabaqcıl süni intellekt modellərinin müstəqil qiymətləndirilməsi üçün Accenture ilə tərəfdaşlıq elan etdi. İşi Accenture-ın ixtisaslaşmış AI bölməsi olan Faculty aparacaq; əhatə dairəsinə modellərin qiymətləndirilməsi və red teaming, alignment yoxlamaları və model qoruyucu mexanizmlərinin sınaqdan keçirilməsi daxildir.
Niyə vacibdir
Söhbət "daxili qiymətləndirmə"dən gedir: qiymətləndiricilər AI şirkətinin içində, işçi səviyyəsində girişlə çalışır. Bu, modelin təlim zamanı necə formalaşdığını görməyə, onun necə qurulub istifadəyə verilməsi ilə bağlı qərarları izləməyə və işçilərlə birbaşa danışmağa imkan verir. Beləliklə, onlar şirkətin təhlükəsizlik öhdəliklərinə əməl etdiyini yoxlaya və kor nöqtələri aşkarlaya bilirlər.
Maliyyə və açıq suallar
Hər iki şirkət növbəti beş ildə ən azı 1 milyard dollar sərmayə qoymağı planlaşdırır. Amma hələ ki qiymətləndiricilərin hansı məlumatlara çıxışının olması və nəticələri necə bildirməsi ilə bağlı standart yoxdur. Anthropic Accenture-ın işini birbaşa maliyyələşdirəcək, lakin uzunmüddətli perspektivdə maliyyələşmənin ortaq və ya dövlət mənbələrindən gəlməli olduğunu bildirir. Tərəfdaşlıq eksklüziv deyil: şirkət METR və digər qeyri-kommersiya qiymətləndiriciləri ilə də danışıqlar aparır.