Anthropic ו-Accenture ישתפו פעולה בהערכה פנימית של מודלי AI

מה קרה

Anthropic הודיעה על שותפות עם Accenture להערכה בלתי תלויה של מודלי בינה מלאכותית מתקדמים. את העבודה תוביל Faculty, היחידה המתמחה ב-AI של Accenture, והיא כוללת הערכת מודלים ו-red teaming, בדיקות יישור (alignment) ובדיקת אמצעי ההגנה של המודלים.

למה זה חשוב

מדובר ב"הערכה משובצת": מעריכים עובדים בתוך חברת ה-AI עם גישה הדומה לזו של עובד. כך הם יכולים לראות כיצד המודל מתגבש בזמן האימון, לעקוב אחר ההחלטות שמכתיבות את בנייתו והפעלתו ולדבר ישירות עם העובדים. מנקודת תצפית זו הם יכולים לאמת עמידה בהתחייבויות בטיחות ולזהות נקודות עיוורות.

הכסף והשאלות הפתוחות

שתי החברות מתכננות להשקיע לפחות מיליארד דולר כל אחת בחמש השנים הקרובות. עם זאת, עדיין אין תקנים לשאלה למה צריכים המעריכים לקבל גישה ואיך לדווח על ממצאים. Anthropic תממן את Accenture ישירות, אך מציינת שמימון כזה צריך לבוא בעתיד ממקורות משותפים או ממשלתיים. השותפות אינה בלעדית — החברה מנהלת מגעים גם עם METR ומעריכים ללא כוונת רווח נוספים.

📖 מקור