Anthropic עובדת עם משרדי עורכי דין על נורמות הוגנות למשא ומתן של סוכני AI

Anthropic מחפשת הנחיות משפטיות להזמנות AI

דיווח של Financial Times מציין כי Anthropic מתייעצת עם משרדי עורכי דין כדי לקבוע נורמות הוגנות למשא ומתן עבור סוכני AI הפועלים מטעם משתמשים. המטרה היא להסדיר כללים למערכות שיכולות למשא ומתן על מחירים, לטפל בתלונות או לשפר הצעות חוזים. החברה מצהירה כי היא עדיין בוחנת כיצד סוכני AI יוכלו לנהל משא ומתן מטעם משתמשים.

כישורי המשא ומתן מעלים סיכון לאי-שוויון

Anthropic כבר הדגימה בניסויים שדגמים חזקים יותר מייצרים הזמנות טובות יותר. התגלית הזו עשויה להפוך לב�יס לגידול באי-השוויון החברתי, אם כישורי משא ומתן מתקדמים ירוכזו אך ורק במערכות חזקות יותר.

פעילות זו היא חלק מקמפיין השכרה רחב יותר. Anthropic מזמינה עורכי דין לתוכנית Conceptual Reasoning Fellows שבמסגרתה הם יבחנו את Claude בארבעה החודשים הקרובים בשאלות התלויות שיפוט במשפט, פילוסופיה, מדעים קוגניטיביים, כלכלה ומדעי פוליטיקה. המלגות נעות בין 100,000 ל-167,000 דולר.

בעיית הנתונים במדעי הרוח

המאמץ נובע מבעיית נתונים. במתמטיקה ובכתיבת קוד, שיפור דגמי AI יחסית קל מכיוון שנתונים ניתנים לאימות נמצאים בשפע או שניתן לייצר אותם בקלות. במדעי הרוח נתונים כאלה לא קיימים, חלקית מכיוון שתשובות נכונות ולא נכונות כה נדירות שאי אפשר להבחין ביניהן. Anthropic מצהירה כי היא זקוקה למומחים שיוכלו ליצור תרחישי בדיקה והערכות כדי ש-Claude יחזק בתחומים אלה.

ג'סטין קרל, חבר בצוות הטכני של Anthropic החוקר משפט, מוסדות ו-AI, מאשר כי במשפט "הגדרת איכות, כפי שהיא מוכרת, קשה מאוד".

מקורות: The Decoder · Techmeme