Anthropic אסרה התנהגות מזלזלת כלפי Claude בעדכון הראשון של כללי השימוש לאחר יותר משנה

Anthropic עדכנה לראשונה את מדיניות השימוש לאחר יותר משנה והוסיפה מגבלות על התערבות בבחירות, ייצור נשק, מעקב ושימושים בריאותיים ופיננסיים עבור מודלי Claude AI. השינוי המרכזי אוסר „התנהגות מזלזלת או אלימה חוזרת ונשנית" כלפי Claude.

טובת המודל

העדכון מבוסס על צעד מאוגוסט שעבר, כאשר Anthropic אמרה ש-Claude יכול היה לסיים שיחות „עם משתמשים מזיקים או מזלזלים באופן קבוע". לפי החברה, סיום השיחה נשאר „מנגנון אכיפה בסיסי"; לא ידוע אם ילווה חסימת משתמשים.

הכלל החדש „ישמש רק במקרים קיצוניים שבהם משתמשים מתנהגים באלימות חוזרת כלפי המודלים שלנו ללא כל מטרה מובנת". הוא אינו חל על חוסר שביעות רצון רגיל, התנגדות, נושאים יצירתיים שחורים או בדיקה ומחקר.

השינוי מגיע על רקע דיונים תעשייתיים על טובת המודל. CEO של Anthropic, דריו אמודיי, אמר בפברואר: „אנחנו לא יודעים אם מודלים הם בעלי תודעה". פרויקט Codex של מוסטפה סוליימן ב-Microsoft AI דחה בתחילה את זכויות המודל, ולאחר מכן ריכך את עמדתו.

תעמולה ובחירות

Anthropic איחדה מוקדם „מורחבים" מגבלות באיסור חדש על קמפיינים מטעים מסחריים או פוליטיים, מה שתורם לגידול בתעמולה המופקת ב-AI. המדיניות מגבילה „ניסיונות להסתיר מי עומד מאחורי הודעות או להגביר תוכן עם חשבונות ופוסטים מזויפים".

חלק הבחירות אוסר הונאת בוחרים והתערבות בתהליך הבחירות, כולל דיזינפורמציה „על מועמדים או על שיטת הצבעה, על מועמדים או על גיוס פוליטיקאים רשמיים, או על דיכוי פעילות בוחרים".

נשק ומעקב

מדיניות השימוש תמיד אסרה ייצור נשק עם Claude, אך Anthropic אמרה שזיהתה לעיתים קרובות ניסיונות להשתמש ב-Claude ליצירת הוראות ותוכנות ניהול לנשק. האיסור המורחב כולל „תוכנות ורכיבים המעבדים נשק, כמו גם נשק של כלי טיס בלתי מאוישים ואמצעי תחבורה אוטונומיים אחרים".

לאחר דוח איום אחרון שחשף גידול במעקב המונהג על ידי Claude נגד „דיסידנטים פוליטיים", החברה דייקה את האיסורים. לפי Anthropic, מעקב אחר אנשים ללא הסכמתם אסור, בין אם בזמן אמת או עם נתונים שנאספו קודם לכן. אסור להשתמש ב-Claude לקבלת החלטות או המלצות על מי לחפש, לעצור או להעמיד לדין, או ליצור ולשפר כלי מעקב.

Anthropic ציינה שכללים אלה עשויים להשתנות „עבור חוזים מסוימים עם לקוחות ממשלתיים", אם מגבלות החוזה ואמצעי ההגנה ייחשבו מספיקים להפחית נזק פוטנציאלי. החברה שיתפה פעולה בעבר גם עם הכוחות הצבאיים של ארה"ב.

חומרה ורובוטיקה

לפי הכלל החדש, כאשר מודלי Anthropic מתחברים לחומרה אוטונומית ועלולים לגרום לפציעה, מפעיל מוסמך חייב להיות מסוגל לפקח ולעצור במקרה הצורך. האם המפעיל הזה חייב להיות אדם, לא ברור. זה משקף את העניין של מעבדות AI ברובוטיקה וחומרה כדי לתת למערכות AI הבחנה פיזית, ועשוי להצביע על שותפויות עתידיות של Anthropic.

מקורות: The Verge Ai