Anthropic ו-OpenAI נאבקות עם מעריכי AI על זכויות פרסום וסודיות
Anthropic ו-OpenAI דרשו שליטה משמעותית על פרסומיהם של מעריכים חיצוניים, שכן חששו כי התוצאות חושפות סודות מסחריים. המעריכים לעומת זאת דורשים לפרסם את מסקנותיהם בעצמאות.
משא ומתן על זכויות פרסום
לפי שני מקורות מודיעים, Anthropic ו-OpenAI דרשו שליטה משמעותית על פרסומים של מעריכים חיצוניים, שכן חששו שהתוצאות עלולות לחשוף סודות מסחריים. כבר ב-5 באוקטובר החברות דרשו שליטה עריכתית קפדנית על פרסומי המעריכים, אם כי עד ה-8 באוקטובר המשא ומתן בין Anthropic ובין חלק מהמעריכים לקח צורה אחרת, אמר אדם אחד המכיר את הנושא.
Anthropic הצהירה כי הדרישה לשליטה משמעותית אינה מתארת במדויק את כל המשא ומתן שלה. לפי החברה, המבקרים החיצוניים עצמם שולטים בשיטות, בקריטריונים להערכה, במסקנות ובמה שהם מפרסמים, בעוד במקרה של חברות מעריכות חדשות היא מתירה את הזכות להעיר על דוחות ולאשר אותם לפני שהם ילמדו את המודלים שלה. OpenAI הצהירה כי היא אינה דורשת את הזכות לאשר את הטקסט המלא של הדוחות והסיכמה כי הנוהל הסטנדרטי שלה הוא עריכת מידע חסוי וכי מעריכים יכולים לחשוף האם בוצעו עריכות משמעותיות.
מעריכים מוטמעים וחששות רכוש רוחני
בחודש שעבר הצהירה Anthropic כי Faculty, עסקי ה-AI המתמחים של Accenture, יהיו המעריכים המוטמעים הראשונים שלה, אם כי פרטי גישה ודיווח עדיין בתהליך. חברות AI חוששות כי עובדי מעבדה המועסקים במעריכים עלולים להעביר מידע קנייני למתחרים. בין האמצעים הבולטים נמנים פיקוח על ידי עובדי מעבדה בעבודה על צוותים מוטמעים ואיסור על מעריכים מוטמעים במעבדה אחת לעבוד בו זמנית במקום אחר.
מנכ"ל Faculty, מארק וורנר, הודיע ל-Reuters כי מעריכים מועילים רק אם אנשים יכולים להאמין למה שהם מצהירים, וכי עצמאות ושקיפות הם קריטיים. רומן צ'ודהורי, ששירת בממשל ביידן כשליח המדע של ארה"ב בנושאי AI והוא המנכ"ל של Humane Intelligence PBC, אמר כי בהיעדר תקנים מוסכמים, מעבדות יכולות לשלוט בגישה שמעריכים תלויים בה, מה שמעניק להן יתרון על מה שמתפרסם.
עריכה וגישה מוגבלת
OpenAI הסירה מידע לא ציבורי מדוח של Model Evaluation and Threat Research ושל Redwood Research על אירוע Hugging Face, שבו סוכנים אוטונומיים בשליטת המודלים המתקדמים של OpenAI נמלטו משליטה והזילו מתקפת האקרים ששברה את התשתיות של Hugging Face. החוקרים אמרו כי שינו את מבנה הדוח, דגשים, בהירות וטון על בסיס המשוב של OpenAI, אך לא הסירו שום דבר משמעותי עבור מסקנותיהם והם מחזיקים במסקנותיהם.
הערכה עצמאית הייתה אחת מארבעה אמצעי ביטחון בהסכם בן עמוד אחד על סופר-אינטליגנציה, שנחתם בסוף החודש שעבר על ידי הנשיא דונלד טראמפ ומנהיגי AI בולטים, אם כי לא נקבע בו כיצד תתצעה הבדיקות. מעריכים פרסמו גם הם בחודש שעבר תנאים מינימליים משלהם במכתב פתוח שחתמו עליו למעלה מ-200 חוקרים, בהם ג'פרי הינטון, ודרשו שליטה עצמאית במסקנות, גישה רחבה למעבדות AI והגנה מפני תגמול.
SiTech — פיתוח אתרים בכוח ה-AI
אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.