המתמטיקאי אנדראס תום שואל אם אפשר לסמוך על OpenAI עם מתמטיקה שלא פורסמה

שאלה שנשארה פתוחה

המתמטיקאי אנדראס תום פרסם שרשור קצר שבו הוא טוען ש-OpenAI לא השיבה לשאלה בסיסית עבור מתמטיקאים עובדים: האם מחקר שלא פורסם ונידון עם הצ׳אטבוט שלה יכול לשמש את החברה. הפוסט, מתוארך ל-9 בספטמבר ומסומן על ידי המחבר כ״1/3״, נכתב בשרת Mathstodon כתשובה לחוקר אחר.

תום אומר שהנקודות עלו בו לאחר שקרא על המחלוקת סביב ההודעה של OpenAI על קבוצת non-sofic, וכי הפרשה הזכירה לו התכתבות שהייתה לו עם החברה לאחר שהתוצאה פורסמה.

המכתב לסלקה ולבובק

זמן קצר לאחר הגילוי המפתיע של קבוצת ה-non-sofic, שהשתמש בשיטות שפיתחו גאבור קון ותום עצמו, כתב המתמטיקאי למארק סלקה ולסבסטיאן בובק. הוא ועמית מדרזדן דנו בחודשים האחרונים בבעיית ה-expander matching ובהרחבות של העבודה עם גאבור קון ״באופן פעיל ... עם ChatGPT״, כך כתב, ולכן ״התעניינו כמובן אם זה היה חלק מנתוני האימון או נגיש לתהליך הפתרון״.

הוא הוסיף: ״יש כאן חוסר שקיפות מסוים (באופן גלוי, בלתי מקובל); ואני חושש שזה יזיק לתהליך המשותף של המתמטיקה יותר ממה שהתוצאות החדשות שנוצרו ב-AI יועילו לתחום״. תשובתו המלאה של מארק סלקה, כפי שצוטטה בפוסט, הייתה: ״בנוגע לשיחות שלך עם ChatGPT: זה לא קרה״.

שתי שאלות, תשובה אחת

תום מדגיש שהוא שאל במפורש על שני דברים שונים: ראשית, האם השיחות נכנסו לנתוני האימון, ושנית, האם הן היו נגישות לתהליך הפתרון. לדעתו, התשובה הנחרצת מתייחסת רק לגישה ישירה בשאלה השנייה; לשאלה הראשונה לא ניתנו הסתייגות, הסבר או ראיה.

״אני רואה בכך חוסר יושר, בלשון המעטה״, הוא כותב.

מה אומרת OpenAI כעת

בפרשת Buckmaster–Alpöge, OpenAI אומרת שלא הייתה גישה לנתוני משתמש ספציפיים, אך מוסיפה שהיא ״לא יכולה לשלול שנתונים שהזהותם הוסרה, שנגזרו מהשימוש שלהם במוצרים שלנו, סייעו לשפר את המודלים שלנו״. עבור תום, הדבר מותיר ללא מענה בדיוק את השאלה שחשובה לחוקרים: האם אפשר לסמוך על כך שחומר שמשותף עם מערכת AI יישאר לא מפורסם.