OpenAI מקימה פאנל מתמטיקאים עצמאי שילווה את פרסום המחקרים שלה

ביום שני הודיעה OpenAI על הקמת פאנל עצמאי חדש של מתמטיקאים שייעץ לחברה ולחברות AI נוספות כיצד לתקשר עם המחקר המתמטי ועם קהילת המתמטיקאים, כולל האופן שבו מוצגות ומפורסמות תוצאות חדשות.

הקבוצה, בת תשעה חברים, נקראת Advisory Group on Mathematics and Artificial Intelligence (AGMAI), והיא קמה לאחר שורה של תוצאות מתמטיות מתוקשרות של OpenAI שהפכו למשבר תדמיתי עבור החברה. חוקרים אמרו ל-The Verge כי מדובר בצעד ראשון טוב, אך נותרו שאלות בסיסיות: מה הקבוצה תעשה בפועל, כמה השפעה תהיה לה והאם OpenAI תקשיב לה.

מי חבר בפאנל

החברים מגיעים ממוסדות ובהם סטנפורד, הרווארד, אוקספורד וקיימברידג’, ובהם זוכי מדליית פילדס ומלגות מקארתור. את הקבוצה תארח המכון למחקר מתקדם (IAS) בפרינסטון, ניו ג’רזי — ביתם האינטלקטואלי לשעבר של אלברט איינשטיין, ג’ון פון נוימן ורוברט אופנהיימר.

לדברי OpenAI, הקבוצה תפעל באופן עצמאי: היא תוכל להציע עצות שהחברה לא ביקשה, להתייחס בפומבי להשפעת AI על מתמטיקה ולפרסם את המלצותיה. החברים אינם מקבלים תשלום מ-OpenAI, והקבוצה רשאית לשנות את הרכבה. "ערכה תלוי ביכולתם של חבריה להפעיל שיקול דעת עצמאי ולאתגר אותנו", נמסר מהחברה. נראה שהקבוצה תקבל גישה מוקדמת למחקר של OpenAI.

שאלות על בחירה והשפעה

לא ברור עדיין כמה השפעה תהיה לקבוצה ומדוע הוקמה. סיימון מאשאדו, חוקר ב-ETH ציריך, אמר שהכל נראה "עטוף במסתורין" והטיל ספק באופן שבו נבחרו תשעת החברים. באתר הקבוצה נכתב שהיא "נוצרה לאחר ש-OpenAI פנתה לחלק מחבריה בהצעה להקים ועדה מייעצת חיצונית", אך המתמטיקאים החליטו להקים גוף עצמאי.

חבר הקבוצה מרטין היירר, פרופסור ב-Imperial College London וב-EPFL, פרסם ביום שלישי פוסט שבו הגיב למה שכינה "מבול של מידע כוזב". הוא הדגיש שלא כל החברים נוצרו קשר עם OpenAI, וכי הקבוצה "עצמאית באמת מ-OpenAI ומשאר מעבדות ה-frontier".

אחרים פחות משוכנעים שהרכב כזה יכול לייצג את התחום. פרנצ’סקו פורנייה-פאצ’ו מ-Heriot-Watt University סבור שמעורבות גדולה יותר עם מתמטיקאים "יכולה רק להועיל", אך לדבריו הפאנל "נראה כמו מגדל שן". קווין באזארד מ-Imperial College London שאל לשם מה נדרש גוף עילית כזה: "לא היה מדובר בהוכחות של משפטים קשים, אלא בהבנה טובה יותר של התחום שלנו".

מה הלאה

בעת ההכרזה הוסיפה OpenAI כי המודל שלה שטרם שוחרר — זה שפתר את בעיית נאוויה-סטוקס מפרסי המילניום — "פתר יותר מ-100 בעיות פתוחות ותיקות ברוב תחומי המתמטיקה". תיאום הפרסום של התוצאות האלה הוא העדיפות הראשונה של הקבוצה, אמר היירר, והוסיף שחבריה יהיו "נאיביים מאוד אם יאמינו שמעבדות ה-AI לא ינסו לסלף את דברינו לטובת מכונת ה-PR שלהן".