מתמטיקאים קבעו כללים לפרסום תוצאות שנוצרו ב-AI

קבוצה עצמאית העוסקת במתמטיקה ובינה מלאכותית (agmai.org) פרסמה ב-29 בספטמבר המלצות כיצד מעבדות AI צריכות לפרסם תוצאות מתמטיות שנוצרו על ידי מודלים. המסמך „Responsible Release of AI-Generated Mathematics“ נוסח על בסיס יותר מ-600 תשובות של הקהילה המתמטית.

המחברים מצהירים מלכתחילה שאינם תומכים בכך שמעבדת AI מובילה בוחנת בעיות מתמטיות קשות על מודלים שאינם נגישים לציבור, וקוראים להן להפסיק.

מדוע זה חשוב

מחקר מתמטי נשען על נורמות שלפיהן המחבר מבין בעצמו את מסקנתו, בודק את נכונותה ונושא באחריות לתוכן. כעת AI יכול להציג נימוק מתמטי שנשאר בלתי מובן ובלתי ניתן לבדיקה עבור המבקש. לפי הקבוצה, הבנה אנושית של מתמטיקה היא ערך מרכזי, והיא צריכה להישאר חלק מפרסום מדעי אחראי.

שתי דרכים לפרסום

המסמך מבחין בין תוצאה שאדם מבין לבין תוצאה שאיש עדיין אינו מבין. במקרה הראשון חלה המסורת האקדמית: preprint, שליחת המאמר לכתב עת לדיון וסמינרים שבהם המחבר מסביר את המאמר לעמיתים.

אם המבקש אינו מבין את הנימוק שנוצר על ידי המודל, הקבוצה קובעת תקנים טכניים לפרסום ראשוני: המעבדה צריכה לחפש בספרות רעיונות קשורים ולציין את המאמרים שבהם הם הופיעו לראשונה, גם אם המודל גילה אותם בעצמו. יש לכתוב מחדש את ההוכחות בסגנון של מאמר מתמטי תקני, עם משפטים מדויקים וללא טרמינולוגיה לא סטנדרטית. יש להפקיד את התוצאות בזמן במאגרים מדעיים שאף מעבדת AI אינה שולטת בהם.

עבור כל תוצאה, המעבדה צריכה לפרסם את שם המודל, את הפרומפטים, סיכום של שרשרת החשיבה, את הזמן שהושקע ואת העלות המשוערת של החישוב. אם מתפרסמות תוצאות רבות בבת אחת, נדרש מסמך נפרד שמפרט את כולן ומסביר כמה בעיות בדרגת קושי דומה המודל לא הצליח לפתור וכיצד נבחרו הבעיות.

מימון ונגישות רחבה

לפי הקבוצה, מעבדה שמפרסמת תוצאות חשובות ללא הבנה אנושית מחויבת לקחת אחריות ולהעניק תמיכה, כולל כספית, כדי שההבנה תתרחש לפחות בדיעבד. אילו פרויקטים ימומנו נקבע על ידי ארגונים עצמאיים ללא כוונת רווח, ולא על ידי הקבוצה או המעבדות. התמיכה יכולה לשמש לכנס על הוכחה מורכבת, סדנת עבודה, קבוצת עבודה ארוכת טווח, מימון פוסט-דוקטורנטים או כתיבת ספרי הסבר.

המסמך מזהיר שמחקר המבוסס על מודלים פנימיים סגורים יוצר סיכון למערכת דו-רובדית: כמה מעבדות מקדימות את שאר התחום ומרחיקות את הקהילה המתמטית מהדיסציפלינה שלה. הקבוצה קוראת למעבדות לתת לקהילה המתמטית העולמית גישה רחבה ושוויונית למודלים זמינים לציבור, משום שמתמטיקה מתפתחת באמצעות אימות קולקטיבי, סינתזה של מושגים ואינטואיציה משותפת.