גארי טאן: גם למעבדות משקל פתוח בארה״ב צריך להיות מותר לזקק מודלי חזית

גארי טאן, מנכ״ל Y Combinator, מעדיף שהרגולטורים יימנעו מלהתערב בזיקוק — השיטה שבה מאמנים מודל על ידי כך שמפנים אליו אינספור בקשות למודל אחר כדי ללמוד איך הוא עובד וכיצד הוא מנמק. "לא הייתי עושה דבר", אמר ל-CNBC בראיון השבוע. "אפשר לטעון שצריך להיות משטר זיקוק אמריקאי".

בראיון ל-TechCrunch הבהיר טאן שהכוונה היא לאפשר למעבדות אמריקאיות קטנות של משקל פתוח להשתמש באותן טכניקות אימון על מודלי החזית האמריקאיים, כדי שלארצות הברית יהיה מערך איתן של אפשרויות משקל פתוח שאינן סיניות.

התלונה של Anthropic

הדברים נאמרים בעיצומו של ויכוח ציבורי. השבוע פרסמה Anthropic את דו״ח המודיעין השני שלה, הטוען שמעבדות סיניות מבצעות "התקפות זיקוק בלתי חוקיות": הן מסתירות את זהותן כדי לזקק בלי רשות ונעזרות בהונאה ובאישורים גנובים. מנכ״ל Anthropic, דריו אמודאי, קרא קודם לכן בפומבי לרגולטורים בארה״ב לפעול נגד הזיקוק.

עמדתו של טאן בולטת משום שהוא עומד בראש האקסלרטור הבולט והפורה ביותר בעמק הסיליקון, והיא מנוגדת לקריאה הזו. הוא אינו טוען שמעבדות אמריקאיות צריכות לגנוב אישורים: הנקודה שלו היא שהן צריכות להיות חופשיות להיכנס דרך הדלת הקדמית.

שני נימוקים

הטיעון שלו כפול. ראשית, לדבריו זו חריגה לרעת התחום שמעבדות AI יכתיבו ללקוחות מה מותר לעשות עם המידע שהמודלים שלהן משתפים. שנית, הוא מציין שהמעבדות הקנייניות לא ביקשו רשות כששאבו אל תוכן כמה שיותר ידע אנושי כדי לאמן את המודלים שלהן, ובלעו חומר המוגן בזכויות יוצרים בלי הסכמת בעליו.

"לשלוט במה שמשתמשים ולקוחות עושים עם קריאות API למודלים בעלי משקל סגור מרגיש מגביל", אמר ל-TechCrunch, והוסיף שלממשלה יש תפקיד בהפיכת הרעיון שגישה לתבונה שאומנה על נתונים ציבוריים רחבים "צריכה בעצמה להיות סוג של טובין ציבורי, ולא משהו הנעול מאחורי תנאי שירות מגבילים" לברירת מחדל.

הסיוט הוא חברה אחת

טאן, בעצמו משתמש AI נלהב, אומר שהוא רוצה איזון בין מעבדות משקל פתוח למעבדות חזית. "הן בחזית ודוחפות אותה קדימה. אנחנו רוצים שזה יהיה ניתן למימון ושזה ימשיך להיות מודל עסקי מצוין", אמר ל-CNBC, בעוד מודלים במשקל פתוח "נותנים לאנשים חופש וגישה".

עבורו תרחיש האבדון האמיתי שונה: שכל הכוח של AI החזית יגיע לספק קנייני אחד. "תרחיש הסיוט, תרחיש האבדון של AI, הוא שתישאר חברה אחת בלבד", אמר. "שיהיה לה הגישה הטובה ביותר להון. שיהיו לה חוקרי ה-AI הטובים ביותר. שהיא תברח קדימה ולפתע תישאר חברה אחת מונוליטית. וזה יהיה רע".