OpenAI תסמן טקסט של ChatGPT בסימן מים כברירת מחדל באיחוד האירופי

OpenAI הכריזה כי תתחיל לסמן אוטומטית טקסט שנוצר באמצעות ChatGPT בסימן מים באיחוד האירופי. הפונקציה תוצג גם באזורים אחרים, אך מחוץ לאיחוד האירופי היא תישאר כבויה כברירת מחדל.

עמידה בדרישות AI Act של האיחוד האירופי

צעד זה מונע באירופה על ידי AI Act של האיחוד האירופי, שנכנס לתוקף באוגוסט. החוק דורש כי תוכן שנוצר על ידי מודלים של בינה מלאכותית יסומן בצורה כזו שכלי אחר יוכל לזהותו. לפי OpenAI, סימון סימן מים החדש יסופק למשתמשי האיחוד האירופי בשבועות הקרובים, לפחות באפליקציות ChatGPT ו-Codex. ב-API הפונקציה תישאר כבויה, אך תהיה זמינה לבקשה.

כיצד textGrain עובד

שיטת סימון סימן המים של OpenAI היא בבעלות החברה. החברה מכנה אותה textGrain ופרסמה עבודה טכנית המסבירה את אופן פעולתה. באופן כללי, היא פועלת בדומה לכלי סימון סימן מים של מודלים שפתיים גדולים אחרים: היא מכניסה תבניות בבחירת מילים שהן בלתי מורגשות לקורא אנושי ולא משנות באופן משמעותי את איכות התוצאה, אך אדם בעל מפתח יכול למצוא אותן בעזרת דטקטור מתמחה. לפי OpenAI, גישה לדטקטור תוענק למספר מוגבל של חוקרים וארגונים, ואילו עבור אחרים תתווסף בהדרגה תהליך בקשת אישור.

מגבלות הזיהוי

בדיקות textGrain של OpenAI מראות כי במקרה הטוב ביותר מדד הזיהוי המוצלח הוא 92%, מה שהוא די טוב, אך לא אמין לחלוטין. בדיקות החברה מראות גם כי שינוי של רק 10% בטקסט התוצאה מוריד את מדד הזיהוי המוצלח בכמעט 30%, ואילו שינוי של 20% בטקסט עשוי להוריד את מדד ההצלחה בכמעט 75%. באופן כללי, מדד ההצלחה נמוך יותר בטקסט קצר או מתורגם מאשר בטקסט ארוך.

הקשר התעשייתי

עדיין לא קיימת דרך אפקטיבית ואמינה לחלוטין לזיהוי תוכן שנוצר על ידי בינה מלאכותית. כבר קיימים מספר תקנים, למשל SynthID ופרויקט C2PA, אך עקיפתם יחסית קלה עבור כל אדם עם ידע בסיסי, וכנראה שאותו דבר חל גם על סימן המים של OpenAI. באוגוסט, מתחרתה של OpenAI, Anthropic, שילבה סימון סימן מים עבור טקסט שנוצר על ידי המודלים שלה, אך Anthropic הפעילה זאת באופן גלובלי, בעוד OpenAI כרגע מפעילה זאת כברירת מחדל רק שם שהרגולטורים דורשים זאת.

מקורות: Arstechnica