חקירת GPTZero: דוח הסייבר של EY קנדה התבסס על ציטוטים מומצאים

חקירה של חברת GPTZero, העוסקת בזיהוי טקסטים שנוצרו על ידי בינה מלאכותית, מצאה כי דוח אבטחת סייבר שפרסמה EY קנדה בסוף 2025 נשען במידה רבה על ציטוטים מומצאים ומיוחסים בטעות — תופעה שהחברה מכנה “ציטוט לפי תחושה” (vibe citing).

מה מצאה החקירה

הדוח, בן 44 עמודים, ששמו “Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, מיוחס לשלושה עובדים: שני שותפים ומנהל בכיר אחד. אין בו הערות שוליים או ציטוט אקדמי תקני; המקורות מופיעים בגוף הטקסט או בטבלת מקורות בעמודים 41–43. לפי GPTZero, כמעט כל הקישורים בטבלה שבורים או מזויפים, ויותר ממחצית הכותרות אינן תואמות מקור אמיתי.

גם הטקסט עצמו, לפי GPTZero, נקרא כטקסט שנוצר על ידי בינה מלאכותית ונושא את הטביעות המוכרות של מודלי שפה גדולים: נתונים מומצאים, ייחוסים שגויים וסתירות פנימיות.

מספרים סותרים ומקורות “מולבנים”

בתקציר המנהלים כותבים כי שוק נקודות הנאמנות העולמי שווה 200 מיליארד דולר, וכי 30%–50% מהנקודות אינן מנוצלות. בעמוד 42 המספר נתמך בציטוט מזויף לפורבס, ואילו בעמוד 10 אותם 200 מיליארד הם כבר שוויין של נקודות שלא מומשו — טענה שלפי ההיגיון של המחברים עצמם מחייבת שוק של לפחות 400 מיליארד דולר.

דוח של McKinsey & Company המצוטט בעמוד 43 אינו קיים. GPTZero איתרה את מקורו בפוסט בבלוג של המגזין הפיננסי Financial IT, שפורסם חצי שנה קודם, שבו נכתב כי “יותר מ-200 מיליארד דולר בנקודות שוכבים ללא שימוש בכל שנה”, וברשימת המקורות שלו מופיע “McKinsey & Company: Loyalty Economics Report (2022)”. הציטוט המומצא הזה הועתק כלשונו גם לטבלה של EY.

טענות אחרות מיוחסות למקורות שונים במקומות שונים. הנתון שלפיו 72% מתוכניות הנאמנות דיווחו על גניבה או הונאה מיוחס בעמוד 6 ל-Paystone ובעמוד 11 ל-Forter, אף שאף אחד מהשניים אינו מופיע בטבלת המקורות; המקור המקורי הוא ככל הנראה סקר של Ipsos משנת 2017. עלייה של 89% בהתקפות הונאה מתוארכת בעמוד 6 לשנת 2019, אך בעמוד 11 היא מוגבלת לשנים 2018–2019.

מדוע זה חשוב

קשה למדוד את השפעת הדוח בציבור, אך GPTZero מציינת כי הוא הוזכר בכתבה של Canberra Times שהופצה ביותר מ-60 עיתונים באוסטרליה. בבדיקות של החברה, ChatGPT, Claude ו-Perplexity חזרו על נתוני הדוח כשנשאלו על זמן הגילוי הממוצע של הונאות נאמנות. חומר מזויף שמפרסמת חברה מוכרת באתר עם תנועה גבוהה, טוענת GPTZero, מרעיל את מאגר הנתונים שממנו שואבים חוקרים עתידיים וכלי “מחקר עמוק” מבוססי בינה מלאכותית.

GPTZero מפעילה את כלי Hallucination Check מאז 2025; בעבר הוא חשף בעיות בפרסום ממשלתי ובשני דוחות של Deloitte, וכנסים ובהם IJCAI, ICLR ו-ICSE משתמשים בו לסינון מאמרים. EY היא אחת מארבע חברות הייעוץ הגדולות, עם 150 משרדים בעולם, והחברה הקנדית שלה מספקת לממשלת קנדה שירותים בשווי מיליוני דולרים בשנה.