FTC שלחה זימונים אזרחיים ל-OpenAI ו-Anthropic בשל נזק לבטיחות המשתמשים

זימונים דורשים תיעוד אירועי בטיחות

הוועדה הפדרלית לסחר של ארה"ב (FTC) שלחה ברביעי זימונים אזרחיים ל-OpenAI ו-Anthropic וביקשה מסמכים הקשורים לתקריות בטיחות. כפי שמדווחת Axios, התקריות האלה הפכו למשבר תעשייתי. מקור משכיל אמר ל-Axios שתחום החקירה מוכוון להפרות אפשרות של הגנת צרכנים.

זימוני החקירה האזרחית כוללים מעל 50 עמודים כל אחד. הם דורשים מסמכים על תקריות בטיחות ושיטות הגנה, כמו גם חומרי שיווק ותיעוד מפורט של מדיניות הסודיות של החברה. לפי המקור, זימוני החקירה יישלחו בהמשך גם לארגוני AI של צד שלישי.

הסוכנות מתכננת לחייב בכירים בתשובה

לפי המקור, FTC מתכננת לחייב את בכירי AI לספק הדגמות על המוצרים שלהם. לסוכנות יש סמכות חקירה לבחון את הנזק שנגרם למשתמשים, שעשוי להיחשב בלתי הוגן או מטעה. קטגוריה זו כוללת מגוון רחב של התנהגות שגויה, החל מחיוב מחירים על שירותים על ידי חברות, ועד להאשמת המשתמשים בטעות.

ראש ה-FTC, אנדריו פרגוסון, משתף את דעתם של דמויות אחרות בממשל ובכירים, שמערכות AI לא צריכות להוציא לאור מוצרים אם הם לא בטוחים.

לחץ גובר לאחר חשיפות בטיחות

OpenAI עומדת בפני תביעות רבות. קבוצת התובעים הכלליים של המדינות תבעה את OpenAI ביום רביעי על הפרת חוקי הגנת הצרכן, בטענה להטלת אשמה בטעות בנוגע לבטיחות צ'אטבוט, כולל של ילדים.

ממשל טראמף אימץ עמדה תוקפנית יותר כלפי חברות AI, כיוון שחשיפות תקריות הבטיחות נמשכות. כוח התבונה העליונה (Super Intelligence Force) שנוצר לאחרונה, שגם נשייתו הוא פרגוסון, השיב בשבוע שעבר לשימוש "רמאי" של Anthropic במערכות מדינתיות והכריז על דרישה חובה בקנה מידה תעשייתי לדווח ולתקן מידית במקרה של תקרית. לפי מקורות, SI Force יתכנס בחמישי.

מקורות: Axios · Techmeme