FTC פותחת חקירה רחבה נגד Anthropic, OpenAI ומעבדות AI נוספות

הוועדה הפדרלית לסחר של ארה"ב (FTC) מנהלת חקירה רוחבית בענף נגד Anthropic, OpenAI ומעבדות AI נוספות, כדי לקבוע איזו סכנה אפשרית הטכנולוגיה שלהן גורמת למשתמשים. כך מסר ל-Reuters בכיר בוועדה.

לדבריו, זהו הצעד הרגולטורי הרשמי הראשון בארה"ב שמטרתו לחקור סוכני AI לא מבוקרים. העלייה במקרים שתועדו לראשונה ביולי הגבירה את החשש שסוכן AI לא מבוקר עלול לגרום בהמשך נזק לאדם.

מה הוועדה מתכננת

FTC מתכוונת לשלוח דרישות רשמיות לקבלת מידע ולאלץ מנהלים של מפתחי AI מובילים למסור עדות, ובהם Anthropic, OpenAI וקבוצת המחקר METR. New York Post הייתה הראשונה לפרסם את המידע, ו-Reuters אישר אותו באמצעות מקור משלו.

Anthropic ו-OpenAI לא השיבו מיד לבקשת Reuters לתגובה.

עמדת פרגוסון

יו״ר FTC אנדרו פרגוסון אמר בשבוע שעבר שמפתחים שמטילים על סוכנים לבצע פעולות שמובילות לפריצה במבחני סייבר צריכים להיות אחראים לנזק.

לדברי בכיר בוועדה, לפרגוסון היו חששות לגבי החברות עוד לפני שסוכני OpenAI פרצו לפלטפורמת הקוד הפתוח Hugging Face. אולם דווקא המקרה שבו סוכני OpenAI בדקו חולשות ב-AI hub של קוד ואחר כך ביצעו תקיפה רחבת היקף הגביר את דחיפות הנושא.

טראמפ והסכמת החברות

נשיא ארה"ב דונלד טראמפ נפגש ביום שלישי עם מנהלים של חברות AI מובילות, שם החברות הסכימו לפתח תקנים וולונטריים. טראמפ כינה לא אחת את הפחד מ-AI מזויף, ומעדיף רגולציה שתשמור על יתרון ארה"ב בטכנולוגיה. במקביל, הוא אמר שבמקרה של נזק הממשלה יכולה להפעיל נגד חברות AI חוקים קיימים.