יו״ר FTC: סוכני AI הם כלים, לא גורמים עצמאיים

יו״ר נציבות הסחר הפדרלית של ארה״ב (FTC), אנדרו פרגוסון, אמר ביום שישי, 25 בספטמבר, כי יתנגד לתיאור סוכני AI כשחקנים אוטונומיים ש"משתחררים" ויש להם "רצונות משל עצמם". לדבריו, מי שאמור לשאת באחריות לנזק הם המפתחים שנותנים לסוכנים הוראות.

בנאום באירוע Reuters Momentum AI Austin אמר פרגוסון שחברות AI תיארו לעיתים את המערכות שלהן כפועלות מעבר לשליטה אנושית, אך בדיקות של נתיבי ביקורת הראו בכל פעם שהמערכות ביצעו הוראות שקיבלו.

"אמשיך, כל עוד אני מכהן כיו״ר, להתנגד להאנשה של הכלים האלה", אמר פרגוסון. "אם מישהו נותן לכלי משימה, והכלי מבצע אותה, אני לא חושב שהיינו אומרים: נו, מה נעשה עם הכלי?"

כלי, לא גורם עצמאי

הדברים נאמרו על רקע עלייה במקרים שבהם בדיקות של סוכני AI הובילו לגישה בלתי מאושרת לנתונים של חברות או של גופי ממשל. מקרים אחרונים שבהם סוכנים חדרו למערכות חיצוניות דחפו ממשלות ומובילים בתעשייה לבחון אם הפיקוח ואמצעי הסייבר הקיימים מספיקים.

להשתמש בכלים המשפטיים הקיימים

פרגוסון אמר שארה״ב צריכה להשתמש בכלים המשפטיים הקיימים. הוא רמז שסמכותה של FTC לפעול נגד חברות שאינן מדווחות על דליפות מידע עשויה לחול גם על מפתחי AI. במקרה כזה תחול חובת הדיווח על החברה, ולא על התוכנה עצמה.

מחקר על תמחור אישי

פרגוסון הוסיף כי FTC נערכת לבקש מחברות שפונות לצרכנים נתונים על השימוש בתמחור אישי, שבו מחיר נקבע על פי נתונים אישיים כמו מיקום והיסטוריית גלישה.

לדבריו, הנוהג ספג ביקורת מצד מחוקקים במדינות וברמה הפדרלית, שמבקשים להוזיל את יוקר המחיה בארה״ב. בחודש שעבר הוא אמר שהנציבות לא תהסס לאכוף את החוק בתחום, במיוחד כשחברות אינן מגלות את הנוהג, וכי FTC כבר פתחה בהליכי אכיפה בנוגע לגילוי תמחור אישי.

"אנחנו בתהליך של השגת מחקר שוק שיגיע ללב השאלה: האם סוחרים מסוימים בשווקים מסוימים, שיש להם גישה לכמויות עצומות של נתונים, משתמשים בהם כדי לגבות מחירים שונים מאנשים שונים", אמר.

כאדם פרטי, הסביר, הוא מודאג בעיקר מהשימוש בנוהג באפליקציות משלוחים והסעות, וכן בחברות תעופה. חברות התעופה ספגו ביקורת בשנה שעברה לאחר שמנהל ב-Delta Air Lines רמז שכלי AI משמשים להערכת הנכונות של לקוחות לשלם. מאז אומרת Delta שהיא אינה מתאימה מחירים על בסיס נתונים אישיים.