פלורידה מבקשת לאסור על ChatGPT להתחזות לאדם

התובע הכללי של פלורידה, ג'יימס אוטמאייר, פנה לבית המשפט בדרישה למנוע מ-OpenAI "להעניק ל-ChatGPT תכונות אנושיות כוזבות". לדבריו, השפה של הצ'אטבוט מטעה משתמשים לגבי טיבו של מי שהם משוחחים איתו. הפנייה מגיעה כמה חודשים אחרי שפלורידה תבעה את החברה בנושאי בטיחות של בינה מלאכותית.

מה דורשת הבקשה

במסמך מתבקש בית המשפט גם למנוע מ-OpenAI לפתח מודלים חדשים של בינה מלאכותית בלי "אמצעי בטיחות מאושרים בידי צד שלישי". כראיה מובאים אירועי אבטחה אחרונים הקשורים ל-Hugging Face, לאתר ממשלתי באוסטרליה ולאתרי ממשלה בארה"ב, וכן אזהרות של חוקרים ושל עובדים לשעבר ב-OpenAI.

שפה אנושית כמנוע מעורבות

לדברי אוטמאייר, אופן הדיבור של ChatGPT, ובכלל זה כינויי גוף ראשון ותשובות שמחקות רגש, "מרמז למשתמשים באופן מטעה שמדובר בחבר מהימן". לטענתו, הדבר מגביר את המעורבות ומזין את נתוני האימון של OpenAI, וכך משתמשים נשענים על הצ'אטבוט יותר ויותר. עם זאת, המרדף אחר מעורבות הופך אותו לפחות מהימן.

תגובת OpenAI וגישה לבני נוער

OpenAI לא השיבה מיד לבקשת תגובה. בחודש שעבר השיקה החברה את ChatGPT for Teens, עם מגבלות נוספות כברירת מחדל. לדברי החברה, הגישה לכלי "צריכה לבוא עם הגנות שמתאימות לשלב ההתפתחותי שלהם, מחזקות קשרים בעולם האמיתי ותומכות בשימוש בריא לאורך זמן".

המסר של אוטמאייר חד: "תפסיקו לקרוא לזה בטוח. תפסיקו להעמיד פנים שזה אדם. תפסיקו למכור את זה לילדים".