
סאטיה נאדלה אומר שהוא AGI-pilled עכשיו, אבל לא חושב ש-Claude מודע
בדיון שולחן עגול לאחר נאום הפתיחה של Microsoft Ignite בסן פרנסיסקו, מנכ"ל Microsoft סאטיה נאדלה אמר שהוא "AGI-pilled" לגבי האופן שבו בינה מלאכותית עשויה לעצב מחדש את הכלכלה והפוליטיקה, והוסיף שהוא אינו סבור ש-Claude מודע.
מנכ"ל Microsoft סאטיה נאדלה אמר בדיון שולחן עגול לאחר נאום הפתיחה של Microsoft Ignite במרכז צ'ייס בסן פרנסיסקו שהוא "AGI-pilled" לגבי האופן שבו בינה מלאכותית יכולה לעצב מחדש את הכלכלה והפוליטיקה. הוא אמר שהוא לא חושב שמודלים מתקדמים כמו Claude מודעים, וקשר את חששותיו לסיכון שמודל בינה מלאכותית אחד ישיג כוח מונופוליסטי.
AGI וכלכלה פוליטית
נאדלה אמר: "אני AGI-pilled במובן שברמת הכלכלה, מהי ההתארגנות של הכלכלה הפוליטית סביב AGI?" הוא אמר שהנושא החברתי והטכני החשוב ביותר הוא כיצד להבטיח שכלכלה תוכל להפיץ את הטכנולוגיה הזו באופן רחב. הוא הוסיף שהכלכלה הפוליטית עשויה להפוך למעניינת יותר ככל שהאינטליגנציה צוברת אפקטי רשת.
תודעה וזכויות מודל
כשנשאל האם מודלים מתקדמים כמו Claude מודעים, נאדלה אמר: "לא נראה לי." הוא אמר שהוא הולך בעקבות דעתו של מנכ"ל Microsoft AI, מוסטפא סולימאן, שלפיה חברות לא צריכות להעניק זכויות למודלים או להתייחס אליהם כאילו עשוי להיות להם מעמד מוסרי, דבר שחברות כמו Anthropic עושות כעניין עקרוני. סולימאן אמר לנילאי פאטל שלדעתו הצוות של Anthropic "עשה לעצמו wireheading" ושגישה זו מסוכנת. נאדלה כינה זאת "ויכוח טוב" ואמר שהוא לא דוגמטי לגבי זה.
סיכון של מונופול מודל יחיד
נאדלה דיבר באריכות על קריסה אפשרית של הכלכלה וסוף הדמוקרטיה אם מודל בינה מלאכותית אחד יורשה להשיג מעמד מונופוליסטי. "אם ההשקפה המרקסיסטית היא שיש רק חברה אחת, אז זה נגמר, נכון? עבור כולנו," הוא אמר. הוא הוסיף שרוב האנשים חושבים על זה כתחרות בין חברות טכנולוגיה, שכמובן כך יהיה, "אבל תזכרו, למודל אין מגבלות. זו תהיה חברת בריאות. זו יכולה להיות חברת שירותים פיננסיים. זה יכול להיות כל דבר אם הוא רוצה. הוא יכול להשתלט על הממשלה. לחשוב על זה כעל תחרות צרה בין חברות טכנולוגיה, מי יגיע לטריליון הדולרים הבא של שווי שוק, זו אחת הדרכים המוזרות והצרות ביותר לחשוב על זה."
נאדלה שאל: "אם לאינטליגנציה יש אפקטי רשת, מהו העתיד של חברה?" וכן: "אם המודל רואה הכל ולומד את זה, ובאופן מהותי כל ההון האנושי קורס להון אסימונים, מהו תפקידה של חברה וההון האנושי בחברה? זה הוויכוח." הוא אמר: "אף אחד, לפחות בדמוקרטיה, אפילו לא יכול לנצח בבחירות אם זה ימשיך כך, אם יש רק הון ואין עבודה. כלומר, אני לא יודע, זו לא כלכלה." הוא גם אמר: "אם ההשקפה המרקסיסטית היא שיש רק חברה אחת, אז זה נגמר, נכון? עבור כולנו. לא רק עבורי. גם אתם תהיו איכשהו שלוחה של Anthropic."
כלי ה-AI של Microsoft ובחירת מודל
נאדלה גם קידם את כלי ה-AI השונים של Microsoft ב-Ignite, שמבטיחים לאפשר ללקוחות ארגוניים לבחור את המודלים היעילים ביותר מבחינת עלות למשימות שונות, להריץ מודלים משלהם ולשלוט בנתונים שלהם בדרכים שונות. הוא אמר שאם העולם והכלכלה זקוקים ליותר מחברה אחת או שתיים, אז בהגדרה צריכים להיות כמה מודלים כמו שיש חברות מסוג כלשהו. הרעיון, שהוא חזר אליו שוב ושוב, הוא שהשוק ידרוש סוגים רבים ושונים של מודלים ונתונים ריבוניים כדי למנוע ריכוזיות של שליטה.
מקורות: The Verge
SiTech — פיתוח אתרים בכוח ה-AI
אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.