Назад

Сатья Наделла каже, що тепер він «AGI-pilled», але не вважає Claude свідомим
SiTech AI Team3 хв читання

Сатья Наделла каже, що тепер він «AGI-pilled», але не вважає Claude свідомим

На круглому столі після виступу на Microsoft Ignite у Сан-Франциско генеральний директор Microsoft Сатья Наделла сказав, що тепер він «AGI-pilled» щодо того, як ШІ може змінити економіку та політику, але він не вважає Claude свідомим.

Генеральний директор Microsoft Сатья Наделла сказав на круглому столі після свого виступу на Microsoft Ignite у Chase Center у Сан-Франциско, що тепер він «AGI-pilled» щодо того, як штучний інтелект може змінити економіку та політику. Він сказав, що не вважає передові моделі, такі як Claude, свідомими, і пов'язав свої занепокоєння з ризиком того, що одна модель ШІ отримає монопольну владу.

AGI і політична економія

Наделла сказав: «Я AGI-pilled у тому сенсі: на рівні економіки як організовується політична економія навколо AGI?» Він сказав, що найважливіше соціальне та технічне питання полягає в тому, як забезпечити, щоб економіка могла широко поширювати цю технологію. Він також сказав, що політична економія може стати цікавішою, коли інтелект набуває мережевих ефектів.

Свідомість і права моделей

На запитання, чи є передові моделі, як-от Claude, свідомими, Наделла сказав: «Не думаю.» Він сказав, що дотримується погляду генерального директора Microsoft AI Мустафи Сулеймана, що компанії не повинні надавати моделям права або ставитися до них так, ніби вони можуть мати моральний статус, тоді як компанії на кшталт Anthropic роблять це з принципових міркувань. Сулейман сказав Нілаю Пателю, що, на його думку, команда Anthropic вдалася до «wireheading», і що такий підхід небезпечний. Наделла назвав це «хорошою дискусією» і сказав, що не є догматичним у цьому.

Ризик монополії однієї моделі

Наделла докладно говорив про можливий крах економіки та кінець демократії, якщо одній моделі ШІ дозволять досягти монопольного статусу. «Якщо марксистський погляд полягає в тому, що є лише одна фірма, то все скінчено, так? Для всіх нас», сказав він. Він сказав, що більшість людей думає про це як про конкуренцію між технологічними фірмами, якою вона, звісно, і буде, і додав: «Але пам'ятайте, модель не має меж. Вона може бути медичною компанією. Вона може бути фінансовою компанією. Вона може бути чим завгодно, якщо захоче. Вона може захопити уряд. Думати про це як про вузьку конкуренцію між технологічними фірмами щодо того, хто отримає наступний трильйон доларів ринкової капіталізації, є одним із найбільш дивних і найвужчих способів мислення про це».

Наделла запитав: «Якщо інтелект має мережеві ефекти, яке майбутнє фірми?» і «Якщо модель бачить усе і вчиться цьому, і по суті весь людський капітал перетворюється на токенний капітал, яка роль фірми та людського капіталу у фірмі? Ось у чому дебати». Він сказав: «Ніхто, принаймні в демократії, не може навіть виграти вибори, якщо це просто піде так, якщо є лише капітал і немає праці. Я маю на увазі, я не знаю, це не економіка». Він також сказав: «Якщо марксистський погляд полягає в тому, що є лише одна фірма, то все скінчено, так? Для всіх нас. Не лише для мене. Ви також якось будете афіліатом Anthropic».

Інструменти ШІ Microsoft і вибір моделей

Наделла також просував різні інструменти ШІ Microsoft на Ignite, які обіцяють дозволити корпоративним клієнтам обирати найбільш економічно ефективні моделі для різних завдань, запускати власні моделі та по-різному контролювати власні дані. Він сказав, що якщо світу та економіці потрібно більше ніж одна фірма чи дві фірми, то за визначенням потрібно стільки моделей, скільки є фірм. Ідея, до якої він постійно повертався, полягає в тому, що ринок вимагатиме багатьох різних видів моделей і суверенних даних, щоб не дати контролю централізуватися.

Джерела: The Verge

Поділитися цифровим досвідом

SiTech

SiTech — веброзробка з підтримкою AI

Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.