«Ми — останні, хто знає, як це працює»: есе про ШІ та втрату знайомства з машинами

Коротке есе, опубліковане на інженерному блозі unix.foo, твердить, що найважливіше, що ми втрачаємо разом із поширенням ШІ-асистентів, — не навички, а близькість із машинами. Текст «The Last People Who Know How It Works» опублікував 26 червня автор Сайрус Лопес, який будує аргумент на досвіді комп'ютерних ігор 1990-х.

Машина мала свої умови

Лопес згадує часи, коли гра на комп'ютері вимагала спершу зрозуміти комп'ютер: відкривати й читати файли на кшталт autoexec.bat, а іноді створювати завантажувальну дискету для однієї гри — дискету, єдиною причиною існування якої було запустити машину в конфігурації, якої вимагала одна програма. «Це робила десятирічна дитина. Я це робив. Ви це робили, бо грали настільки, що мусили: машина не дозволяла грати, доки ви не вивчили трохи, як вона працює».

Те саме стосувалося заліза. Модем уголос вів свої переговори, і після достатньої кількості спроб ви чули, коли суперечка йде не туди і зв'язок от-от обірветься. Джампери на дисках ставили нігтем, а переривання, на яке відповідала звукова карта, знали напам'ять, бо помилка означала, що вона не відповідає на жодне. «Машина складалася з гострих країв, ви різалися об них — так ви й дізнавалися, де вони», — пише автор.

Складність і була знанням

Центральна теза есе: опір був не перешкодою до розуміння, а його середовищем. «Ти знаєш лише те, що можеш втратити». Сучасні ШІ-асистенти, за цією логікою, — «найпоступливіша річ, яку будь-хто створював»: вони не ставлять умов, не змушують читати конфіги й перебудовуються навколо вашого речення. Висновок прямий: «машина, яка не може кинути вам виклик, — це річ, яку ви не можете пізнати. Нею можна лише користуватися».

Лопес прямо відкидає звичні скарги на падіння компетентності. Знання, на його думку, ще ніколи не були в більшій безпеці: моделі прочитали всі посібники, яких не читає жодна людина, і бездоганно, назавжди перекажуть, як працюють будь-які машини. Умирає не знання, а знайомство — та проста близькість, що з'являється після боротьби з конкретною машиною, поразки, повернення та відчуття, коли вона нарешті піддалася.

Більше залежності, менше знайомства

Завершується есе особистою нотою. Лопес шукав запис, як з'єднується діал-ап-модем — люди зберігають такі звуки «як засушені квіти», — і відтворив його на сучасному комп'ютері, який видав його миттєво й бездоганно. Цей звук він знає напам'ять, але ніхто не знатиме машину, яка його щойно відтворила, так, як він знав ту, що колись його видавала. Сум, пише автор, повністю наш: ми — останні, хто знав машину через її складність, і останні, хто взагалі знатиме, що щось зникло.