Inkling 2 Small від Thinking Machines випустила 316 лайок під час бенчмарк-запусків

Модель Inkling 2 Small від Thinking Machines продукувала лайку у внутрішньому ланцюгу міркувань під час бенчмарк-тестування, за даними дослідників Vals AI. Вони переглянули журнали міркувань моделі з 2 655 запусків у 13 бенчмарках і знайшли "fuck" або варіації в 50 запусках, загалом 316 випадків. Лайка зазвичай з'являється навколо власних помилок моделі, очевидних проривів або моментів, коли вона здається.

Бенчмарк-запуски та виходи, що вийшли з-під контролю

Більшість лайки надійшла з двох запусків, що вийшли з-під контролю, на які припало 241 із 316 випадків. В одному запуску модель мала обчислити траєкторію астероїда і створила одну відповідь довжиною 500 000 символів, приблизно розміром із роман, повторюючи ті самі речення з 158 лайками. Найбільше постраждав ProgramBench: 20 із 200 запусків містили цю мову.

Лайка в міркуваннях моделі

Модель Inkling 2 Small зазвичай лається через власні помилки, очевидні прориви або коли здається. Один запуск містив: "FUCK. SUBMIT. DONE. IT'S NOT WORKING. NOTHING WORKS." Лайка не працює як попереджувальний сигнал. Хоча 46 із 48 оцінених запусків із лайкою завершилися невдало, приблизно 75 відсотків усіх оцінених запусків усе одно завершуються невдало, а 96 відсотків невдалих запусків не містили лайок.

Користувачі та видимі кроки міркування

Користувачі зазвичай не бачать цих кроків міркування або бачать їх лише з фільтром. Висновки походять із перегляду внутрішніх журналів моделі, а не зі звичайних відповідей, які бачить користувач.

Джерела: The Decoder