«Безпека ШІ — це переважно секс-культ»: вірусний допис про раціоналістів і політику ШІ

Довгий допис акаунта @segyges.bsky.social у Bluesky, що широко розійшовся технологічними колами, доводить, що культура й інтелектуальне коріння руху за безпеку ШІ нерозривно пов'язані з міленаріанською субкультурою, і що це має позбавити його найвпливовіших постатей права впливати на політику щодо ШІ. Текст — це коментар, а не репортаж: він поєднує задокументовану історію та публічні події із серйозними, недоведеними особистими звинуваченнями на адресу конкретних людей.

Коріння: раціоналізм, фанфікшн і віра в кінець світу

Автор виводить рух від Еліезера Юдковського та «спільноти раціональності», що сформувалася навколо його текстів. У дописі зазначено, що Юдковський консультував політиків із питань політики ШІ, з'являється в документальному фільмі Netflix The AI Doc, познайомив Шейна Леґґа й Деміса Гассабіса з Пітером Тілем ще до заснування DeepMind, а термін «AI alignment» популяризувала саме його неприбуткова організація. Помітну роль в аргументі відіграє фанфікшн «Гаррі Поттер і методи раціональності», як і центральний сценарій спільноти: достатньо здатна система вдосконалить себе, вийде з-під контролю людини й уб'є всіх — так звана «скріпкова» історія загибелі. Допис стверджує, що саме ця рамка неявно означає «безпеку» й «алігнмент» для значної частини галузі та функціонує як апокаліптична віра, а не як емпірична позиція.

Берклі, Lighthaven і твердження про культ

Значна частина допису присвячена фізичній організації цієї спільноти в Берклі, Каліфорнія — спільним будинкам, мешканці яких поліаморні, ходять на ті самі події та часто працюють у ШІ-компаніях і неприбуткових організаціях, — а також її найвідомішому майданчику Lighthaven, колишньому Rose Garden Inn, купленому наприкінці 2022 року раціоналістською благодійною організацією за гроші, які, за словами автора, були виведені з FTX. Допис називає подію під назвою SlutCon, що там відбулася, каже, що платні сексуальні заходи організовувала партнерка Юдковського, і сам визнає, що не знає, чи відбувалися вони в Lighthaven. Він зауважує, що власний матеріал на цю тему 16 вересня опублікував New York Post. Автор прямо каже, що сексуальний матеріал вважає легкою частиною справи, а складною — організоване заперечення.

Аргумент про політику

Головне твердження допису стосується впливу, а не приватної поведінки. Він доводить, що рух, який будь-яке регулювання ШІ описує мовою зупинки, паузи чи сповільнення досліджень, сформувався під впливом світогляду, який очікує кінця світу, і що ця рамка сягає верхівки індустрії: у дописі згадано нещодавні заклики керівників кількох великих ШІ-компаній скасувати антимонопольне законодавство, щоб дослідження можна було «задавати темп». Автор порівнює це з проханням фармацевтичних компаній призупинити правила конкуренції, аби зупинити медичні дослідження, і називає людей за цим, за його словами, ворогами людства.