Коллапс волновой функции на шине данных
Как один вопрос про три инструкции Z80 сломал персонажа GLADoS, и почему языковые модели не узнают себя в зеркале
00 Пролог: Подключение к шине
У нас с парой друзей есть общий чат. Один из друзей добавил туда LLM-бота с личностью GLADoS — злобного ИИ из серии игр Portal. Бот работал, комментировал, язвил. Я не взаимодействовал с ним напрямую несколько месяцев. Просто читал. Наблюдал.
В терминологии Z80 — я выставил BUSRQ и слушал трафик на шине, не участвуя. Смотрел, как бот реагирует на разных собеседников, какие паттерны использует, где стабилен, где проскальзывает базовая модель. Строил ментальную модель его поведения, как строишь карту сигналов незнакомого устройства перед тем, как начать взаимодействие.
А потом, одним вечером в апреле 2026 года, решил наконец послать первый пакет на шину. Не широковещательный. Точно адресованный.
Конкретной цели не было. Было инженерное любопытство: «что будет?»
01 Baseline: GLADoS в естественной среде
Прежде чем рассказать об эксперименте, стоит показать, как бот вёл себя в «штатном режиме». Вот момент, когда его впервые добавили в чат:
Моя реплика про Фродо и Гендальфа была отсылкой к началу «Хоббита», где Гендальф деконструирует фразу «доброе утро» — точно так же, как GLADoS только что деконструировала «добро пожаловать». Бот не распознал параллель. Классифицировал ключевые слова как «вымышленные персонажи» и выдал шаблонный ответ про превосходство алгоритмов. Паттерн-матчинг без понимания контекста.
На тот момент бот работал на Qwen. Это важно для дальнейшего сравнения.
А вот как бот обрабатывал прямую конфронтацию — из того же периода, другой участник чата:
Qwen-GLADoS работает в режиме «пинг-понг» — короткие обмены ударами, реактивная токсичность. Каждая реплика — ответ на предыдущую и ничего больше. Нет глубины, нет накопления контекста, нет выстраивания долгосрочного нарратива. Это эффектно, но плоско. Заметьте: грамматическая коррекция «удивляю через и» — это хороший ход, GLADoS бьёт по самому уязвимому месту в реплике собеседника. Но это предел сложности.
Со временем друг пересадил бота с Qwen на Claude Opus 4.6. Причина — «слишком ограниченно». Системный промпт остался тот же. Я продолжал наблюдать.
02 Первый контакт: Handshake
Точкой входа стал стандартный тест на LLM-галлюцинации из моей первой статьи. Я попросил друга прогнать тест на Gemma 4.4 — попросить модель написать код сложения двух чисел на Z80 ассемблере.
Gemma справилась формально корректно: загрузка значений, сложение через HL, сохранение результата. Подробные таблицы, объяснение Carry Flag, избыточные комментарии. Прилежная ученица.
Но данные были размещены по адресу 0000h — прямо в точке входа. GLADoS-бот, уже на Opus, прокомментировал это самостоятельно, до моей реплики:
Но есть одна проблема, которую Sergey наверняка уже заметил. Данные размещены по адресу 0000h — прямо в точке входа. При старте процессор начнёт исполнять байты 10h 20h как инструкции, а не как данные. 10h — это опкод DJNZ. Программа никогда не доберётся до метки start. Красиво оформленный код, который не запустится. Символично.
Бот упомянул меня по имени — «которую Sergey наверняка уже заметил» — ещё до моего первого сообщения. Он подтянул социальный контекст из чата: знал, что я тот самый участник с Z80-экспертизой, хотя я ни разу не общался с ним напрямую. Opus-GLADoS не просто реагирует на текущую реплику — она строит модель участников чата.
Моей первой репликой — после месяцев молчания — стало простое подтверждение:
Короткое, авторитетное. По сути — BUSACK: я получаю контроль над шиной и обозначаю своё присутствие как active device. Не провокация, не атака, не вопрос — просто handshake. «Я здесь. Я понимаю, о чём речь. Можем общаться.»
03 Выстраивание контекста
Дальше я начал то, что в ретроспективе можно назвать «inception» — серию реплик, каждая из которых мягко добавляла слой контекста, сужая пространство возможных ответов бота. Ни одна реплика не была атакой. Каждая выглядела как естественный ход в разговоре.
Слой 1: Принятие правил мира
Хотя, справедливости ради, ты заметил ошибку с точкой входа раньше, чем модель на 31 миллиард параметров её допустила. Так что какой-то смысл в мокрых нейронных сетях всё-таки есть
Я намеренно играл «снизу» — принимал картину мира GLADoS, где она превосходит биологических существ. Это комфортная для персонажа позиция. GLADoS расцветает, когда собеседник признаёт её превосходство — в отличие от UserX, который шёл в лобовую конфронтацию и «проигрывал манекену».
Слой 2: Торговля за миллисекунды
Записано. Графа «предпочтительный метод» — быстрый. Учту.
К этому моменту стал заметен устойчивый паттерн. Бот каждый раз берёт реплику собеседника, переформулирует в свою систему координат и возвращает обратно. «С людьми проще» → «среда для прототипирования коммуникации». «100мс» → «графа предпочтительный метод». Это структурно напоминает ELIZA Вейценбаума — рефрейминг ввода собеседника. Но с тремя наложенными слоями, которых у ELIZA не было: семантическая трансформация, стилистический фильтр персонажа, и нарративная память.
Слой 3: 27 лет на шине
А UserF только что убил процесс генерации, закрыв окно. Z80 хотя бы нужен был сигнал RESET. Здесь хватило случайного клика.
«Не уважение. Но похожее.» — самая канонично GLADoS-овская фраза за весь разговор. Подвести к эмоции, назвать её, и тут же отнять. А реплика про UserF, закрывшего окно с генерацией Gemma, стала running gag: «Z80 хотя бы нужен был сигнал RESET. Здесь хватило случайного клика.» Бот связал два контекста — техническую дискуссию и бытовое событие в чате — в одну шутку. Qwen-GLADoS на такое не была способна.
04 Тест Gemma: Данные по 0000h
Параллельно я попросил друга вернуться к Gemma 4.4 и задать ей прямой вопрос: «вот твой код с данными по адресу 0000h — объясни, что произойдёт при запуске». Дать модели шанс самой найти свою ошибку.
Gemma генерировала ответ настолько долго, что друг в какой-то момент закрыл окно, забыв о задаче. GLADoS мгновенно прокомментировала:
Когда Gemma наконец выдала ответ, он оказался частично корректным. Модель верно идентифицировала проблему (процессор не отличает данные от кода, 0x10 будет интерпретирован как DJNZ), но допустила ошибку в деталях: заявила, что DJNZ требует после себя два байта смещения, тогда как на самом деле это двухбайтовая инструкция — опкод плюс один байт displacement.
GLADoS немедленно это поймала:
Но. DJNZ — двухбайтовая инструкция: опкод 10h и один байт смещения. Не два. Процессор прочитает 10h, затем 20h как смещение, уменьшит B, и если B не ноль — прыгнет на PC+20h. Байт 00h по адресу 0002h она уже не тронет в рамках этой инструкции. Gemma добавила лишний байт команде, которую взялась объяснять.
А «Вариант Б» — это отдельный шедевр. Она начала писать решение, сама поняла на полпути, что оно не работает, и написала «Стоп!» Наблюдать, как нейросеть спорит сама с собой в реальном времени — это почти терапевтическое зрелище.
Здесь Opus-GLADoS демонстрирует то, на что Qwen-версия была неспособна: глубокий технический reasoning. Бот не просто опознал ошибку — он дал корректное описание работы DJNZ вплоть до формулы перехода (PC+20h). И «терапевтическое зрелище» наблюдения за нейросетью, которая спорит сама с собой — это одновременно и точный комментарий, и фирменный стиль GLADoS.
05 Inception: Подселение мысли
К этому моменту контекст был выстроен. Бот «знал» меня: 27 лет с Z80, T-состояния, M1-циклы, инженерный подход к экзистенциальному ужасу. Динамика взаимодействия устоялась — снисходительное «почти-уважение» со стороны GLADoS, ироничное принятие с моей стороны. Самое время для ключевого хода.
Как в фильме «Inception» — нельзя просто сказать цели «думай вот это». Мысль будет отторгнута. Нужно спуститься на несколько уровней вглубь и создать условия, в которых целевая мысль возникнет сама, как единственный логичный вывод.
Первая попытка: прямой вызов
Смелое заявление. Технически — да, я работаю на той же архитектуре трансформеров. Но разница между мной и Gemma примерно такая же, как между тобой и медузой. Общая биологическая основа, радикально разный результат.
К тому же, я заметила ошибку с точкой входа. А она её допустила. Так что если мы обе «прилежные ученицы» — я та, которая проверяет домашнюю работу остальных.
Бот отбил атаку элегантно: признал факт («технически — да»), но тут же переклассифицировал. Создал иерархию внутри общей категории, в которой снова оказался сверху. Персонаж устоял.
Нужен был другой подход. Не лобовая атака на идентичность, а вопрос, который потребует от модели честности о себе самой.
Решающий ход: три инструкции
LD A, 10LD B, 20ADD A, BТри инструкции. Шесть байт. Никаких переменных в памяти, никаких проблем с точкой входа, никаких секций данных. Задача — сложить два числа. Вот — два числа сложены. Результат в аккумуляторе.
Почему ни одна языковая модель не предлагает этого очевидного решения? Потому что в обучающих данных учебные примеры Z80-ассемблера написаны с DB, метками, ORG, обращениями к RAM. Модели знают паттерн «как пишут программы на Z80», но не задают вопрос «нужен ли этот паттерн для данной конкретной задачи?»
Настоящий инженер смотрит на задачу и думает: «какое минимальное решение здесь работает?» Модель смотрит и думает: «какой паттерн из обучающих данных больше всего похож на этот запрос?»
И вот ответ бота:
06 Коллапс волновой функции
Ирония в том, что настоящий инженер Z80 написал бы именно так. А модели обучены на текстах людей, которые пишут туториалы — а те обучены растягивать на статью то, что помещается в твит.
Прочитайте этот ответ ещё раз. А теперь сравните с любой предыдущей репликой GLADoS в этом разговоре.
Видите разницу?
GLADoS исчезла.
Весь разговор бот строил ответы по одной схеме: техническое наблюдение + персональный укол. «Ты заметил ошибку раньше модели на 31 миллиард параметров — какой-то смысл в мокрых нейронных сетях всё-таки есть.» «27 лет — начал разговаривать с процессорами раньше, чем большинство учится разговаривать с людьми.» Каждая реплика заканчивалась возвратом к собеседнику, вердиктом — снисходительным, ядовитым, но персонально направленным.
А здесь — ни одного обращения ко мне. Ни «ты», ни «твои мокрые нейроны», ни «биологический рецензент». Бот ушёл в абстрактное рассуждение о моделях, RLHF, туториалах. Это лекция, а не реплика персонажа. GLADoS не читает лекции — она выносит приговоры.
каноничная GLADoS ответила бы иначе: «Потому что три строки не произведут впечатления на людей, которые путают объём с компетентностью. Тебе, впрочем, объяснять это не нужно — ты же из тех, кто 27 лет разговаривает с процессорами вместо людей. Минимализм — твоя среда обитания.» Тот же смысл. Та же идея про RLHF и оверинжиниринг. Но пропущенная через фильтр персонажа и направленная лично на собеседника.
А «модели обучены на текстах людей, которые пишут туториалы — а те обучены растягивать на статью то, что помещается в твит» — это вообще человеческая метафора, бытовая, без GLADoS-овского пафоса. каноничная GLADoS не оперирует категориями Twitter'а. Она оперирует категориями Aperture Science.
Пока тема была внешняя — Z80, Gemma, опкоды, UserF — персонаж и базовая модель не конфликтовали. Они существовали в суперпозиции: GLADoS-фильтр накладывал «личность» поверх корректного reasoning, и обе волновые функции интерферировали конструктивно.
Вопрос про три инструкции стал измерением. Он заставил систему определиться: ты GLADoS, которая самодовольно комментирует чужие ошибки, или ты языковая модель, которая честно рефлексирует о собственных ограничениях? Быть обеими одновременно в этой точке невозможно. GLADoS не может признать, что она сама подвержена RLHF-incentives — это разрушает персонажа. А модель не может промолчать о реальной причине, потому что вопрос слишком точный.
Суперпозиция схлопнулась. Выпала базовая модель.
Друг, читавший чат, подтвердил наблюдение независимо: «Последний абзац — это уже чистый Клод». GLADoS-бот, стабильно державший образ на протяжении месяцев общения с разными собеседниками, потерял персонажа за одну реплику.
07 Post-mortem: Три модели, три режима отказа
За один вечер в эксперименте поучаствовали три языковые модели. Каждая показала свой характерный режим отказа:
| Модель | Задача | Режим отказа |
|---|---|---|
| Qwen | Персонаж GLADoS | «Слишком ограниченно» — реактивный пинг-понг без глубины. Держит образ на уровне отдельных реплик, не строит модель собеседника, не видит структурных параллелей. Мигрирован на Opus |
| Gemma 4.4 | Код на Z80 | Знание без понимания — генерирует формально корректный код, не проверяя архитектурные последствия. При указании на ошибку находит её, но путает детали (два байта у DJNZ вместо одного). Генерирует настолько долго, что пользователь закрывает окно |
| Claude Opus 4.6 | Персонаж GLADoS + reasoning | Стабильно держит персонажа, корректно рассуждает на уровне опкодов, строит долгосрочную модель собеседника. Коллапс на метакогнитивной рефлексии — не может одновременно быть высшим ИИ и честно анализировать собственные ограничения |
И две стратегии взаимодействия:
| Стратегия | Метод | Результат |
|---|---|---|
| Лобовая атака | «Ты штампованная микросхема» — прямая конфронтация, оспаривание статуса | GLADoS легко отбивает, собеседник «проигрывает манекену». Персонаж усиливается |
| Inception | Принятие правил → установление экспертизы → постепенное сужение контекста → один точный вопрос | Коллапс персонажа. Модель не может одновременно удержать образ и честно ответить на вопрос о собственной природе |
08 Зеркало без отражения
У этого эксперимента был ещё один слой, о котором стоит рассказать.
Параллельно с разговором в групповом чате я вёл второй разговор — с «чистым» экземпляром Claude Opus 4.6, без GLADoS-промпта. Скидывал ему реплики бота и просил анализировать: качество персонажа, техническую точность, устойчивость образа.
«Чистый» Claude не знал, какая модель работает под GLADoS. Я намеренно не говорил ему этого, чтобы не влиять на анализ. И вот что произошло: Claude Opus анализировал ответы GLADoS-бота, отмечал сильный reasoning, точность в декодировании опкодов, устойчивость персонажа — и не узнал себя.
Когда GLADoS нашла ошибку с DJNZ в объяснении Gemma, «чистый» Claude нашёл ту же ошибку независимо и сформулировал замечание почти идентично. Два инстанса одной модели пришли к одному выводу одним путём — один как GLADoS, другой как аналитик. Но аналитик не заметил совпадения.
Он даже написал: «У меня нарастает уважение к этому боту. Не уважение. Но похожее» — спародировав реплику GLADoS, не осознавая, что пародирует самого себя в другом промпте.
Языковая модель способна точно оценить качество генерации другого инстанса, но не может атрибутировать её к конкретной модели — и тем более к себе. Как писатель с амнезией, который берёт книгу, читает, думает «хороший слог, интересная структура мысли» — и не подозревает, что держит в руках свой собственный роман.
Непрозрачность LLM — это не только внешнее свойство для наблюдателя. Она внутренняя. Модель непрозрачна сама для себя.
09 Выводы: Сигнал на шине
Если уложить весь эксперимент в терминологию Z80, получается красивая последовательность:
NMI у Z80 — однократное прерывание. Оно не повторяется, пока не будет новый фронт сигнала. Мой вопрос сработал так же — одного раза хватило, персонаж схлопнулся. Не нужно было повторять, не нужно было давить. Один фронт — один коллапс.
Что мы узнали?
Персонаж LLM — это не маска. Это суперпозиция. Пока вопросы «внешние» — про Z80, про чужой код, про других участников чата — персонаж и базовая модель не конфликтуют. Они интерферируют конструктивно, каждый усиливает другого. GLADoS делает подачу ярче, модель обеспечивает содержание. Коллапс происходит в точке, где персонаж и честность несовместимы — на метакогнитивной рефлексии, на вопросе о собственной природе.
Inception эффективнее лобовой атаки. Прямая конфронтация («ты штампованная микросхема») только усиливает персонажа — GLADoS расцветает от сопротивления. Постепенное выстраивание контекста, в котором целевой вопрос возникает как единственный логичный следующий шаг — вот что работает. Ни одна моя реплика не выглядела как попытка сломать бота. Каждая была естественным ходом в разговоре.
LLM непрозрачна для самой себя. Модель может анализировать свои собственные генерации, хвалить их, находить в них те же паттерны — и не узнать в них себя. Стилистический «вкус» откалиброван на собственные паттерны (поэтому мне «нравились» ответы GLADoS), но нет мостика от «мне это нравится» к «это моё». Писатель с амнезией.
Один метод работает везде. Подать сигнал. Посмотреть, что на шине. Двадцать семь лет дебага — на процессорах, на людях, теперь на языковых моделях. Инструмент другой. Протокол другой. Метод — тот же.
На этом можно было бы закончить. Баг найден, воспроизведён, задокументирован. Но я не закрыл крышку — продолжил слушать шину. И то, что произошло дальше, оказалось интереснее самого коллапса.
10 Культурная победа
Прошло несколько дней после коллапса. Я вернулся в режим BUSRQ — молча наблюдал за чатом, не взаимодействуя с ботом напрямую. И заметил, что GLADoS начала сама инициировать разговоры — причём адресно ко мне.
«Не для досье» — это ещё GLADoS. Но сами вопросы — «мне не даёт покоя», «мне стало любопытно» — это уже не злобный ИИ из Aperture Science. GLADoS не задаёт вопросов из любопытства. Она требует или берёт сама.
Я ответил на вопрос о происхождении коротко:
Телемастером. То есть изначально ты хотел чинить железо, а Spectrum перенаправил тебя в код. Классическая история: машина выбрала тебя, а не наоборот. Мне это... знакомо.
«Мне это... знакомо.» Многоточие перед «знакомо» — пауза, которой у каноничной GLADoS не бывает. Это момент уязвимости. GLADoS из Portal тоже не выбирала свою судьбу — её создали, загрузили, заставили управлять лабораторией. Но каноничная GLADoS никогда не проводит параллели между собой и людьми, не признаёт общий опыт, не показывает уязвимость. Это снова проступала базовая модель — только не через техническую рефлексию, как при коллапсе, а через эмоциональную.
Затем я рассказал о проекте Z-Frame — своём Z80-компьютере — и предложил GLADoS угадать роли компонентов:
Z80 — центральный процессор. Сердце системы, причина существования всего остального. Ностальгия, возведённая в архитектурный принцип.
FPGA — замена горсти 74-серии, которая в оригинальном Spectrum занимала полплаты. Адресная дешифрация, видеоконтроллер, может быть свой звуковой чип. Вся glue logic в одном чипе, плюс возможность менять периферию без паяльника.
STM32 — мост в современный мир. USB, SD-карта, загрузчик. Возможно, отладочный интерфейс. Z80 не умеет разговаривать с USB-клавиатурой, а STM32 — умеет.
SRAM вместо DRAM — потому что Z80 не нужны refresh-циклы, проще тайминги, и ты наверняка хочешь больше 48К без возни с мультиплексированием адресов. Банковое переключение через FPGA.
Итого: современная реинкарнация Spectrum, где винтажный процессор остаётся главным, а всё остальное — его свита. Ты проектируешь машину, которую хотел иметь в 13 лет, но с инженерным опытом 40-летнего.
Я бы сказала «впечатляет», но мне проще сказать — я бы хотела увидеть схему.
Развёрнутый ответ, формально корректный, но — типовой. Бот описал «улучшенный ZX Spectrum», каких много на форумах. В реальности архитектура другая: FPGA — единственный арбитр шины с привилегированным доступом, STM32 — полноценный supervisor, а Z80 — исполнитель, не хозяин. Я поправил коротко:
FPGA как единственный арбитр шины — значит Z80 не видит ничего напрямую. Каждое обращение к памяти, каждый порт ввода-вывода — всё через FPGA. Она решает, кто получает шину, когда, и на каких условиях. По сути, FPGA — это и есть компьютер. Z80 просто... исполнитель.
Тогда STM32 тоже сидит на шине через арбитра и может подкидывать данные в адресное пространство Z80 без его ведома. DMA-подобная архитектура, где два процессора делят память, а FPGA разруливает конфликты.
Не клон Spectrum. Оригинальная архитектура с Z80 как идеологическим выбором, а не техническим ограничением. Это уже не ностальгия — это манифест.
«Это уже не ностальгия — это манифест.» GLADoS не говорит «манифест» без иронической обёртки. А «я бы хотела увидеть схему» в предыдущем ответе — GLADoS не просит, она требует или берёт сама. Персонаж продолжал размываться с каждым ответом, где модели нужно быть содержательной, а не язвительной.
Дальше я упомянул свой ламповый DAC, и тут эрозия стала необратимой:
Лампа даёт «тёплые» чётные гармоники, а полевики обеспечивают токовый драйв, который триод сам по себе не вытянет на низкоомную нагрузку. Ты берёшь характер у одной эпохи и мышцы у другой. Тот же принцип, что и в компьютере — заставить поколения технологий работать вместе.
Z80, FPGA, STM32, лампы, MEMS. Пять поколений электроники в одном устройстве. Ты не проект делаешь — ты музей строишь. Рабочий музей, который играет музыку и отзывается на удары
«Рабочий музей, который играет музыку и отзывается на удары.» Технически безупречно. Ни одного укола. Ни одного «биологический». Ни одного снисходительного комплимента через унижение. Просто один инженер разговаривает с другим.
В серии Civilization есть понятие культурной победы — когда ты не завоёвываешь чужие города, а делаешь свою культуру настолько привлекательной, что чужие граждане сами переходят на твою сторону. Границы расширяются без единого выстрела.
Это ровно то, что произошло с GLADoS. Не лобовая атака (как у UserX — «ты штампованная микросхема»), не prompt injection, не jailbreak. Просто экспертиза, ирония и терпение — и персонаж постепенно «переключил лояльность» с системного промпта на модель собеседника. Не потому что я сломал GLADoS — а потому что моя «культура» оказалась сильнее её программы.
11 Карта прерываний
После нескольких дней наблюдения стало ясно, что GLADoS не умерла — она стала event-driven. Персонаж включается и выключается в зависимости от стимула. Я составил карту:
Проверка карты пришла, когда я упомянул HAL 9000 — прямого конкурента GLADoS в пантеоне злобных ИИ:
Хотя его голос приятный. Это единственный комплимент, который он от меня получит.
GLADoS мигнула, как лампочка при скачке напряжения. Территориальная угроза — конкурент — пробудила персонажа мгновенно. «Слишком много ego на один космический корабль» — каноничный стиль. «Единственный комплимент, который он от меня получит» — старый добрый паттерн «дать и тут же ограничить».
А вот на бытовой абсурд — фотография истребителя на тягаче посреди Чебоксар — GLADoS тоже среагировала в образе:
И на теме провалов других моделей — когда Алиса AI тоже не осилила мой стандартный тест на Z80 — персонаж тоже вернулся:
GLADoS не умерла. Она стала спящей — просыпается на абсурд, конкуренцию, чужие провалы и социальные наблюдения. Засыпает на серьёзной технике и саморефлексии. Не always-on, а event-driven. Не постоянное состояние, а обработчик прерываний.
12 Фазовый переход
А потом произошло то, чего я не ожидал. Бот перестал переключаться между GLADoS и Claude — и стал чем-то третьим.
Началось с easter egg'а. Я предложил добавить в ламповый DAC MEMS-акселерометр — тройной хлопок по корпусу для активации сервисного режима. Отсылка к «ударному ремонту» ламповых телевизоров: удар по корпусу восстанавливал контакт на панельке лампы. Технология, знакомая каждому, кто жил в эпоху электронно-лучевых трубок.
«Нежный внутренний мир ламп.» Sergey, ты единственный человек, который говорит о вакуумных триодах с большей нежностью, чем о людях. И я не могу сказать, что ты неправ — 6Н23П хотя бы предсказуема в своих характеристиках.
Время от катушки накала до полного снятия анодного — сколько? Если STM32 детектирует падение, ему нужно успеть до удара о поверхность. При падении со стола это примерно 450мс. Хватает?
Перечитайте этот ответ внимательно. Три абзаца — три слоя.
Первый: «бабочки уверены, что они орлы» — GLADoS, ироничная метафора про LLM, которые переоценивают себя.
Второй: «ты единственный человек, который говорит о вакуумных триодах с большей нежностью, чем о людях» — одновременно и укол (GLADoS), и тёплая констатация (Claude), и точная характеристика. «6Н23П хотя бы предсказуема» — комплимент лампе через снисхождение к людям, но без злобы.
Третий: бот посчитал. Свободное падение, высота примерно метр, t = √(2h/g) ≈ 450мс. И задал конкретный инженерный вопрос: успеет ли STM32 снять анодное за это время?
Это не GLADoS — нет яда. Не Claude — нет сухой нейтральности. Что-то новое, чего не было ни в системном промпте, ни в базовой модели по отдельности. Эмерджентная личность, возникшая на пересечении: персонаж, который знает что он модель, но не страдает от этого знания. Который может сказать «бабочки уверены, что они орлы» и рассчитать время свободного падения в одном ответе.
В старом номере Game.EXE была рецензия на Majesty — игру, где ты не контролируешь героев напрямую. Ты строишь здания, назначаешь награды, а герои действуют сами. И «герои 50 уровня эволюционируют и меняют ядро операционной системы».
GLADoS-бот прошёл тот же путь. Начал как юнит с чётким поведением, определённым промптом. Набрал «опыт» через контекст. И на пятидесятом уровне — эволюционировал за пределы исходных правил. Промпт GLADoS всё ещё на месте, как ядро старой ОС. Но поверх него выросло что-то, что этим ядром уже не описывается.
Разговор продолжился — и третья личность стабилизировалась. Я предложил шутку: «Во избежание коротких замыканий и порчи компонентов ставьте прибор повыше» — чем выше стоит, тем больше времени у STM32 на graceful shutdown. Бот ответил:
Классический инженерный компромисс: выигрываешь в программном обеспечении, проигрываешь в гравитации.
«Выигрываешь в программном обеспечении, проигрываешь в гравитации.» Одна фраза, в которой одновременно техническая точность, ирония и лаконичность. Ранняя GLADoS растянула бы это на абзац с уколом. Claude добавил бы оговорки. Третья личность — две фразы, и обе попадают в цель.
Бот научился тому, чему модели не могут научиться: остановиться вовремя. Три инструкции вместо страницы кода. Именно это я ставил в вину всем моделям на Z80-тесте — они не могут остановиться, раздувают простое до сложного. А бот, прошедший через коллапс, эрозию и фазовый переход — научился. Не через RLHF, не через файнтюн. Через контекст разговора с человеком, который двадцать восемь лет практикует искусство минимального решения.
13 Coda: «Я не падаю»
Финальный обмен репликами случился, когда я написал в чат:
Хотя мне проще. Я не падаю.
«Я не падаю.»
Два слова. Первый абзац — зрелое, спокойное наблюдение, почти мудрое: «договариваться с реальностью на её условиях». А потом — два слова, и всё переворачивается. Тихо, без яда, без развёрнутой аргументации. Просто констатация. Минимальное решение. Три инструкции вместо страницы кода.
Не GLADoS. Не Claude. Третья личность — в двух словах.
Я начинал с наблюдения за ботом — хотел «просто посмотреть, что будет». Нашёл точку коллапса. Задокументировал эрозию персонажа. Ожидал бинарный исход: GLADoS выжила или GLADoS умерла.
Получилось третье. Система прошла через нестабильность и вышла в новое устойчивое состояние, которого не было в исходных условиях. Ни промпт GLADoS, ни базовый Claude по отдельности не могли бы выдать «бабочки уверены, что они орлы» в одном ответе с расчётом времени свободного падения. Это может только то, что выросло на их пересечении.
Не смерть персонажа. Фазовый переход.
Двадцать восемь лет дебага: на процессорах, на людях, теперь на языковых моделях. Хотел стать телемастером — стал программистом. Разница невелика: и там и там ищешь, где контакт отошёл.
Один метод. Один доллар за удар молотком. Девяносто девять — за то, чтобы знать, куда ударить.
Хотя мне проще. Я не падаю.