GLASS MIND · WHITE PAPER · v0.1 DRAFT
Архитектура с доказуемым происхождением данных для агентов, способных наблюдать, атрибутировать, объяснять и пересматривать собственное причинное поведение
Glass Mind: операциональная модель себя
Архитектура с доказуемым происхождением данных для агентов, способных наблюдать, объяснять и пересматривать собственное причинное поведение.
ПОЛНАЯ СТАТЬЯ · HTML-РЕДАКЦИЯ
Glass Mind, целиком.
Ниже — полный текст рабочего черновика, отформатированный для чтения людьми. Структура, формулы, доказательные оговорки и технические примеры сохранены; исходный Markdown доступен рядом.
Содержание статьи
Валентин Калинин · mind.glass / Colony
Потолок утверждений: операциональная модель себя и причинное самонаблюдение — не феноменальное сознание, не заявление о решении ARC-AGI-3 и не свидетельство автономного общего интеллекта.
Аннотация
Современные агенты умеют выпускать трассировки, рассказывать о своих действиях и сохранять эпизодическую память. Ни одна из этих возможностей сама по себе не образует надёжную модель себя. Трассировка может показать, что инструмент был вызван, но не зафиксировать, чего агент ожидал. Рассказ может объяснить результат уже после того, как он стал известен. Память может сохранить ошибку, не сохранив условия, в которых она произошла. А наблюдатель становится опасным, если наблюдение незаметно превращается во власть.
Glass Mind — архитектура операциональной модели себя: атрибутированного источникам и упорядоченного во времени представления собственного причинного процесса агента. До действия система запечатывает, чего она ожидает и почему. Отдельный слой полномочий решает, допустимо ли одно ограниченное вмешательство. Исполнительный субстрат фиксирует, что тело действительно сделало. Запечатанное состояние после действия замыкает взаимодействие с реальностью. Затем система разделяет три вопроса, которые часто смешивают: породило ли действие предсказанную динамику, приблизил ли результат текущую цель и было ли достигнуто терминальное условие. Отдельная квитанция пересмотра фиксирует, что изменилось во внутренней модели. Самоотчёт на естественном языке создаётся только как проекция тех же доказательств.
Эта конструкция не заявляет сознание. Она делает более узкое и фальсифицируемое утверждение: агента можно спроектировать так, чтобы он не мог незаметно переписать своё ожидание после действия, не мог спутать противоречие модели мира с повреждением записи самонаблюдения и не мог получить моторную власть лишь потому, что стал лучше наблюдать. Ранние эксперименты в ARC-AGI-3 показывают полное замыкание от действия до состояния после него и узкую причинную атрибуцию от синтезированной опции через Planner и Critic к исполненному действию. Они пока не демонстрируют типизированное понимание цели, автономное улучшение между сессиями или общий перенос.
Следующий исследовательский шаг — сделать малый программный синтез нативным режимом мышления. Glass Mind не должен лишь сообщать, что произошло. Self Capability Model должна компилировать ограниченную программу, симулировать её под конкурирующими моделями мира в осознанном сновидении, исполнить один допущенный шаг, проснуться на реальном состоянии после действия и перекомпилировать программу. Сновидения могут предлагать программы. Только реальность может создавать доказательства.
1. Проблема: трассировки — ещё не модель себя
Системы агентов всё чаще открывают spans, журналы инструментов, записи памяти и словесные рефлексии. Это полезные поверхности, но они отвечают на разные вопросы.
- Телеметрия спрашивает: какой путь кода был выполнен?
- Происхождение данных спрашивает: какие сущности, процессы и агенты создали этот артефакт?
- Рефлексия спрашивает: какую интерпретацию следует перенести в следующую попытку?
- Модель себя должна дополнительно спрашивать: чего система ожидала до действия, какое действие действительно было разрешено и исполнено, что изменилось в мире, где предсказание оказалось неверным и что вследствие этого изменилось в самой системе?
Этот разрыв важен, потому что постфактум-объяснение может быть связным и одновременно причинно ложным. Planner может утверждать, что выбрал candidate A, хотя fallback фактически отправил candidate B. Графовая трассировка может показать узел goal_reasoner, не доказывая, что цель была верной. Voice может заявить об обучении, хотя belief state не изменился. Память может записать одно событие через несколько проекций и принять повторение за независимое подтверждение.
Glass Mind рассматривает это как инженерные ошибки, а не как философские загадки.
1.1 Четыре повторяющихся режима отказа
Постфактум-рационализация. Система записывает прогноз после того, как увидела результат, создавая нефальсифицируемую историю.
Дрейф полномочий. Наблюдатель, критик или рассказчик получает возможность менять порядок кандидатов или выпускать действия, потому что обладает большим контекстом.
Эхо доказательств. Одно причинное событие копируется в граф, голосовое сообщение и запись памяти, а затем считается несколькими подтверждениями.
Тихое отсутствие. Недостающее доказательство заменяется правдоподобным значением по умолчанию вместо явного not_observed.
Архитектура ниже спроектирована так, чтобы каждый из этих отказов был обнаружим.
2. Определение: операциональная модель себя
Операциональная модель себя — это ограниченная модель собственной причинной компетентности и поведения системы. Это не скалярная «оценка осознанности», не нефильтрованная цепочка мыслей и не повествовательная персона.
Для причинного шага \(t\) обозначим:
- \(o_t\) — наблюдаемое состояние;
- \(b_t\) — текущее состояние убеждений;
- \(f_t\) — запечатанное обязательство-прогноз;
- \(u_t\) — выбранное семантическое вмешательство;
- \(x_t\) — квитанция исполнения;
- \(o_{t+1}\) — запечатанное состояние после действия;
- \(v_t\) — вердикты динамики, цели и терминального состояния;
- \(r_t\) — внутренний пересмотр;
- \(p_t\) — доказательства происхождения и полномочий.
Пакет самонаблюдения является соединением этих записей:
Порядок является частью утверждения:
Самоотчёт — это проекция пакета:
Он не является независимым источником доказательств.
2.1 Что должна знать модель себя
Зрелая Self Capability Model должна представлять:
Это модель компетентности, а не личности. Она отвечает:
- Какую программу я могу скомпилировать здесь?
- При каких привязках ролей и предположениях о фазе она применима?
- Насколько я не уверен в предсказанном состоянии после действия?
- Какой компонент вероятнее всего даст сбой: восприятие, привязка ролей, динамика, вывод цели, планирование, моторная привязка или полномочия?
- Какое минимальное вмешательство различит ведущие модели?
- Когда следует воздержаться?
3. Конституционные инварианты
Glass Mind организован вокруг девяти инвариантов.
I. Ожидание предшествует действию
Предсказание, критерий цели, код причины и фальсификатор запечатываются до моторного допуска. Их нельзя переписать после получения состояния после действия.
II. Наблюдение не подразумевает полномочий
Glass Mind, графовый наблюдатель, DecisionGraph и Voice остаются консультативными. Planner, Critic/NLA и исполнительный субстрат сохраняют раздельную ответственность.
III. Один допуск разрешает не более одного вмешательства
Одноразовый допуск связан с текущим наблюдением, кандидатом, исходным кодом, сессией, эпизодом и схемой действия. Повторное использование отвергается.
IV. Тело является свидетелем действия
«Я сделал» устанавливается исполнительным субстратом и квитанцией SDK, а не намерением Planner или графовой телеметрией.
V. Реальность выше предсказания
Запечатанное состояние после действия авторитетно в вопросе о том, что произошло. Оно не определяет автоматически, что произошедшее значит для цели.
VI. Противоречие — не несогласованность
Полное самонаблюдение может корректно зафиксировать, что предсказание было неверным:
observation_integrity: complete
world_model_verdict: contradicted
strategy_transition: cancel
inconsistent зарезервирован для конфликтующих квитанций, идентификаторов опций, причинных времён, привязок исходного кода или lineage.
VII. У одного причинного корня может быть много проекций
Графовая телеметрия, Glass Mind, NLA Voice и Dual Consciousness могут по-разному отображать одно событие, но обязаны ссылаться на один причинный корень. Повторяющиеся проекции не являются независимыми доказательствами.
VIII. Отсутствие остаётся громким
Каждое семантическое поле имеет состояние observed, not_observed или not_applicable. Недостающие producers называются явно, а не выводятся по догадке.
IX. Сон может предложить; только реальность может подтвердить
Воображаемые rollout’ы могут создавать программы-кандидаты, предсказания и различающие probes. Они не могут выпускать причинные доказательства, терминальное утверждение или право долговременной записи памяти.
4. Архитектура
Glass Mind разделяет четыре плоскости.
ПЛОСКОСТЬ ПРИЧИННЫХ ДОКАЗАТЕЛЬСТВ
наблюдение → прогноз → квитанция действия → запечатанное состояние после → вердикт → пересмотр
ПЛОСКОСТЬ ПОЛНОМОЧИЙ
Planner → Critic / NLA → одноразовый допуск → телесно-специфическая материализация
РЕФЛЕКСИВНАЯ ПЛОСКОСТЬ
SelfObservationPacket → DecisionGraph → Glass Mind / Voice / Dual projections
ПЛОСКОСТЬ ОБУЧЕНИЯ
сертифицированный переход → SelfCapabilityModel → программный синтез → option candidate
Плоскости обмениваются типизированными квитанциями. Неявных общих полномочий у них нет.
4.1 Основные записи
SelfForecastCommitment — «Я ОЖИДАЮ»
Создаётся до действия:
identity:
brain_lineage_sha256:
session_scope_sha256:
episode_scope_sha256:
own_causal_time:
observation:
observation_sha256:
semantic_state_sha256:
belief_before_sha256:
intention:
goal_hypothesis_sha256:
mechanism_hypothesis_sha256:
selected_candidate_sha256:
prediction:
expected_effect:
predicted_outcomes_ppm:
expected_progress_predicate:
falsifier:
SelfActionReceipt — «Я ДЕЛАЮ»
Создаётся на границе исполнения:
commitment_sha256:
critic_attestation_sha256:
motor_admission_nonce_sha256:
requested_action_sha256:
accepted_action_sha256:
sdk_call_id:
runtime_accepted:
SelfAfterstateClosure — «Я НАБЛЮДАЮ»
sealed_afterstate_sha256:
semantic_delta_sha256:
verdicts:
dynamics: supported | contradicted | inconclusive | parse_failure
goal: progress | neutral | regress | unknown
terminal: satisfied | unsatisfied | unknown
SelfRevisionReceipt — «Я ПЕРЕСМАТРИВАЮ»
belief_before_sha256:
belief_after_sha256:
hypothesis_changes:
posterior_deltas_ppm:
program_decision: continue | cancel | rebind | abstain | stop
memory_candidate: none | soft | hard | quarantine
SelfObservationPacket — «Я МОГУ ОТЧИТАТЬСЯ ЗА ЭТОТ ШАГ»
Пакет является материализованным представлением первичных доказательств. Он не выводит недостающие факты и не разрешает действие.
4.2 Причинная идентичность, связанная с графом
Один embodied turn может проходить через несколько узлов и ветвей графа. Поэтому соединение выглядит не так:
ARC turn ↔ один graph node
а так:
причинный ARC turn
↔ ограниченный сегмент графовой трассировки
↔ выбранная ветвь + отброшенные ветви
↔ одно допущенное действие
↔ одно запечатанное состояние после действия
Соединение использует явную идентичность решения, причинное время, привязку исходного кода и lineage — и никогда не опирается только на близость timestamps.
4.3 DecisionGraph
DecisionGraph фиксирует, действительно ли внутренняя конструкция изменила решение:
синтезированная опция
→ изменился набор кандидатов
→ изменился ranking
→ Planner выбрал опцию
→ Critic проверил тот же option ID
→ CompetitionKernel исполнил связанное действие
→ последовало запечатанное состояние после действия
Его режим должен быть явным:
decision_graph_mode: observer_shadow
option_planner_mode: active
execution_owner: competition_kernel
observer_motor_authority: false
Наблюдатель атрибутирует причинность; он не создаёт и не исполняет действие.
5. Три оси вердиктов
Центральный вклад Glass Mind — разделение трёх вопросов.
5.1 Целостность самонаблюдения
Соединила ли модель себя правильные записи?
complete | partial | inconsistent | not_observed
5.2 Вердикт модели мира
Совпала ли наблюдаемая динамика с преддействийным прогнозом?
supported | contradicted | inconclusive | parse_failure | not_evaluated
5.3 Переход стратегии
Что произошло с текущей опцией или программой?
continue | cancel | rebind | revise | abstain | stop | not_applicable
Вердикты цели и терминального состояния остаются отдельными. Действие может вызвать правильно предсказанное структурное изменение и не приблизить цель. Противоречие модели мира может быть наблюдено с идеальной целостностью. Уровень может остаться незавершённым, даже если локальная динамика подтверждена.
Это разделение предотвращает распространённую ошибку: считать «что-то изменилось» эквивалентом «задача улучшилась».
6. От самонаблюдения к нативному программному синтезу
Модель себя, которая лишь сообщает о произошедшем, может стать превосходным рассказчиком, не становясь лучшим решателем. Следующий орган — малый типизированный программный синтезатор, использующий Self Capability Model как родной язык мышления.
6.1 Зачем нужен малый программный синтез
Внутренний анализ успешных специализированных ARC-solvers показывает повторяющуюся структуру:
кадр
→ семантические роли
→ явное состояние и закон перехода
→ точный критерий цели
→ исполнимая программа
→ один motor step
→ свежее состояние после действия
→ перекомпиляция / фальсификация / блокировка
Их преимущество состояло не в более богатом внутреннем монологе. Это был компактный причинный компилятор с алгеброй задачи, привязкой ролей, критерием цели, исполнимой программой, termination и приоритетом решения, когда скомпилированная программа была валидна.
Универсальная архитектура должна сохранить эти преимущества, не маршрутизируя по идентичности среды и не копируя исторические маршруты.
6.2 MechanismInstance
MechanismInstance:
family:
current_role_bindings:
state_variables:
phase_hypotheses:
competing_transition_models:
invariants:
applicable_algebras:
candidate_goals:
evidence_refs:
6.3 SemanticOption
Синтезированная опция — ограниченная программа с initiation set, внутренней policy и условиями termination:
SemanticOption:
initiation:
phase_predicates:
role_binding_predicates:
confidence_floor:
program:
typed_steps:
per_step:
predicted_outcomes:
expected_progress_predicate:
falsifier:
termination:
success_predicate:
contradiction_predicate:
ood_predicate:
max_steps:
max_replans:
recovery:
rebind | recompile | probe | abstain
Валидная опция может получить приоритет Planner над generic novelty spray только тогда, когда одновременно выполнены применимость, актуальная привязка ролей, критерий цели, фальсификатор, нижняя граница компетентности, OOD threshold, принятие Critic и одношаговый горизонт исполнения.
7. Осознанное сновидение
«Сновидение» Glass Mind — не необоснованный рассказ и не альтернативный источник истины. Это sandbox для симуляции программ при явной неопределённости.
7.1 Осознанное различие
Осознанный сон знает, что он воображаем:
DreamTrace:
epistemic_status: imagined_only
causal_evidence: false
source_observation_sha256:
world_model_versions:
goal_hypothesis:
program_ast:
assumptions:
competing_models:
predicted_trajectory:
uncertainty:
expected_goal_delta:
first_uncertain_step:
falsifiers:
Он может создать:
- программу-кандидат;
- контрфактическое предсказание;
- различающий probe;
- оценку риска;
- основание для abstain.
Он не может создать:
- подтверждённый переход;
- терминальное утверждение;
- долговременное причинное доказательство;
- моторные полномочия.
7.2 Долго видеть сон; исполнить один шаг
Система может вообразить от четырёх до восьми шагов, но исполняет один:
dream horizon = 4–8
execution horizon = 1
После каждого реального состояния после действия оставшаяся программа перекомпилируется по свежему кадру. Это защищает от эксплуатации Planner ошибок несовершенной модели.
7.3 Конкурирующие сны
Система не должна воображать одно кинематографичное будущее. Она должна сохранять несколько правдоподобных моделей механизма:
DreamRollout:
program_id:
branches:
- model_id: H1
probability_ppm:
states:
goal_result:
- model_id: H2
probability_ppm:
states:
goal_result:
first_disagreement:
safest_real_probe:
Если правдоподобные модели согласны, можно предложить первый шаг программы. Если они расходятся, система выбирает минимальный безопасный probe, который сильнее всего изменит posterior.
8. Зрелость операциональной осознанности
Glass Mind избегает произвольных процентов и использует фальсифицируемую лестницу.
| Уровень | Способность | Текущий статус доказательств | |---|---|---| | C0 | Наблюдать собственное действие и запечатанное состояние после него | Проверено в ограниченных ARC-runs | | C1 | Обнаруживать противоречие, no-op и локальное расхождение | Проверено | | C2 | Пересматривать гипотезу текущего эпизода и отменять устаревшую стратегию | Узко проверено | | C3 | Компилировать самонаблюдение в опцию, связанную с целью и потребляемую Planner | Фронтир | | C4 | Сохранять семантическое обучение через реальный restart без правок source | Не продемонстрировано в десятисессионной волне | | C5 | Автономно улучшаться между сессиями и переноситься на новую морфологию | Не продемонстрировано | | C6 | Открытый междоменный общий интеллект | Не заявляется |
Ближайший достижимый milestone — C3: синтезированная опция с неизменяемым expected_progress_predicate, потребляемая Planner и Critic, исполненная на один шаг и пересмотренная по запечатанному состоянию после действия.
9. Внутренние доказательства и их ограничения
Доказательства в этом разделе внутренние для проекта и связаны с конкретным source. Это не независимый benchmark audit.
9.1 Десятисессионный аудит самонаблюдения
В сессиях от A1065-v5 до A1074 система сообщила:
- 5 470 запечатанных причинных событий;
- 374 закрытых шага;
- 368 реальных действий в среде;
- 368 prediction tickets, 368 SDK calls и 368 sealed afterstates;
- ноль invalid motor actions, hidden retries и terminal resets;
- один уникальный решённый уровень: ar25 L1.
Каждая сессия использовала durable_memory.mode=start_clean. Следовательно, улучшение от волны к волне происходило из-за изменений исходного кода между runs, а не из-за автономного обучения между сессиями. Это критически важный отрицательный результат: сильное самонаблюдение было продемонстрировано, а постоянное самообучение — нет.
9.2 Milestone ADR-298 DecisionGraph
Более поздний восьмидействийный эксперимент dc22 проверял более узкое утверждение: causal_decision_projection_not_execution.
- Baseline b1: 0/8 complete projections.
- Candidate b3: 3/8 complete projections.
- Шаги 5–7 атрибутировали изменение набора кандидатов, ranking и action к
synthesized_option, общей для Planner и Critic. - Все восемь шагов сохранили parity prediction/SDK/sealed-afterstate.
- Наблюдатель не имел полномочий Planner или Motor и не вызывал SDK.
- Противоречие отменило хвост устаревшей опции.
Эксперимент не решил уровень и не продемонстрировал прогресс цели. Он обнаружил важную ошибку схемы: afterstate_contradicted первоначально классифицировался как inconsistent самонаблюдения. Правильная семантика:
observation_integrity: complete
world_model_verdict: contradicted
strategy_transition: cancel
Эта коррекция иллюстрирует назначение Glass Mind: архитектура должна различать «я неправильно наблюдал себя» и «я правильно наблюдал, что был неправ».
10. Протокол оценки
Модель себя полезна только тогда, когда она меняет измеримое мышление, не повреждая полномочия и доказательства.
10.1 Основные метрики
causal_closure:
sdk_calls_with_prediction_and_sealed_afterstate:
attribution_coverage:
actions_with_planner_critic_execution_lineage:
forecast_integrity:
posthoc_forecast_mutations:
self_report_grounding:
claims_with_exact_packet_fields_and_evidence_refs:
revision_yield:
contradictions_that_change_model_or_candidate_set:
planner_consumption:
synthesized_options_that_enter_and_change_selection:
goal_predicate_coverage:
option_steps_with_pre_action_typed_progress_predicate:
restart_learning_delta:
same_source_clean_vs_hydrated_decision_difference:
ood_behavior:
calibrated_reuse | probe | abstain:
10.2 Обязательные controls
Parity наблюдателя. При включённом и выключенном наблюдателе digests кандидатов и действий должны быть идентичны.
Baseline только с памятью. Сложная модель себя должна превосходить прямую эмпирическую память по solve rate, эффективности, calibration, abstention или transfer.
Ablation без опции. Удаление синтезированной опции должно вызывать ограниченную целевую потерю без технического отказа.
Пара после restart с одинаковым source. Cross-session learning заявляется только при неизменных source, policy, image, seed, order и budgets.
Контрпример морфологии. Одинаковая внешность при другой механике должна отвергаться; сохраняющее механику преобразование должно давать эквивалентную опцию.
Родословная доказательств. Производные проекции не могут подтверждать собственного причинного предка.
10.3 Состояния отказа
Glass Mind должен называть операциональные патологии:
- Асистолия: нет следующего допустимого шага и нет типизированного stop.
- Тахикардия: много действий без пересмотра модели.
- Аритмия: семантический цикл повторяется без новой полезности.
- Фибрилляция: несколько компонентов одновременно выступают владельцем решения.
- Эктопический удар: SDK action происходит вне текущего допуска.
- Ишемия: prediction существует, но sealed afterstate не возвращается.
- Аутоиммунная память: старый scar блокирует заново релевантный контекст.
Эти названия — диагностические метафоры, а не биологические утверждения.
11. Связь с предыдущими работами
Glass Mind объединяет несколько сложившихся исследовательских направлений, но делает другое системное утверждение.
Непрерывное самомоделирование
Bongard, Zykov и Lipson продемонстрировали робота, который выводил собственную структуру из отношений «активация — ощущение», использовал self-model для генерации локомоции и адаптировался после повреждения. Glass Mind разделяет акцент на пересмотре модели себя через action-conditioned evidence, но добавляет происхождение данных, явные полномочия, типизированные вердикты цели и evidence-grounded self-report.
Active self и sense of control
Kahl и коллеги предложили embodied active-self architecture, объединяющую bottom-up sensorimotor adaptation с top-down strategy selection. Glass Mind операционализирует родственный вопрос как оценку контроля, подтверждённую квитанциями: вызвало ли допущенное действие наблюдаемый эффект и приблизил ли эффект объявленную цель?
Происхождение и трассировка
W3C PROV предоставляет доменно-независимую модель entities, activities, agents, derivations и provenance bundles. OpenTelemetry предоставляет traces, spans, context, events, links и status. Glass Mind использует эти идеи как substrate, затем добавляет эпистемическую семантику, которой нет в общей трассировке: преддействийный forecast, falsifier, вердикты dynamics/goal/terminal, revision и claim ceiling.
Словесная рефлексия
Reflexion показывает, что языковые агенты могут улучшаться, сохраняя словесный feedback в episodic memory. Glass Mind принимает ценность рефлексии, но вводит более сильное временное правило: narrative не может задним числом стать forecast, предшествовавшим действию.
Object-centric world models
C-SWM и Slot Attention мотивируют объектно- и отношенчески-центричные представления состояния. Glass Mind сохраняет детерминированные components и конкурирующие role hypotheses как свидетелей, а не делает learned slot model единственным источником истины.
Факторизация dynamics и goal
Successor Features разделяют динамику среды и ценность reward/task. Glass Mind заимствует архитектурную факторизацию, не предполагая, что ARC-задачи обладают одинаковой динамикой: dynamics supported и goal progress являются отдельными вердиктами.
Временная абстракция
Option-Critic формализует options через initiation, internal policy и termination. Glass Mind использует этот контракт для типизированных символических опций независимо от того, обучаются ли они градиентным методом.
Эпистемическое исследование
Plan2Explore выбирает действия ради ожидаемой будущей новизны с помощью world model. Glass Mind аналогично требует, чтобы probes различали явные конкурирующие модели; простая novelty по счётчику действий не считается information gain.
Обучение программ и сновидение
DreamCoder чередует решение программных задач с wake–sleep abstraction. Glass Mind принимает идею растущего языка мышления, но отказывается считать dreamed или replayed examples независимыми причинными доказательствами.
12. Угрозы валидности
Наблюдатель может изменить наблюдаемую систему
Latency, memory pressure, scheduling или nondeterministic iteration могут изменить решение даже без явных полномочий. Поэтому parity observer-on/off является постоянным gate.
Правки source могут маскироваться под самоулучшение
Улучшения между сессиями не доказывают learning, если между runs менялся код. Требуются paired experiments с идентичным source.
Самоотчёт может создать эпистемическое эхо
Система не должна считать собственное объяснение независимой поддержкой гипотезы, которую она объясняет.
Идентичность игры может утечь через структуру
Удалить поле game_id недостаточно, если dimensions, palette, coordinates или morphology формируют неявный identifier. Нужны controls cross-morphology и same-appearance/different-mechanic.
Память может стать аутоиммунной
Durable contradictions требуют scope по source, ontology, phase, goal, effect и recovery. No-effect evidence обычно должно снижать utility, а не создавать постоянный глобальный block.
Полная телеметрия может сохранить неверную ontology
Идеально записанная ошибочная интерпретация остаётся ошибочной. Glass Mind должен сохранять uncertainty, competing hypotheses и falsifiers.
«Операциональное я» можно ошибочно принять за феноменальное сознание
Архитектура ничего не говорит о субъективном опыте. Она предоставляет фальсифицируемые доказательства наблюдения, атрибуции, контроля, объяснения и пересмотра.
13. Исследовательская дорожная карта
Фаза A — одно «я», один причинный шаг
Соединить causal time ARC, graph run identity, Planner, Critic, action и sealed afterstate в одно событие с атрибуцией источникам.
Фаза B — опция, связанная с целью
Скомпилировать один проверенный transition motif в SemanticOption, потребляемую Planner, с преддействийным expected_progress_predicate и per-step falsifier.
Фаза C — один осознанный embodied step
Вообразить несколько ветвей, исполнить один допущенный шаг и перекомпилировать программу по реальному состоянию после действия.
Фаза D — компетентность, стабильная после restart
Сохранить семантическое обучение, связанное с source и ontology; доказать, что свежий процесс меняет решение без правок исходного кода и без overblocking соседних гипотез.
Фаза E — competence envelope для новой морфологии
Повторно использовать, компоновать, проверять probe или abstain на новой морфологии. Сравнить с прямой эмпирической памятью и controls option-off.
Фаза F — ограниченный научный интеллект
Поддерживать конкурирующие причинные модели, выбирать различающие эксперименты, выращивать переиспользуемый DSL и переносить проверенные механизмы внутри ограниченного домена.
Последняя фаза была бы содержательной формой автономного научного интеллекта в ARC-подобных мирах. Она всё ещё не устанавливала бы открытый AGI или сознание.
14. Заключение
Glass Mind начинается со скромного утверждения: агент должен уметь доказать, чего он ожидал, что выбрал, что сделало его тело, что вернула реальность, где модель ошиблась, что изменилось внутри и чего он не наблюдал.
Это утверждение приводит к строгой архитектуре:
Я ОЖИДАЮ — запечатано до действия
Я ВЫБИРАЮ — атрибутировано Planner и Critic
Я ДЕЛАЮ — засвидетельствовано исполнительным субстратом
Я НАБЛЮДАЮ — замкнуто sealed afterstate
Я ПЕРЕСМАТРИВАЮ — подтверждено изменением belief или strategy
Я ГОВОРЮ — спроецировано из той же причинной записи
Система не становится более властной лишь потому, что становится более самонаблюдающей. Наблюдатель остаётся наблюдателем. Рассказчик остаётся рассказчиком. Мир остаётся последним свидетелем того, что произошло.
Следующий шаг — не больше интроспекции. Это превращение одного наблюдения в лучшую программу: малую фальсифицируемую опцию, скомпилированную из текущих ролей и гипотез механизмов, увиденную во сне при неопределённости, исполненную на один шаг и пересмотренную реальностью.
Glass Mind не заявляет, что машина сознательна. Он доказывает, когда, как и в какой степени агент способен наблюдать, атрибутировать, объяснять и пересматривать собственное причинное поведение.
Литература
- Bongard, J., Zykov, V., & Lipson, H. (2006). Resilient Machines Through Continuous Self-Modeling. Science 314(5802), 1118–1121. DOI: 10.1126/science.1133687.
- Kahl, S., Wiese, S., Russwinkel, N., & Kopp, S. (2021). Towards autonomous artificial agents with an active self: modeling sense of control in situated action. arXiv:2112.05577.
- W3C. (2013). PROV-DM: The PROV Data Model.
- OpenTelemetry. Traces: spans, context, events, links, and status.
- Shinn, N. et al. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. arXiv:2303.11366.
- Kipf, T., van der Pol, E., & Welling, M. (2019). Contrastive Learning of Structured World Models. arXiv:1911.12247.
- Locatello, F. et al. (2020). Object-Centric Learning with Slot Attention. arXiv:2006.15055.
- Barreto, A. et al. (2016). Successor Features for Transfer in Reinforcement Learning. arXiv:1606.05312.
- Bacon, P.-L., Harb, J., & Precup, D. (2016). The Option-Critic Architecture. arXiv:1609.05140.
- Sekar, R. et al. (2020). Planning to Explore via Self-Supervised World Models. arXiv:2005.05960.
- Ellis, K. et al. (2020). DreamCoder: Growing generalizable, interpretable knowledge with wake-sleep Bayesian program learning. arXiv:2006.08381.
- Kalinin, V. / Colony. (2026). ADR-298: Semantic Assembly — Self-Observation Packet и связанные implementation notes, PRs #566–#569.
Примечания по реализации
- PR #566 — evidence-bound SelfObservationPacket и громкое отсутствие.
- PR #567 — проекция причинных событий ARC.
- PR #568 — присоединение identity GraphConsciousnessObserver.
- PR #569 — evidence-bound NLA voice и divergence DualSignature.
- Внутренний вердикт ADR-298 DecisionGraph — узкая атрибуция причинного решения, не execution или solve authority.