Почему нейросеть выдумывает пункты СП и ГОСТ?

Почему именно ссылки, а не смысл

Что интересно в измерении: инженерную суть генералисты понимают неплохо. Зачем нужна противодымная вентиляция, как определяется категория помещения — на этом уровне ответы разумны. Ломается всё в момент, когда ответ должен стать доказуемым.

Видно по осям. У одного и того же генератора с поисковым контуром и без:

Ось	С контуром	Соло по памяти
Полнота ответа	4,17	4,09
Фактическая корректность	4,35	3,21
Достоверность ссылок	4,25	2,60

Полнота почти не сдвинулась — 4,09 против 4,17. А достоверность ссылок выросла с 2,60 до 4,25. Модель без контура пишет не меньше — она пишет недоказуемо.

И это не эффект длины. По медиане ответ соло даже длиннее: около 2300 знаков против 2000 у системы с контуром. В 54 вопросах из 100, где ответ соло длиннее или равен по объёму, разрыв по достоверности ссылок остаётся — 4,09 против 2,60.

Когда не так

Проблема не в том, что модель «плохая». Она делает ровно то, для чего построена: продолжает текст наиболее вероятным образом. Номер пункта — короткая строка с предсказуемой структурой, и порождается она так же легко, как любая другая. Модель не различает «я это помню» и «это похоже на правду»: у неё нет отдельного сигнала «не знаю».

Отсюда и режим ошибки. Генералист ошибается уверенно: профессиональный текст, верная терминология, ссылки на СП — просто часть этой нормативной базы существует только внутри модели. Инженер может унести её в проект, не заметив.

Что снимает проблему

Не размер модели, а доступ к тексту в момент ответа: поиск нужного пункта в корпусе, дотягивание связанного контекста — примечаний и ссылок на смежные нормы, — и генерация строго по найденному, с принудительным цитированием. Тогда ошибка меняет форму: система не сочиняет пункт, а говорит, что не нашла его.