Теория: что происходит между текстом и ответом?
Контекстные фрагменты (chunking)
Длинный текст делят на окна, чтобы искать релевантный отрывок и передавать модели ограниченный контекст. Перекрытие соседних окон помогает не потерять определение или формулу на границе. Слишком короткие окна теряют контекст; слишком длинные добавляют шум.
Эмбеддинги
Модель отображает текст в плотный вектор фиксированной размерности. В отличие от BoW/TF–IDF, векторы могут сближать перефразировки без общих слов. Это статистическое представление смысла, а не гарантия истинности.
Граф понятий и онтология
Граф — узлы и рёбра. В онтологии узлы представляют понятия/сущности, а типизированные отношения фиксируют, например, «оценивается по», «является характеристикой», «используется при проверке». Такая структура делает связи явными и проверяемыми.
Генерация QA и grounding
Сначала retrieval находит фрагмент источника, затем модель формирует вопрос или ответ. Grounding — проверка, что ответ действительно подтверждается найденным контекстом. Одна только близость с эталоном не выявляет все ошибки и противоречия.
1. Конвейер учебник → QA
Retrieval находит источник; генератор формирует ответ; проверка устанавливает, подтверждается ли ответ источником.
2. Поиск контекста
Мини-корпус фрагментов по вероятности и статистике.
3. Близость ≠ эквивалентность
Тестовые пары для обсуждения эмбеддингов, отрицания и перефразирования.
4. Интерактивный граф понятий / фрагмент онтологии
Нажмите на узел. Подсвечиваются соседние понятия и отношения.
Дисперсия
Граф задан вручную для обучения. В реальном проекте понятия и связи извлекают из текста и проверяют, а затем сохраняют как граф знаний/онтологию.
5. Формирование QA
6. Проверка ответа
Числа здесь учебные, не являются оценкой модели. Семантическую близость следует дополнять проверкой фактов и ссылкой на источник.
Вопросы для обсуждения
Зачем делить книгу на фрагменты?
Чтобы находить релевантный контекст, уменьшать шум и указывать источник ответа. Размер фрагмента влияет на полноту и точность retrieval.
Чем граф отличается от вектора?
Вектор представляет текст численно; граф явно задаёт сущности и типизированные отношения. Эти представления дополняют друг друга.
Как сравнивать ответ с эталоном?
Лексические метрики вроде ROUGE/BLEU полезны ограниченно. Нужны экспертная проверка, groundedness/faithfulness, полнота ответа и оценка по исходному контексту.