Давайте поговорим про борьбу с галлюцинациями в современных RAG системах. Почему возникают галлюцинации, и как нам с ними бороться?

Мы возьмем в качестве примера галлюцинации классическую систему на базе векторной RAG-системы и посмотрим, как она безудержно выдумывает ответы на простейший вопрос. Потом мы заглянем под капот в поисках источника ошибок и используем подход Knowledge Mapping для исправления этой ситуации.

В завершение мы посмотрим на применение этого подхода в разных кейсах.

Все ссылки: https://abdullin.com/e/df-2024
Слайды и продолжение Q&A: https://t.me/llm_under_hood/347