RAG: öz sənədlərin üzərində AI

RAG (Retrieval-Augmented Generation) — modelin cavabını öz sənədlərinlə əsaslandırmaq üsuludur. Model yalnız öz təlim datasına arxalanmır: sualla əlaqəli sənəd hissələri tapılıb ona kontekst kimi verilir.

Bu, avtomatlaşdırmada ən çox lazım olan AI ssenarilərindən biridir, çünki şirkət daxili biliyi — qaydalar, məhsul sənədləri, dəstək tarixçəsi — heç bir ümumi modelin təlim datasında yoxdur.

Vector store bu işin mərkəzindədir. Sənədi yüklədikdə o, mətn hissələrə bölünür və hər hissə embedding modeli ilə rəqəmlərdən ibarət vektora çevrilir. Sonra axtarış açar sözlə deyil, semantik məna üzrə aparılır — sual sənəddəki eyni sözləri işlətməsə də, uyğun hissə tapılır.

RAG iki ayrı workflow-dan ibarətdir və bunu bilmək qurulmanı xeyli asanlaşdırır:

1. Yükləmə (indeksləmə) workflow-u — sənədləri götürür, hissələrə bölür, embedding-ə çevirir və vector store-a yazır. Bu, adətən bir dəfə və ya sənəd yeniləndikcə işə düşür.

2. Sorğu workflow-u — sual gəlir, uyğun hissələr axtarılır, model onları kontekst kimi alıb cavab verir.

Sorğu iki cür qurula bilər: vector store-u agentə alət kimi qoşmaq (agent nə vaxt axtaracağına özü qərar verir), və ya node-u birbaşa axında işlətmək (həmişə axtarır). Birincisi çevik, ikincisi proqnozlaşdırıla biləndir.

Bahalı model üzərində qənaət üçün ayrıca Vector Store Question Answer aləti də var: əvvəlcə uyğun data çıxarılır və yalnız nəticə əsas modelə ötürülür.