Sparround

Basic LLM Chain və prompt-lar

Basic LLM Chain n8n-də AI ilə tanışlığın başlanğıc nöqtəsidir: bir root node, ona qoşulmuş bir Chat Model sub-node-u. Giriş gəlir, model çağırılır, cavab çıxır.

Avtomatlaşdırmada ən çox işlədilən dörd tapşırıq məhz bu node ilə həll olunur:

  • Kateqoriyalaşdırma — ticket, e-poçt, rəy
  • Sahə çıxarma — sərbəst mətndən strukturlaşdırılmış data
  • Xülasə — uzun mətni qısaltmaq (bunun üçün Summarization Chain də var)
  • Yenidən yazma — tonu dəyişmək, tərcümə, formatlaşdırma

Sənədlər üzrə sual-cavab lazımdırsa Question and Answer Chain işlədilir — o, retriever vasitəsilə vector store-a və ya workflow-a qoşulur.

Avtomatlaşdırmada prompt yazmağın fərqi. Söhbət pəncərəsində modelin cavabını oxuyub düzəliş etmək olur. Workflow-da isə cavab birbaşa növbəti node-a gedir — orada insan yoxdur. Bu, prompt-a üç tələb qoyur:

1. Çıxış formatı dəqiq göstərilməlidir. "JSON qaytar" azdır; hansı sahələr, hansı tiplər — hamısı yazılmalıdır. 2. Naməlum hal üçün davranış təyin edilməlidir. Model məlumatı tapa bilməsə nə etsin? Boş buraxsın? null qaytarsın? Uydurmasın — bu, açıq yazılmalıdır. 3. Variantlar məhdudlaşdırılmalıdır. Kateqoriyalaşdırmada icazə verilən dəyərlərin siyahısını vermək lazımdır, yoxsa model hər dəfə yeni ad uydura bilər.

Üstəlik n8n-də Structured Output Parser sub-node-u var — o, çıxışın gözlənilən sxemə uyğun olmasını təmin etməyə kömək edir. Bu, prompt-da format izah etməkdən daha etibarlıdır.

ProblemSəbəbHəll
Cavab bəzən JSON, bəzən mətn gəlirFormat prompt-da kifayət qədər dəqiq deyilStructured Output Parser qoş; prompt-da nümunə göstər
Model kateqoriya adını hər dəfə fərqli yazırİcazə verilən dəyərlər siyahısı verilməyibSiyahını prompt-da açıq yaz və "yalnız bunlardan birini qaytar" de
Model tapmadığı məlumatı uydururNaməlum hal üçün davranış təyin edilməyib"Tapa bilmirsənsə `null` qaytar" kimi açıq göstəriş ver
Nəticə eyni giriş üçün dəyişirModelin təsadüfilik parametri yüksəkdirChat Model sub-node-unda temperatura kimi parametrləri aşağı sal
Uzun mətnlərdə cavab kəsilirGiriş və ya çıxış limitinə çatılıbMətni bölüb hissə-hissə emal et, sonra nəticələri birləşdir

AI çıxışı həmişə yoxlanmalıdır. Model inandırıcı görünən, amma səhv nəticə verə bilər. Növbəti node verilənlər bazasına yazırsa və ya müştəriyə mesaj göndərirsə, arada IF ilə yoxlama olmalıdır: məcburi sahələr doludurmu, rəqəm həqiqətən rəqəmdirmi, kateqoriya icazə verilən siyahıdadırmı.

📚 Mənbələr və sənədlər