Sparround

Nəyi avtomatlaşdırmamalı

Agentin ən bahalı səhvi texniki deyil — yanlış işi avtomatlaşdırmaqdır. Bir neçə kateqoriya var ki, orada agent nə qədər yaxşı işləsə də, avtomatlaşdırma səhv qərardır:

  • Geri qaytarılması mümkün olmayan əməliyyatlar — prod deploy, məlumat silinməsi, ödəniş, müqavilə imzalanması
  • Hüquqi və ya tənzimləyici nəticəsi olan qərarlar — kredit qərarı, işə qəbul, cəza tədbiri
  • Kənar ünsiyyət — müştəriyə göndərilən mesaj, ictimai post, rəsmi yazışma
  • Dəqiqliyi 100% olmalı olan hesablamalar — mühasibat, tənzimləyici hesabat
  • Girişi genişləndirən əməliyyatlar — icazə vermək, açar yaratmaq, istifadəçi əlavə etmək

Bu, "agent bunlara heç toxunmasın" demək deyil. Doğru naxış hazırlamaq / icra etmək ayrımıdır: agent qaralamanı hazırlayır, insan təsdiqləyir və icra edir.

  • deploy əvəzinə → release qeydləri və risk siyahısı hazırlasın
  • müştəriyə mesaj əvəzinə → cavab qaralaması yazsın
  • baza silinməsi əvəzinə → silinəcək qeydlərin siyahısını çıxarsın
  • icazə verilməsi əvəzinə → kimin nəyi istədiyini və nəyə görə lazım olduğunu yığsın

Bu ayrım həm də praktikdir: hazırlıq işi vaxtın 80%-ni yeyir, təsdiq isə 20%-ni.

SualCavab "hə"dirsəNəticə
Səhv nəticəni geri qaytarmaq mümkündürmü?BəliAvtomatlaşdırmaq olar
Səhv nəticə kənara çıxırmı (müştəri, ictimaiyyət, tənzimləyici)?Bəliİnsan təsdiqi tələb olunur
Nəticəni yoxlamaq işi görməkdən ucuzdurmu?BəliAgent hazırlasın, insan yoxlasın
Nəticəni yoxlamaq mümkündürmü?XeyrAvtomatlaşdırma

Sənədlərdəki təhdid modeli də eyni məntiqi göstərir: əsas diqqət "vicdanlı, amma səhv edən agent" üzərindədir — yəni zərərli niyyət deyil, düzgün niyyətlə səhv əmr. Bu, avtomatlaşdırma qərarında ən düzgün zehni model: agent sənə pislik etmək istəmir, sadəcə bəzən səhv edir və səhvi sürətlə, miqyasda edir.

Praktika. Əvvəlki mövzuda hazırladığın rol matrisinə iki sütun əlavə et: "geri qaytarıla bilər?" və "nəticə kənara çıxır?". Sonra hər sətri yenidən qiymətləndir. Hazır sayılır: ən azı bir sətri "tam avtomatik"dən "agent hazırlayır, insan təsdiqləyir" səviyyəsinə endirmisən.

📚 Mənbələr və sənədlər