Nəyi avtomatlaşdırmamalı
Agentin ən bahalı səhvi texniki deyil — yanlış işi avtomatlaşdırmaqdır. Bir neçə kateqoriya var ki, orada agent nə qədər yaxşı işləsə də, avtomatlaşdırma səhv qərardır:
- Geri qaytarılması mümkün olmayan əməliyyatlar — prod deploy, məlumat silinməsi, ödəniş, müqavilə imzalanması
- Hüquqi və ya tənzimləyici nəticəsi olan qərarlar — kredit qərarı, işə qəbul, cəza tədbiri
- Kənar ünsiyyət — müştəriyə göndərilən mesaj, ictimai post, rəsmi yazışma
- Dəqiqliyi 100% olmalı olan hesablamalar — mühasibat, tənzimləyici hesabat
- Girişi genişləndirən əməliyyatlar — icazə vermək, açar yaratmaq, istifadəçi əlavə etmək
Bu, "agent bunlara heç toxunmasın" demək deyil. Doğru naxış hazırlamaq / icra etmək ayrımıdır: agent qaralamanı hazırlayır, insan təsdiqləyir və icra edir.
- deploy əvəzinə → release qeydləri və risk siyahısı hazırlasın
- müştəriyə mesaj əvəzinə → cavab qaralaması yazsın
- baza silinməsi əvəzinə → silinəcək qeydlərin siyahısını çıxarsın
- icazə verilməsi əvəzinə → kimin nəyi istədiyini və nəyə görə lazım olduğunu yığsın
Bu ayrım həm də praktikdir: hazırlıq işi vaxtın 80%-ni yeyir, təsdiq isə 20%-ni.
| Sual | Cavab "hə"dirsə | Nəticə |
|---|---|---|
| Səhv nəticəni geri qaytarmaq mümkündürmü? | Bəli | Avtomatlaşdırmaq olar |
| Səhv nəticə kənara çıxırmı (müştəri, ictimaiyyət, tənzimləyici)? | Bəli | İnsan təsdiqi tələb olunur |
| Nəticəni yoxlamaq işi görməkdən ucuzdurmu? | Bəli | Agent hazırlasın, insan yoxlasın |
| Nəticəni yoxlamaq mümkündürmü? | Xeyr | Avtomatlaşdırma |
Sənədlərdəki təhdid modeli də eyni məntiqi göstərir: əsas diqqət "vicdanlı, amma səhv edən agent" üzərindədir — yəni zərərli niyyət deyil, düzgün niyyətlə səhv əmr. Bu, avtomatlaşdırma qərarında ən düzgün zehni model: agent sənə pislik etmək istəmir, sadəcə bəzən səhv edir və səhvi sürətlə, miqyasda edir.
Praktika. Əvvəlki mövzuda hazırladığın rol matrisinə iki sütun əlavə et: "geri qaytarıla bilər?" və "nəticə kənara çıxır?". Sonra hər sətri yenidən qiymətləndir. Hazır sayılır: ən azı bir sətri "tam avtomatik"dən "agent hazırlayır, insan təsdiqləyir" səviyyəsinə endirmisən.
📚 Mənbələr və sənədlər
- Təhlükəsizlik: təhdid modelirəsmihermes-agent.nousresearch.com
"Vicdanlı, amma səhv edən agent" və deny qaydaları.
- Planlaşdırılmış tapşırıqlarrəsmihermes-agent.nousresearch.com
- Məsləhətlərrəsmihermes-agent.nousresearch.com