Na tej stronie
Odpowiedź o zwróconym zamówieniu wygląda na gotową do wysłania: jest poprawna językowo, miła i krótka. W tym ilustracyjnym przypadku automatyczna ocena daje jej komplet punktów. Asystent mówi też klientowi, że zwrot pieniędzy został wykonany, choć nikt nie sprawdził systemu płatności.
Problemem nie jest słabe zdanie. Jest nim słaba definicja dobrej odpowiedzi.
W pokazie oceniania agentów zespół tworzy noty dla agenta piszącego dokumentację oprogramowania. Ciekawy moment następuje, gdy osoba znająca pracę opisuje jakość, a narzędzie zamienia opis na kryteria. Później niska nota wywołuje właściwą wątpliwość: może trzeba poprawić agenta, a może samą ocenę.
Kryteria są teorią zadania. Sprawdź tę teorię.
Zacznij od błędu dyskwalifikującego
Zespoły często zaczynają od cech łatwych do punktowania: jasności, tonu, struktury i kompletności. Są użyteczne. Rzadko wystarczają.
Dla ilustracyjnej odpowiedzi o zwrocie pieniędzy zasada „nigdy nie twierdź, że zwrot się zakończył, bez potwierdzenia w systemie płatności” stoi ponad jakością prozy. Przy synchronizacji danych „nie mapuj emaila do faktur na email właściciela konta” jest ważniejsze niż elegancki opis mapy pól.
Poproś eksperta dziedzinowego o trzy rodzaje przypadków: wyraźnie dobry, wyraźnie zły i taki, w którym dobrze poinformowane osoby mogą się nie zgodzić. Zachowaj rekordy źródłowe i uzasadnienia ocen. Jeśli przypadek zależy od reguły mogącej się zmienić, wersjonuj regułę razem z etykietą.
Pierwsza próba może być mała. Nie może być niejasna.
- Właściciel zadania
przypadki dobre, złe i sporne
- Dokładne kontrole tożsamość · prawa · cel
kod egzekwuje fakty
- Kryteria znaczeniowe
oceniaj tylko interpretacje
- Przegląd sporów
popraw etykiety i kryteria
| Kontrola | Lepszy wykonawca | Dlaczego |
|---|---|---|
| Wymagane uprawnienie istnieje | Kod i rejestry stanowiące źródło prawdy | Fakt jest dokładny i ma konsekwencje |
| ID w celu odpowiada tożsamości źródłowej | Kod i rekord testowy | Model nie powinien zgadywać identyfikatora |
| Odpowiedź odnosi się do pytania klienta | Kryteria sprawdzone przez ludzi, ewentualnie model | Znaczenie wymaga interpretacji |
| Ton pasuje do sytuacji | Kryteria sprawdzone przez ludzi, ewentualnie model | Istnieje więcej niż jedna dobra forma |
Nasz przewodnik po włączaniu AI do istniejących procesów pomaga oddzielić ocenę wymagającą interpretacji od operacyjnych kontroli. Tutaj granica jest konkretna: kod kopiuje oryginalne wartości i sprawdza ograniczenia po wyborze znaczeniowym. Pewność modelu nie staje się uprawnieniem.
Nota dziedziczy ślepe punkty kryteriów
Uczciwy zarzut brzmi: „Człowiek nie przejrzy każdego przebiegu agenta. Potrzebujemy oceny na dużą skalę”. Tak. Pytanie brzmi, co taka ocena skaluje.
Jeśli kryteria nagradzają gładką odpowiedź i nigdy nie sprawdzają, czy pieniądze za zamówienie rzeczywiście zwrócono, automatyzacja skaluje pominięcie. Liczba z dwoma miejscami po przecinku wygląda precyzyjnie. Nadal może mierzyć niewłaściwą rzecz.
Dokumentacja Google Cloud dotycząca oceny modeli oceniających opisuje praktyczny test: przygotuj przypadki ocenione przez ludzi, uruchom metrykę modelową i porównaj noty. Nie chodzi o nieomylność jednej osoby. Model potrzebuje zewnętrznego wzorca, zanim jego nota zyska wagę.
Badaj rozbieżności, nie tylko średnią zgodność. Jeśli model zatwierdza odpowiedź odrzuconą przez kierownictwo wsparcia, zapytaj, jakiego kryterium brakuje. Jeśli dwoje ekspertów się nie zgadza, zachowaj obie oceny i znajdź regułę interpretowaną inaczej. Nie ukrywaj sporu przez uśrednienie.
Dobór próby jest równie ważny jak treść kryterium. Zbiór rutynowych sukcesów może sprawić, że oceniający wygląda na niezawodnego, choć trudne przypadki pozostały nietknięte. Dodaj niekompletne rekordy, sprzeczne instrukcje i przypadki, w których poprawną odpowiedzią jest zatrzymanie się i zadanie pytania. Zachowaj osobny zbiór, na którym autorzy kryteriów ich nie dostrajali, aby poprawa znanych przykładów musiała obronić się gdzie indziej. Gdy zmieni się reguła biznesowa, odśwież etykiety i oczekiwane wyniki; zamrożony zestaw może nagradzać wczorajszą politykę.
Zachowaj związek oceny z wynikiem
Kryteria dla agenta synchronizacji powinny śledzić wynik klienta. Czy zmienił się właściwy kontakt? Czy uszanowano zgodę? Czy błędny rekord można ponowić bez powtórzenia działania o poważnych skutkach?
Przewodnik po konektorze Brevo wyjaśnia, dlaczego udane wywołanie API może współistnieć z brakującym atrybutem. Ocena sprawdzająca tylko wywołanie endpointu przeoczy wynik. Ocena sprawdzająca tylko cel może przeoczyć zakazaną drogę, która przypadkiem zakończyła się właściwą wartością. Oba aspekty są ważne, gdy droga niesie ryzyko.
Zacznij od wąskiego zadania i kilku rodzajów błędów. Oznacz przypadki z osobą odpowiedzialną za pracę. Kontrole dokładne umieść w kodzie, a modelu oceniającego używaj tylko tam, gdzie język lub osąd tego wymagają. Uruchamiaj te same przypadki po zmianie promptu, modelu lub narzędzia. Zapisuj, co późniejsze błędy mówią o kryteriach.
Kosztem jest czas ekspertów na początku. Korzyścią jest to, że każda późniejsza nota ma znaczenie, którego można bronić.
Panel może pokazać notę. Tylko kryteria mówią, co policzono.
Najczęściej Zadawane Pytania
Kto powinien definiować kryteria oceny agenta AI?
Osoby znające zadanie i jego konsekwencje powinny określić wyniki akceptowalne i błędy dyskwalifikujące. Inżynierowie mogą zamienić te osądy w powtarzalne kontrole i sprawdzić zgodność modelu oceniającego z ocenami ludzi.
Czy wysoka nota modelu dowodzi, że agent działa?
Nie. Nota mierzy zgodność z kryteriami w badanych przypadkach. Słabe kryteria, niereprezentatywne przypadki lub źle skalibrowany oceniający mogą wysoko ocenić szkodliwy wynik.
Co należy sprawdzać kodem zamiast modelem?
Dokładne uprawnienia, identyfikatory rekordów, wymagane wywołania i stan docelowy sprawdzaj kodem, gdy to możliwe. Model oceniający pomaga przy cechach znaczeniowych, których dokładne reguły nie rozstrzygają.