Propozycje i walidacja

Jak zmiany ElevenAgents Architect są testowane, sprawdzane i wdrażane w aktywnym ruchu.

Omówienie

Gdy ElevenAgents Architect kończy zmianę, przekazuje ci ją jako propozycję: gałąź zawierającą zmianę, testy potwierdzające, że działa, oraz propozycję scalenia z prośbą o scalenie tej gałęzi z main. Ta strona wyjaśnia, jak działa każdy element, gdzie go znaleźć i jak propozycja przechodzi od rozmowy do ruchu produkcyjnego.

Czym jest propozycja

Propozycja opiera się na obecnym modelu wersjonowania:

ElementCzym jest
GałąźGałąź utworzona przez Architect dla zmiany, dzięki czemu main i użytkownicy produkcyjni pozostają bez zmian podczas pracy.
SzkicZmiany Architect, przygotowane w nieopublikowanym szkicu na tej gałęzi.
WersjaPo opublikowaniu szkicu staje się on nową wersją na gałęzi.
TestyTesty napisane przez Architect dla tej zmiany, dołączone do agenta i uruchamiane na gałęzi.
Propozycja scaleniaProśba o scalenie gałęzi z main (lub inną wybraną gałęzią), z opisem zmiany, uruchomionych testów i tym, co powinni sprawdzić recenzenci.

Propozycja scalenia to standardowa propozycja scalenia ElevenAgents — taki sam typ, jaki członek zespołu otwiera ręcznie. Nie jest osobnym typem obiektu.

Propozycja scalenia obejmuje dokładnie jedną gałąź źródłową i jedną docelową, więc zawiera jedno kandydackie rozwiązanie. Aby porównać alternatywy, poproś Architect, aby umieścił każdą na osobnej gałęzi. Każda gałąź otrzyma wtedy własną propozycję, a ruch możesz między nimi podzielić w ramach eksperymentu.

Architect działa w twoim imieniu, więc propozycja scalenia, którą otworzy, jest zapisana na twoje nazwisko jako autora. Żadne pole nie wskazuje, że utworzył ją Architect. Jeśli zespół chce o tym wiedzieć, wspomnij o tym w opisie propozycji.

Jak powstaje propozycja

Architect tworzy propozycję, gdy prosisz go o naprawę lub ulepszenie czegoś albo przekazujesz mu nieudany test, ustalenie Spotlight lub zgłoszenie do triage. Pełną sekwencję wraz z narzędziami wywoływanymi przez Architect na każdym etapie znajdziesz w przykładzie krok po kroku. W skrócie:

  1. Architect analizuje problem, tworzy gałąź i przygotowuje zmianę w twoim szkicu na tej gałęzi.
  2. Architect pisze testy i symulacje dla zmiany oraz uruchamia je w rozmowie, zanim pokaże ci wynik.
  3. Architect otwiera okno publikacji. Sprawdzasz różnice i wybierasz Opublikuj, co zapisuje zmianę jako nową wersję na gałęzi.
  4. Architect otwiera propozycję scalenia z main, tworząc opis na podstawie rzeczywistych commitów i uruchomień testów z gałęzi.
  5. Architect proponuje wysłanie niewielkiej części ruchu produkcyjnego do gałęzi podczas przeglądu propozycji. Wymaga to twojej zgody.

Możesz zatrzymać się na dowolnym etapie. Gałąź z opublikowaną wersją, ale bez propozycji scalenia, nadal jest przydatna: możesz przetestować ją samodzielnie lub później otworzyć propozycję.

Walidacja w rozmowie

Architect pisze i uruchamia testy podczas tworzenia zmiany, a nie jako osobny krok uruchamiany później. W przypadku poprawki warto pokazać, że nowe testy nie przechodzą bez zmiany, a przechodzą z nią. Architect może uruchomić te same testy na oryginalnej gałęzi oraz na szkicu zawierającym zmianę.

Architect nie uruchamia automatycznie tego porównania przed i po dla każdej zmiany. Poproś o nie, gdy ma to znaczenie, na przykład: „Pokaż mi nową symulację, która nie przechodzi na main, a przechodzi na gałęzi, a potem otwórz propozycję”.

Test przechodzi, gdy spełnione są wszystkie warunki sukcesu. W teście LLM odpowiedź agenta spełnia kryteria sukcesu. W teście wywołania narzędzia oczekiwane narzędzie jest wywoływane z oczekiwanymi parametrami. W symulacji symulowana rozmowa spełnia warunki sukcesu. Aby sprawdzić niestabilne wyniki, poproś Architect o kilkukrotne uruchomienie testów. Może powtórzyć każdy test do 50 razy i podać współczynnik powodzenia.

Zobacz Testowanie, aby dowiedzieć się, jak definiowany jest każdy typ testu.

Gdzie znaleźć propozycje

Otwórz agenta, a następnie przejdź do Kontrola wersji > Propozycje. Listę możesz filtrować według statusu, autora (Utworzone przez) i recenzenta (Oczekuje na recenzję od, Zrecenzowane przez). Propozycja otwarta przez Architect w twojej rozmowie jest na liście z tobą jako autorem.

Architect zwraca też link do propozycji w rozmowie, gdy tylko ją utworzy.

Lista propozycji na stronie Gałęzie

Karta Propozycje na stronie Gałęzie agenta

Elementy propozycji

Strona propozycji pokazuje gałęzie źródłową i docelową, jej status, możliwość scalenia oraz to, o ile gałąź źródłowa jest za lub przed docelową. Ma te karty:

Opis, oś aktywności z commitami na gałęzi źródłowej, recenzjami i komentarzami oraz pole komentarza. Pasek boczny pokazuje recenzentów, sugerowanych recenzentów i ewentualne powiązane zgłoszenie do triage.

Opis napisany przez Architect zawsze ma trzy sekcje: Podsumowanie (każda istotna zmiana i jej powód), Testowanie (uruchomione testy i ich wyniki albo informacja, że nie uruchomiono żadnych) oraz Jak zrecenzować (na czym się skupić oraz test do uruchomienia lub rozmowa do wypróbowania).

Karta Omówienie propozycji scalenia

Karta Omówienie propozycji z opisem, recenzentami i powiązanym zgłoszeniem

Recenzowanie i scalanie

Statusy

Propozycja scalenia ma jeden z tych statusów:

StatusZnaczenie
OtwarteOczekuje na recenzję lub scalenie.
ScalonoGałąź została scalona z docelową.
ZamknięteWycofane przez autora, odrzucone przez inną osobę lub zamknięte, ponieważ gałąź została zarchiwizowana. Zamkniętych propozycji nie można ponownie otworzyć.

Gdy propozycja jest otwarta, najnowsza recenzja każdego recenzenta ma status Zatwierdzono albo Poproszono o zmiany. Nie ma osobnych statusów „przetestowano” ani „gotowe do recenzji”. Wyniki testów są widoczne na karcie Uruchomienia testów.

Recenzje i komentarze pojawiają się na osi aktywności na karcie Omówienie, obok każdej nowej wersji zapisanej na gałęzi źródłowej.

Oś aktywności propozycji scalenia

Oś aktywności z nowymi wersjami na gałęzi źródłowej i zatwierdzeniem

Kto może zatwierdzać i scalać

  • Każdy z uprawnieniami edytora agenta może zrecenzować propozycję, z wyjątkiem jej autora. Ponieważ Architect działa w twoim imieniu, nie możesz zatwierdzić propozycji, którą Architect otworzył w twojej rozmowie. Musi to zrobić członek zespołu.
  • Propozycję można scalić, gdy ma co najmniej jedno zatwierdzenie od osoby innej niż autor, a najnowsza recenzja żadnego recenzenta nie ma statusu Poproszono o zmiany. Administratorzy workspace mogą scalać bez zatwierdzenia.
  • Scalenie z chronioną gałęzią wymaga uprawnień administratora lub zatwierdzenia przez administratora.

Architect nie może zatwierdzać, komentować, scalać ani zamykać propozycji scalenia. Te kroki zawsze wykonują ludzie. Pełne zasady recenzji znajdziesz w Propozycjach scalenia.

Architect może scalić gałąź bezpośrednio, bez propozycji, gdy go o to poprosisz i twoja rola pozwala na scalenie. W trybie Wymagane zatwierdzenie najpierw pyta o zgodę. W trybie Automatyczne zatwierdzanie nie pyta. Użyj ochrony gałęzi na main, jeśli każda zmiana musi przejść przez zrecenzowaną propozycję.

Co dzieje się po scaleniu

Po scaleniu nie ma osobnego kroku publikacji. Scalenie zapisuje nową wersję na gałęzi docelowej, a ta wersja od razu obsługuje ruch produkcyjny dla udziału ruchu, który otrzymuje gałąź docelowa. Gdy celem jest main i nie ustawiono podziału ruchu, oznacza to wszystkich rozmówców.

Scalenie także:

  • Przenosi na gałąź docelową udział ruchu produkcyjnego, który miała gałąź źródłowa.
  • Domyślnie archiwizuje gałąź źródłową.
  • Zamyka wszystkie inne otwarte propozycje z tej samej gałęzi.
  • Rozwiązuje powiązane zgłoszenie do triage, jeśli istnieje.

Stopniowe wdrażanie

Zanim propozycja zostanie scalona, możesz wysłać część ruchu produkcyjnego do jej gałęzi, aby rzeczywiści rozmówcy przetestowali zmianę.

1

Rozpocznij podział

Poproś Architect, na przykład: „Wyślij 5% ruchu do tej gałęzi”. Architect poda pełny wynikowy podział, w tym udział main, i poprosi o zgodę przed jego zastosowaniem. Możesz też ustawić go samodzielnie: w Kontrola wersji > Gałęzie wybierz Wdróż na gałęzi.

2

Obserwuj wyniki

Otwórz kartę Rozmowy propozycji, aby przeczytać rozmowy z gałęzi, albo poproś Architect, aby porównał wyniki gałęzi z wynikami main.

3

Wdróż lub wycofaj

Aby wdrożyć, scal propozycję. Udział ruchu gałęzi przechodzi wraz z nią do main. Aby wycofać, poproś Architect o ustawienie udziału gałęzi na 0% albo samodzielnie edytuj wdrożenie. Ruch produkcyjny natychmiast wraca do main.

Suma udziałów ruchu musi zawsze wynosić 100%, a routing jest deterministyczny dla każdej rozmowy. Zmiana udziału chronionej gałęzi, w tym odebranie ruchu chronionemu main, wymaga administratora. Zobacz Wdrażanie ruchu.

Proaktywne propozycje

Architect tworzy propozycje, gdy go o to poprosisz albo gdy przekażesz mu nieudany test, ustalenie Spotlight, alert lub zgłoszenie do triage. Nie skanuje jeszcze twoich agentów według harmonogramu ani nie otwiera propozycji samodzielnie.

Obecna proaktywna ścieżka to Spotlight, a następnie przekazanie sprawy. Spotlight stale obserwuje rozmowy twojego agenta. Tworzy cotygodniowe podsumowanie z sugerowanymi analizami, wysyła alerty w czasie rzeczywistym i rekomenduje zmiany konfiguracji. Aby zamienić ustalenie Spotlight w propozycję:

1

Otwórz Spotlight

Otwórz agenta. Jego strona omówienia to Spotlight.
2

Wybierz ustalenie

Otwórz cotygodniowe podsumowanie i sprawdź Sugerowane kolejne kroki albo otwórz alert w czasie rzeczywistym.

3

Przekaż sprawę ElevenAgents Architect

Wybierz Otwórz w Architect przy sugestii, Przeanalizuj z Architect w podsumowaniu albo Zbadaj z Architect przy alercie. Architect otrzyma ustalenie i instrukcję, aby zweryfikować je na podstawie rzeczywistych rozmów oraz wskazać, której gałęzi dotyczy, zanim zasugeruje zmianę.

4

Poproś o propozycję

Sprawdź ustalenia Architect. Jeśli zgadzasz się z przyczyną źródłową, poproś go o naprawę problemu na gałęzi, przetestowanie poprawki i otwarcie propozycji.

Zgłoszenia do triage działają tak samo. Twój agent produkcyjny może oznaczać problemy do sprawdzenia podczas rozmów, a Omów z Architect przy zgłoszeniu rozpoczyna jego analizę.

Zaplanowane automatyzacje z raportami dostarczanymi do skrzynki Architect są w przygotowaniu. Karta Skrzynka odbiorcza na stronie Architect jest dla nich miejscem zastępczym.