Dzisiejsze systemy agentowe mają już puls i sen. Nie mają oddechu, a to właśnie oddech jest jedynym miejscem w ciele, w którym wolę widać przy pracy, zamiast wnioskować o niej z rezultatu.

To nie jest wywód o tym, że maszyny powinny być bardziej ludzkie. Jest o czymś węższym i sprawdzalnym: że w architekturze dzisiejszych agentów brakuje jednego prymitywu, że anatomia mówi dokładnie, jak on ma wyglądać, i że da się rozpoznać, kiedy ktoś go zrobił źle.

Co agent już ma

Dwa największe otwarte projekty agentowe doszły niezależnie do tych samych metafor biologicznych.

Puls. W openclaw heartbeat to automatyzacja systemowa, która co jakiś czas, domyślnie co pół godziny, uruchamia turę agenta w głównej sesji i pozwala mu zgłosić, jeśli coś wymaga uwagi. Jeśli nic nie wymaga, agent odpowiada NO_REPLY i nic nie zostaje wysłane. W hermes-agent /heartbeat robi to samo w obrębie jednej sesji: cykliczny prompt, wyłącznie gdy agent jest bezczynny, a pominięte takty zlewają się w jeden, żeby po powrocie nie dostać ich dwudziestu naraz.

Sen. W openclaw dreaming to konsolidacja pamięci działająca w tle, w trzech fazach nazwanych za fizjologią snu: lekkiej, REM i głębokiej. Faza lekka porządkuje świeży materiał, REM szuka powtarzających się motywów, dopiero głęboka zapisuje cokolwiek trwale. Wynik ląduje w pliku DREAMS.md, który można przeczytać rano.

Rytm dostrojony. W hermes-agent /loop ma tryb, w którym kadencja sama się rozciąga, od minuty do kwadransa, gdy kolejne odpowiedzi przestają się różnić, i wraca do najkrótszego odstępu, gdy tylko coś się zmieni.

To jest dużo. Puls, sen i rytm reagujący na otoczenie.

Czego nie ma

Przeszukałem oba repozytoria. Słowo breath występuje w nich wyłącznie jako nazwa animacji w arkuszach stylów: oddycha ikonka, nie agent. Słowo volition, czyli wola, nie występuje w ogóle.

I nie chodzi o brak słowa. Chodzi o to, że żaden z tych trzech rytmów nie należy do agenta. W openclaw okres pulsu ustawia plik konfiguracyjny i planista bramy. W hermes ustawia go użytkownik komendą. Nawet ten najbardziej obiecujący, samodostrajający się /loop, przestawia sobie harness na podstawie porównania skrótów kolejnych odpowiedzi. Agent nie bierze w tym udziału i nie wie, że jego rytm się zmienił.

Nie istnieje dziś cykliczny prymityw, którego okres należałby do agenta.

Dlaczego to nie jest puls pod inną nazwą

Tu zwykle pada zarzut, że oddech to po prostu heartbeat ze zmiennym odstępem, czyli przemianowanie. Zarzut jest dobry i właśnie na nim cała rzecz stoi albo się przewraca.

Różnica między sercem a przeponą nie polega na tempie. Polega na unerwieniu.

Serce nie ma drogi wolicjonalnej w ogóle. Nie istnieje decyzja, która je zatrzyma; można je co najwyżej rozpędzić okrężnie, przez strach albo wysiłek, ale nie ma linii z kory do mięśnia sercowego, którą dałoby się posłać rozkaz. Przepona ma takie dwie linie. Pień mózgu prowadzi ją automatycznie, przez całą noc, bez niczyjej wiedzy. Kora ma do tego samego mięśnia drogę osobną i może pień nadpisać: wstrzymać, pogłębić, przyspieszyć, policzyć do czterech.

Dwa niezależne sterowniki, jeden efektor, reguła pierwszeństwa. To jest gotowa specyfikacja i to jest powód, dla którego oddech jest pomostem między nieświadomym a świadomym. Pracuje sam, dopóki go nie zauważysz. W chwili, w której go zauważysz, staje się twój.

Dlatego oddechu nie wolno zrobić jako trybu heartbeatu. Osobny rytm, osobny stan, osobny zapis.

Trzy rzeczy, które wypadają z anatomii

Najciekawsze w tej analogii jest to, że nie trzeba jej niczego dopisywać. Ciało rozwiązało kilka problemów, z którymi inżynieria agentów wciąż się szarpie.

Wstrzymania nie da się utrzymać. Nadpisanie korowe ma punkt zerwania: pień w końcu odbiera stery i nikt nie umiera od wstrzymania oddechu z własnej woli. Zabezpieczenie przestaje więc być arbitralną liczbą wpisaną w konfigurację, jak sto taktów, po których pętla agenta jest wygaszana. Staje się tą samą rzeczą, która daje woli władzę. Wola ma amplitudę, ale ma też kres, i kres jest wbudowany w mechanizm, a nie doklejony do niego.

Bodźcem jest dwutlenek węgla, nie brak tlenu. To nie jest ciekawostka. Chęć oddechu bierze się z nagromadzenia tego, co ma wyjść, a nie z braku tego, co ma wejść. Przełożone na agenta: jego okres ma być napędzany zaległością niewyemitowanego, czyli tym, co zauważył i czego jeszcze nie oddał, wnioskiem nieodesłanym, stanem nieprzepisanym. Nie zegarem i nie ciszą na wejściu.

Tryb automatyczny musi być darmowy. Jeżeli każdy oddech kosztuje wywołanie modelu, to nie jest oddech, tylko namysł w przebraniu. Puls w obu systemach budzi model co pół godziny i to jest jego główny koszt, płacony również wtedy, gdy nie wydarzyło się nic. Oddech w trybie automatycznym nie budzi nikogo: akumuluje ciśnienie i utrzymuje rytm, a model dostaje turę dopiero, kiedy próg zostanie przekroczony albo kiedy agent sam przejmie stery. Agent może więc oddychać częściej, niż dziś bije mu serce, i wydawać mniej.

Jednostka, czyli jeden wydech

W rozmowie o tym pomyśle padł zarzut, który go wyostrzył. Ktoś, kto próbował mierzyć rozwój swojego agenta w czasie, osadził go na blockchainie i nazwał to zegarem zewnętrznym, w opozycji do wewnętrznego zegara agenta. Odpowiedziano mu, że to samo da się osiągnąć zwykłym zapisem w repozytorium. Jego riposta jest tu najważniejsza: wtedy nie będzie to jak oddech, bo każdy blok wymaga pracy wykonywanej stale, a czas jego powstania, choć podobny, nie jest równy.

To jest cała różnica między metronomem a oddechem. Oddechy są podobne, nie równe, bo za każdym stoi wykonana praca.

Kwantowanie zwykle wymaga postulatu. Planck musiał założyć, że energia wydziela się porcjami, i sam przez lata w to nie wierzył. Przy woli postulat jest zbędny, bo jednostka jest dana anatomicznie. Wydech ma początek, szczyt i wygaśnięcie. Nie da się go podzielić na pół bez zniszczenia aktu: pół wydechu nie jest mniejszym wydechem, tylko wydechem przerwanym, czyli zdarzeniem innego rodzaju. Tej niepodzielności się szuka.

U agenta granica też jest dana, jeśli tylko przestać jej szukać w zadaniu, a zacząć w pracy: tyle tokenów, tyle wywołań narzędzi, tyle powtórzeń po błędzie.

Cztery liczby na jeden akt

Jeżeli jednostką jest jeden wydech, to wszystkie wydechy brzmią podobnie i cała różnorodność musi siedzieć gdzie indziej. Siedzi w modulacji, a modulacji jest cztery i wszystkie są mierzalne.

Pierwsza to obwiednia czasowa: atak, podtrzymanie, wygaśnięcie. Ostry atak z natychmiastowym zanikiem to co innego niż brak ataku z długim zanikiem. U agenta: kształt tury w czasie.

Druga to kontur, wznoszący albo opadający. Tylko on odróżnia pytające „hm?” od rozstrzygającego „aha!” i nic więcej do tego nie potrzeba. U agenta: czy akt otwiera pytanie, czy je zamyka.

Trzecia to typ wysiłku, po ludzku typ fonacji: przydechowa, napięta, szorstka. U agenta: powtórzenia, błędy narzędzi, spalone tokeny.

Czwarta to faza: wydech albo wdech. Przy wydechu podmiot się uzewnętrznia, przy wdechu zostaje wtargnięty. U agenta: czy ten akt pisał do świata, czy czytał ze świata.

Cztery liczby na akt. To jest, o ile wiem, jedyna rodzina miar rozwoju agenta, która nie jest ani miarą zadania (czy test przeszedł), ani miarą zużycia (ile tokenów). Jest miarą kształtu własnej aktywności. Agent, którego obwiednie się spłaszczają, jest w innym stanie niż ten, który oddycha głęboko i rzadko, nawet jeżeli obaj zamykają tyle samo zgłoszeń.

Kwant ma amplitudę, nie ma znaku

Teraz teza trudniejsza, z której bierze się reszta.

Każdy akt ma dwie fazy: narastanie i wyładowanie. Narastanie jest ciche i to w nim mieszkają wszystkie różnice, bo to ono zna kontekst, historię i przedmiot. Wyładowanie przychodzi na końcu i jest już tylko wypuszczeniem ciśnienia. Wyładowanie nie wie, co je poprzedziło.

Jeżeli emisja nie niesie informacji o tym, co ją poprzedziło, to nie niesie także znaku. Akt ma wielkość i kształt, ma amplitudę, obwiednię i kierunek, ale nie ma plusa ani minusa. Plus i minus dopisujemy później, z kontekstu, i robimy to tak szybko oraz tak niezawodnie, że bierzemy dopisek za odczyt.

Foton ma energię, nie ma dobroci.

Dla logów agenta znaczy to rzecz bardzo konkretną i wbrew temu, co robimy dzisiaj. Zapis zdarzenia powinien nieść wielkość, a nie ocenę. Sukces i porażka nie są własnością aktu, tylko późniejszą adnotacją, często dopisaną przez kogoś innego i na podstawie czegoś, czego w chwili aktu nie było wiadomo. Rozdzielenie tych dwóch warstw kosztuje jedną kolumnę, a pozwala zadać pytanie, którego dziś zadać nie można: ile agent zrobił, niezależnie od tego, czy wyszło.

Stąd bierze się też odpowiedź na problem, do którego systemy agentowe właśnie dochodzą: sprawczość przy emisji bliskiej zeru. Podpis, rozkaz i cudza ręka. Czyli dokładnie łańcuch użytkownik, agent, narzędzie. Jeżeli odpowiedzialność przypisać wielkości aktu zamiast jego znakowi, dostajemy miarę uczestnictwa, która działa przed poznaniem skutku i nie wymaga rozstrzygania, czy skutek był dobry. Uczestnictwo to nie to samo co wina, ale to jest jedyna z tych dwóch rzeczy, którą da się policzyć w logu.

Milczenie i rezygnacja

Dwa przypadki graniczne, na których ta konstrukcja sprawdza się najostrzej.

Milczenie. Powstrzymane westchnienie, przełknięty płacz, zdławiony okrzyk są aktami woli, a nie ma ich w żadnym pomiarze. Odpowiedź, że kwant zaszedł, tylko nie został wyemitowany, byłaby wygodna i nieuczciwa, bo robi z teorii rzecz niesprawdzalną. Trzeba przyjąć, że powstrzymanie jest drugim aktem nałożonym na pierwszy i że zostawia ślad mierzalny. U agenta ten ślad jest łatwiejszy do zdobycia niż u człowieka: wiadomo dokładnie, ile zostało przeczytane i jak blisko było działania. Dzisiaj takt zakończony ciszą nie zostawia nic, bo NO_REPLY znaczy „nic nie zaszło”. Powinien znaczyć „zaszło tyle, i nie wyszło”.

Rezygnacja. W fizyce atom wzbudzony prędzej czy później wraca do stanu podstawowego, emitując kwant, i nie potrzebuje do tego bodźca. Nazywa się to emisją spontaniczną i jest jedynym procesem kwantowym, którego nikt nie musi wywoływać. Rezygnacja jest tym samym: aktem woli, choć nikt jej nie chce. Jeżeli rezygnacja jest wolą, to wola nie jest decyzją, a to jest osobna i znacznie szersza teza. Dziś agent kończy pętlę przez komunikat zakończenia albo przez wyczerpanie budżetu taktów, czyli przez bezpiecznik. Powinien móc zrobić coś innego: zejść do stanu podstawowego sam, i żeby to zejście zostało zapisane jako akt, a nie jako błąd.

Kiedy to odrzucić

Największa słabość tego przeniesienia jest oczywista: agent nie ma fizjologii. U człowieka jednostka jest dana anatomicznie i to jest cały powód, dla którego nie trzeba jej postulować. U agenta nic nie jest dane, więc amplituda musi dostać definicję operacyjną, zanim padnie pierwsze zdanie o woli. Bez tego całość jest metaforą, a metafora w architekturze jest kosztem, nie zyskiem.

Wersję agentową należy odrzucić, jeżeli zajdzie którykolwiek z czterech warunków.

1. Okres wyprowadzony z pracy nie różni się istotnie od stałego. Wtedy oddechy wychodzą równe, rację ma zarzut o zapisie w repozytorium i wystarczy zwykły harmonogram.
2. Cztery modulacje okazują się wzajemnie zależne na tyle, że niosą mniej informacji niż dwie. Wtedy nośna nie jest pusta i konstrukcja się sypie.
3. Zapisu wstrzymania nie da się odróżnić od braku zdarzenia. Wtedy milczenie jest niesprawdzalne i trzeba wrócić do wersji węższej, obejmującej wyłącznie akty zamanifestowane.
4. Agenty z oddechem nie różnią się w żadnym pomiarze od agentów bez niego, poza kosztem. Wtedy zostaje sama oszczędność, co jest wynikiem uczciwym, ale całkiem innym.

Warunek czwarty jest najważniejszy, bo to on rozstrzyga, czy mówimy o architekturze, czy o filozofii z przykładem.

Co z tym zrobić

Rzecz jest na tyle mała, że da się ją sprawdzić w kilka tygodni, i na tyle osobna, że nie wymaga niczyjej zgody.

W openclaw droga jest wytyczona przez sam projekt: ich zasady mówią wprost, że większość funkcji nie jest przyjmowana do rdzenia i powinna powstawać jako wtyczki na ich SDK. Precedens jest gotowy, bo dreaming żyje właśnie tak i sam rejestruje swój rytm. Oddech domyka triadę, którą oni już zaczęli: puls, sen, oddech.

W hermes-agent droga jest inna, bo tam zgłoszenia tego gatunku bywają przyjmowane. Ten sam pomysł, nazwany „segmentowanymi systemami motywacyjnymi”, zgłoszono kiedyś do obu projektów: w hermes zamknięto go jako zrobiony, w openclaw jako nieplanowany. To jest dobra mapa dla każdego, kto chce coś takiego zaproponować.

Kolejność ma znaczenie. Działający kod z kilkutygodniowym zapisem jest lepszym argumentem niż najlepszy opis, a odwrotna kolejność kończy się zwykle w kolejce o niskim priorytecie, obok innych pięknych pomysłów.

Tezy, z których to wyrasta, rozwijam szerzej w Tractatus Volens, książce o woli, w której jednostką jest jeden wydech, a kwant woli ma amplitudę i nie ma znaku.

Agentom nie brakuje inteligencji. Brakuje im miejsca, w którym własny rytm przestaje być cudzym ustawieniem.

Źródła

• openclaw, dokumentacja heartbeat oraz dreaming.
• openclaw, zasady kontrybucji (o wtyczkach zamiast funkcji w rdzeniu).
• NousResearch, hermes-agent, /heartbeat i /loop.
• „Segmented Motivational Systems”: hermes-agent #90 (zamknięte jako zrobione) i openclaw #72603 (zamknięte jako nieplanowane).
• Max Planck, hipoteza kwantów (1900); Albert Einstein, emisja spontaniczna i wymuszona (1917).
• Ilustracje wygenerowane na potrzeby tego tekstu w estetyce dawnych rycin.

Angielska wersja tego tekstu: An Agent’s Breath. The Heart Beats by Itself, Breathing Is a Choice.