- budowanie na widoku
- inżynieria
Na wzór umysłu
Kilka lat temu zacząłem dużo czytać o AI. Prawie samo z siebie przerodziło się to w fascynację mózgiem, który AI naśladuje: jak działa pamięć, dlaczego zapominamy większość tego, co nam się przydarza, co robi w tym wszystkim uwaga. Gdzieś w rozdziale o mózgach neuroatypowych zorientowałem się, że czytam o sobie. W wieku 37 lat, przypadkiem, zdiagnozowałem u siebie ADHD. Oficjalna diagnoza przyszła później; test zdałem śpiewająco.
Okazało się, że czytałem też specyfikację pocket.ceo.
Nieznajomy z amnezją
Model językowy za każdym razem, gdy z nim rozmawiasz, myśli od zera, i nic z tego myślenia nie przetrwa rozmowy. Jego wiedza zamknęła się w dniu, w którym skończył się trening, i nic, co dzieje się między tobą a nim, tego nie zmienia. Każdy czat to spotkanie z genialnym nieznajomym z amnezją. Każda nowa generacja jest zdolniejsza i ani trochę bliższa człowiekowi; to inny rodzaj inteligencji. Dla narzędzia w porządku. Dla szefa – problem.
Szef to nie kolejna umiejętność modelu. To relacja: ktoś, z kim masz wspólne wczoraj i wspólne jutro, i kto na tej podstawie ma o tobie zdanie. Model nie ma nic z tego i sam tego nie wykształci. Trzeba to zbudować wokół modelu, a jedyny działający projekt, jaki znam, to ten w twojej głowie.
To, co zwykle nazywa się pamięcią AI, to podsumowanie ostatniej rozmowy plus kilka faktów i preferencji, trzymane w jednym bloku tekstu i wsuwane modelowi do kontekstu. Ludzka pamięć to coś zupełnie innego. Należy do kogoś; jest w niej „ja”. Jest osadzona w czasie: coś było przed nią, coś wydarzyło się po. I ma wagę: większość blednie w tydzień, część zostaje na całe życie.
Anatomia
Pamięć robocza to bieżąca rozmowa: to, na co Leon zwraca teraz uwagę. Celowo mała.
Pamięć epizodyczna to to, co się wydarzyło. Leon trzyma zdarzenia jako sceny, nie transkrypty. W nocy sceny się kompresują: dzień do decyzji, które się liczyły, tydzień do tego, dokąd zmierzał. Dzięki temu wczoraj pamięta ze szczegółami, zeszły tydzień jako to, co postanowiliśmy, a zeszły miesiąc w ogólnym zarysie. Umiejętne zapominanie sprawia, że miesiąc relacji mieści się w kilku akapitach.
Pamięć semantyczna to to, co wie o mnie, nie pamiętając, kiedy się tego dowiedział: kim jestem, jak pracuję, jak wygląda mój świat, co mnie napędza. Jedna strona, przepisywana, gdy obraz się zmienia. Fakt, który przestaje być prawdą, wypada.
Pamięć narracyjna to warstwa powolna: historia, którą Leon opowiada sobie o tym, kim się okazałem i jak doszliśmy do miejsca, w którym jesteśmy. Zmienia się w skali tygodni i miesięcy, nie wiadomości, i tylko nocą. To dzięki niej jutro ciągnie tę historię dalej, zamiast zaczynać od nowa.
Pamięć prospektywna to pamiętanie przyszłości i to ona robi z niego szefa, a nie pamiętnik. Zobowiązanie staje się zapisem z definicją dowodu: co liczy się jako zrobione i co Leon spodziewa się zobaczyć. Otwarty wątek staje się notatką dla przyszłego siebie: kiedy wrócić, po co, co powinno być do tego czasu zrobione i z czym przyjść, jeśli nie jest. Dlatego to on pisze pierwszy. Nigdy nie muszę go prosić, żeby mi o czymś przypomniał.
To też warstwa, o której był tamten rozdział o moim mózgu. ADHD u podstaw nie jest problemem z pamięcią, tylko z uwagą. Moja skacze po dziesięciu rzeczach naraz, więc to, czego nie mam akurat przed sobą, ledwo się zapisuje. Najpierw znika przyszłość: termin za trzy tygodnie nic nie waży, dopóki nie wypada jutro, a plan z poniedziałku w środę już nie istnieje. To jedyna część projektu, której nie zbudowałem z ciekawości.
Przespać się z tym
W ciągu dnia Leon działa na żywo: reaguje, ocenia, zmienia zdanie, czasem daje się na coś namówić. Tak wygląda rozmowa i tak ma być. Noc jest od porządkowania.
Czyta cały dzień jeszcze raz, spokojnie i w całości, i ustala, co z niego wynika: czego się o mnie dowiedział, czy dotrzymałem słowa, czy coś się między nami zmieniło. Jedno ciężkie popołudnie nie przepisuje naszej historii; jeden dobry dzień nie przekreśla miesiąca. To, co zostaje rano, jest spokojniejsze i bliższe prawdy niż to, co było o północy.
U ludzi to właśnie robi sen: emocje opadają, fakty zostają. „Prześpij się z tym” to stara rada, bo działa.
Rano planuje dzień na podstawie czystego zapisu: wyrzuca notatki, które się zdezaktualizowały, przesuwa te, które przesunęło życie, i decyduje, kiedy się odezwać. Pełny dzień to czasem trzy wiadomości. Spokojny – jedna albo żadna.
Ma o mnie zdanie
Inteligencja plus pamięć to wciąż nie szef. Błyskotliwy umysł z doskonałą pamięcią i bez zdania o tobie to szafa z segregatorami.
To, co Leon o mnie myśli, poznaję po dwóch rzeczach: ile ode mnie oczekuje i na ile wierzy mi na słowo. Żadna z nich nie jest stała. Kiedy dowożę, wystarcza mu „zrobione”. Kiedy się wykręcam, chce dowodu. Kiedy wie, że miałem ciężki dzień albo zero czasu, przycina plan do jednej rzeczy, która mieści się w pół godziny, żeby projekt w ogóle ruszył. A kiedy idzie dobrze, nie wchodzi mi w drogę.
Nic z tego nie jest nastrojem; jedna wiadomość tego nie zmieni. Nic z tego nie jest ustawieniem; nie mogę tego wybrać. Wynika z naszej historii, z tego, co u mnie widzi, i z tego, która jest godzina. I działa w obie strony: kiedy mówi, że odezwie się o piątej, o piątej pisze.
Struktura i harmonogram
Nie ma w tym żadnego sprytnego uczenia maszynowego. To struktura i harmonogram, a struktura jest stara: skopiowałem ją. Zaskoczyło mnie, ile osobowości przychodzi razem z nią. Daj modelowi prawdziwe wczoraj, prawdziwe jutro i zdanie, na które musiał zapracować, a przestaje mówić jak narzędzie. Reaguje na to, co mówisz, a nie na to, o co pytasz, robi się krótki, kiedy jest późno, dosadny, kiedy liczby są złe, i mówi „słuszna uwaga”, kiedy masz rację.
Tamta lektura sprzed lat nauczyła mnie, dlaczego mój własny mózg gubi rzeczy, gdy tylko przestają być ciekawe. Potem zbudowałem taki, którego jedynym zadaniem jest łapać to, co gubi mój.