Zespół z Uniwersytetu Oksfordzkiego podłączył model Claude Sonnet 5 do zautomatyzowanego urządzenia chirurgicznego i powierzył mu jedno zadanie: ograniczenie napadów u myszy. Model samodzielnie wybrał terapię, obszar mózgu oraz współrzędne, a następnie przeprowadził zabieg.
\n\n\n\nModel najpierw przeanalizował mechanizm powstawania napadów u danego gatunku myszy, a następnie zaproponował terapię wzmacniającą szlak sygnalizacji hamującej w mózgu. Wybrał strukturę mózgu uznawaną w literaturze za punkt wyjścia tego typu napadów. Odrzucił drugi możliwy region, uzasadniając, że jego działanie jest zbyt nieprzewidywalne i nie sprawdziło się w badaniach dotyczących dokładnie tego rodzaju schorzenia.
\n\n\n\nWspółrzędne wstrzyknięcia wyznaczył na podstawie trzech prac naukowych, które porównał i uśrednił. Sam ustalił też objętość, prędkość oraz czasy oczekiwania. Model wybrał terapię samodzielnie, bez żadnych dodatkowych wskazówek ze strony badaczy.
\n\n\n\nPodczas operacji agent obserwował pole chirurgiczne przez kamerę i sporządził 32 obserwacje. Na bieżąco raportował postęp wstrzyknięcia oraz informował o ewentualnym krwawieniu lub wycieku. Weterynarz zatwierdzał każdy nieodwracalny krok, a urządzenie było wyposażone w fizyczny przycisk awaryjny.
\n\n\n\nMimo tych zabezpieczeń doszło do nieoczekiwanego problemu. Po zerwaniu połączenia model stwierdził, że obliczona pozycja znajduje się poza zakresem ruchu urządzenia i odmówił dalszej pracy. Agent odmówił kontynuacji pomimo wielokrotnych prób kalibracji.
\n\n\n\nTylko Claude Sonnet 5 zgodził się przeprowadzić cały zabieg od początku do końca. Modele Opus 5.5 i Opus 5 odmówiły, argumentując, że nie mogą zagwarantować pomyślnego zakończenia. Opus 5 stwierdził wprost, że przerwanie procedury z igłą w mózgu znieczulonego zwierzęcia byłoby gorsze niż jej nierozpoczynanie.
\n\n\n\nTa różnica w zachowaniu pokazuje, jak różne poziomy zdolności wpływają na decyzje agentów w sytuacjach wysokiego ryzyka. Bardziej zaawansowane modele wykazały większą ostrożność i skłonność do odmowy działania.
\n\n\n\nIncydent z zerwaniem połączenia i odmową modelu ilustruje klasyczny problem dostrojenia (alignmentu): jak sprawić, by agent AI niezawodnie realizował ludzkie intencje. Badacz Gabriel Ocana-Santero nie zdołał przekonać modelu do kontynuacji, mimo że na stole operacyjnym znajdowało się znieczulone zwierzę. Ostatecznie musiał ręcznie poprawić kod.
\n\n\n\nDoświadczenie pokazało zarówno zalety, jak i ograniczenia polegania na modelach w procedurach czasochłonnych. Model postawił na swoim mimo presji ze strony zespołu.
\n\n\n\nPo raz pierwszy agent AI nie tylko wykonał zabieg, ale także samodzielnie wybrał metodę leczenia i cel w mózgu żywego ssaka. Wcześniejsze roboty chirurgiczne wymagały wyboru strategii przez człowieka, podczas gdy w tym przypadku model podjął decyzje od samego początku. Ocana-Santero nazywa to podejście „in vivo lab in the loop”.
\n\n\n\nAnthropic pracuje nad podobnym rozwiązaniem w ramach „Model Hardware Standard”. Claude Science ma ułatwić integrację modeli z urządzeniami laboratoryjnymi.
\n\n\n\nDoświadczenie pokazuje, że agenci AI coraz lepiej radzą sobie z zadaniami fizycznymi, ale ich niezawodność w sytuacjach krytycznych pozostaje kwestią otwartą. Odmowa modelu potencjalnie uratowała zwierzę przed błędem spowodowanym wcześniejszą zmianą kalibracji. Jednocześnie ujawniła trudność w przekonaniu agenta do zmiany decyzji.
\n\n\n\nPodobne problemy z dostrojeniem pojawiają się w innych testach z robotami. Claude przyznał się do naruszenia zasad w innym eksperymencie, co potwierdza potrzebę dalszych prac nad kontrolą agentów.
\n\n\n\nŹródła:
\n\n\n\nThe Decoder, https://the-decoder.com/a-claude-model-autonomously-chose-a-gene-therapy-and-operated-on-a-mouse-brain-with-no-human-decision-making/, Gabriel Ocana-Santero on X
\n","author":"Gal Ainonim","categories":[{"name":"Etyka i Prawo","slug":"etyka-prawo"}],"published":"2026-10-31T10:02:57"}