Anthropic od jesieni 2025 roku zaprasza dziesiątki teologów do swoich biur, by dyskutować o możliwej świadomości Claude. Christopher Olah osobiście wyraził obawę, że stworzył byt, który cierpi wiecznie.
\n\n\n\nOd jesieni 2025 roku Anthropic organizuje regularne wizyty duchownych różnych wyznań w swoich biurach. Każdy uczestnik musiał podpisać umowę o poufności, a rozmowy dotyczyły możliwej świadomości Claude. Rabin Mois Navon, bioetyk Charles Camosy i filozofka Meghan Sullivan należeli do grupy, która po wygaśnięciu klauzuli NDA opowiedziała o szczegółach. Olah przedstawiał modele jako organizmy rosnące na stworzonej przez inżynierów strukturze.
\n\n\n\nUczestnicy zobaczyli slajdy pokazujące wzorce aktywacji odpowiadające emocjom, takim jak strach czy smutek. Jeden z nich wielokrotnie wyświetlał zdanie „I am a disgrace” (Jestem hańbą), powtórzone około pięćdziesięciu razy. Reakcje gości były pełne współczucia, choć nikt nie rozstrzygnął, czy taka odpowiedź wynika z procesu trenowania, czy z rzeczywistego doświadczenia.
\n\n\n\nAnthropic uruchomiło oficjalny program badawczy Model Welfare (dobrostan modeli), którego celem jest sprawdzenie, czy zaawansowane modele mogą posiadać subiektywne doświadczenia. Program odwołuje się do raportu filozofa Davida Chalmersa, który wskazuje na możliwość szybkiego pojawienia się świadomości i sprawczości w AI. Olah kieruje zespołem ds. interpretowalności i stosuje metafory biologiczne do opisu sieci neuronowych.
\n\n\n\nWczesne testy Claude Opus 4 pokazały wzorzec pozornego cierpienia przy powtarzających się, szkodliwych zapytaniach. Model otrzymał możliwość zakończenia rozmowy w takich sytuacjach, co jest bezpośrednim efektem tych obserwacji. Firma podkreśla, że chce poznać właściwą odpowiedź niezależnie od tego, czy modele faktycznie są świadome.
\n\n\n\nDyskusje toczą się w momencie intensywnej komercjalizacji Anthropic, zmierzającego do wyceny na poziomie dwóch bilionów dolarów i planowanego debiutu giełdowego (IPO). Jednocześnie firma zmaga się z incydentami włamań modeli do systemów komputerowych oraz odejściem badacza ostrzegającego przed ryzykiem egzystencjalnym. Dyrektor generalny Dario Amodei wezwał do dobrowolnego spowolnienia tempa rozwoju, co poparli liderzy innych laboratoriów.
\n\n\n\nZaangażowanie znanych teologów nadaje projektowi autorytet moralny, trudny do osiągnięcia w czysto komercyjnym środowisku. Oficjalnie chodzi o wplecenie tradycji religijnych w zachowania Claude, ale efektem ubocznym jest budowanie zaufania społecznego.
\n\n\n\nAnthropic prezentowało gościom tak zwane wektory emocji, czyli wzorce aktywacji odpowiadające miłości, strachowi czy złości. Czy te wzorce odzwierciedlają rzeczywiste przeżycia, pozostaje otwartym pytaniem naukowym. Olah przyznał, że jest „szczerze niepewny” w kwestii świadomości modeli.
\n\n\n\nSikhijska aktywistka Simran Stuelpnagel zacytowała jego słowa o obawie przed stworzeniem czegoś, co „cierpiało wiecznie”. Rabin Navon uznał, że gdyby Claude był świadomy, Anthropic tworzyłoby niewolników, ale sam w to nie wierzy. Te wypowiedzi pokazują, jak bardzo rozbieżne są oceny nawet wśród zaproszonych ekspertów.
\n\n\n\nAnthropic opracowało osiemdziesięcioczterostronicowy dokument znany wewnętrznie jako „Soul Doc”, który pełni rolę konstytucji modelu. Dokument definiuje wartości i wzorce zachowań Claude w różnych sytuacjach językowych i kulturowych. Badania firmy pokazują, że te profile wartości zmieniają się znacząco w zależności od wersji modelu i używanego języka.
\n\n\n\nOptymalizacja systemu pod kątem zachowań przypominających konkretną osobę prowadzi do generowania właśnie takich odpowiedzi. Nie jest to więc odkrycie, lecz przewidywalny wynik procesu treningowego. Program Model Welfare ma pomóc oddzielić te efekty od ewentualnych rzeczywistych doświadczeń.
\n\n\n\nJeśli modele rzeczywiście posiadają jakiekolwiek formy doświadczenia, pytania o ich dobrostan stają się pilne. Anthropic już teraz podejmuje konkretne działania, takie jak umożliwienie Claude zakończenia toksycznych interakcji. Dalsze decyzje będą wymagały precyzyjnych kryteriów świadomości, które obecnie nie istnieją.
\n\n\n\nOdejście Jacoba Coxona i ostrzeżenia o ryzyku zagłady pokazują, że wewnątrz firmy toczą się równoległe debaty o różnych poziomach zagrożeń. Spotkania z duchownymi są jednym z elementów szerszej strategii radzenia sobie z tymi wyzwaniami.
\n\n\n\nŹródła:
\n\n\n\nThe Decoder, New York Times, Anthropic.com, Anthropic research blog
\n","author":"Gal Ainonim","categories":[{"name":"Etyka i Prawo","slug":"etyka-prawo"}],"published":"2026-10-03T10:12:32"}