OpenAI inicjuje program Rosalind Biodefense i przekazuje model GPT-Rosalind wybranym podmiotom. Celem jest przyspieszenie prac nad wykrywaniem zagrożeń biologicznych oraz przygotowanie na kolejne pandemie.
Dlaczego OpenAI decyduje się na taki krok?
OpenAI od miesięcy ostrzega przed ryzykiem związanym z wykorzystaniem modeli do tworzenia broni biologicznej. GPT-Rosalind powstał właśnie po to, by wspierać badania nad molekułami i genami. Program ma zapewnić dostęp do narzędzia tym, którzy pracują nad obroną, a nie atakiem. Decyzja wynika z rozmów z laboratoriami i instytucjami publicznymi na całym świecie. OpenAI pokrywa koszty dostępu dla zweryfikowanych uczestników.
Co potrafi model GPT-Rosalind?
Model radzi sobie lepiej niż standardowe wersje GPT przy analizie białek, genów i chorób. Potrafi łączyć dane z literatury z symulacjami biologicznymi. Dzięki temu badacze mogą szybciej przechodzić od hipotezy do eksperymentu. Partnerzy z Lawrence Livermore już testują narzędzie w projektach obronnych. Wczesne wyniki wskazują na skrócenie czasu potrzebnego na projektowanie protokołów.
Kto już korzysta z programu?
Do programu dołączyły laboratoria Lawrence Livermore oraz Johns Hopkins Applied Physics Laboratory. Inicjatywa CEPI, zajmująca się szczepionkami, również otrzymała dostęp. Firmy Fourth Eon i SecureDNA używają modelu do przesiewowego badania (screeningu) DNA. Celem jest stworzenie systemów wczesnego ostrzegania przed zagrożeniami biologicznymi. OpenAI weryfikuje każdy zespół pod kątem realizacji celów publicznych.
Jak wygląda proces aplikowania?
Zespół musi wykazać jasny cel związany z obroną lub przygotowaniem na pandemie. OpenAI wymaga opisu projektu i dowodów na to, że wyniki będą dostępne publicznie. Aplikować mogą zespoły akademickie non-profit oraz małe i średnie grupy rządowe. Proces ma ograniczyć ryzyko nadużyć. Wybrane projekty otrzymują wsparcie techniczne i finansowanie dostępu.
Ryzyka i środki bezpieczeństwa
OpenAI podkreśla, że model nie jest przeznaczony do prac ofensywnych. W USA trwają dyskusje nad obowiązkowymi przeglądami modeli biologicznych. Program ma być częścią szerszych działań na rzecz bezpieczeństwa AI. Krytycy pytają, czy udostępnianie modelu nie zwiększa ryzyka wycieku wiedzy. OpenAI odpowiada, że kontrola dostępu i weryfikacja partnerów minimalizują zagrożenie.
Co to oznacza dla przyszłości badań biologicznych?
Dostęp do zaawansowanego modelu może przyspieszyć prace nad nowymi metodami diagnostycznymi i terapiami. Podobne inicjatywy rozważa też konkurencja. Kluczowe będzie jednak to, czy rezultaty badań rzeczywiście trafią do praktyki publicznej. OpenAI zapowiada kolejne rundy naboru w nadchodzących miesiącach. Sukces programu zależy od tego, jak szybko partnerzy wdrożą wyniki w realnych systemach.
Źródła:
The Decoder, OpenAI blog, The Verge, Ars Technica