Trzej młodzi mężczyźni wyruszyli na Mount Shasta z planem stworzonym przez Google Gemini. Zamiast wrócić przed południem, dotarli na szczyt o siódmej wieczorem i musieli wezwać pomoc.
Szczegóły interwencji ratunkowej
Biuro szeryfa hrabstwa Siskiyou podało, że trzech młodych mężczyzn wyruszyło na Mount Shasta o trzeciej nad ranem. Zgodnie z ogólnymi zaleceniami powinni zawrócić, jeśli nie osiągną szczytu przed południem, lecz dotarli na wierzchołek dopiero o siódmej wieczorem. Zbyt mała ilość jedzenia i wody spowodowała, że musieli wezwać pomoc.
Raport wskazuje, że turyści korzystali wyłącznie z planu wygenerowanego przez Gemini. Warunki na górze okazały się trudniejsze, niż przewidywano, a brak zapasów przyspieszył decyzję o wezwaniu ratowników. Służby dotarły do nich jeszcze tego samego wieczoru.
Jak Gemini przygotowało plan wyprawy
Chatbot zasugerował start o wczesnej porze i podał listę niezbędnego ekwipunku. Niestety rekomendacje dotyczące ilości prowiantu okazały się niedoszacowane dla trzyosobowej grupy. Zalecenia Gemini były zbyt optymistyczne i nie uwzględniały typowych opóźnień na szlaku.
Turyści nie skonsultowali planu z żadnym innym źródłem ani nie sprawdzili aktualnych warunków pogodowych. To połączenie braku doświadczenia i ślepego zaufania do sztucznej inteligencji doprowadziło do sytuacji kryzysowej. Wypadek pokazuje, że modele językowe wciąż mają problemy z praktycznymi scenariuszami terenowymi.
Ograniczenia AI w planowaniu terenowym
Modele takie jak Gemini opierają się na danych treningowych, które nie zawsze odzwierciedlają realne zmienne terenowe. W przypadku Mount Shasta kluczowe są godziny szczytu oraz zapasy na wypadek opóźnień. Brak aktualnych danych terenowych ogranicza skuteczność takich porad.
Użytkownicy często traktują odpowiedzi AI jako gotowe rozwiązania zamiast wskazówek wymagających weryfikacji. Wypadek na Shasta przypomina, że nawet zaawansowane systemy nie zastępują doświadczenia lokalnych przewodników czy oficjalnych zaleceń parków narodowych.
Reakcje Google i przyszłe poprawki
Firma nie skomentowała jeszcze tego konkretnego przypadku, lecz podobne incydenty już wcześniej pojawiały się w raportach użytkowników. Google pracuje nad mechanizmami ostrzegającymi przed ryzykownymi rekomendacjami w aplikacjach do aktywności outdoorowych. Integracja z mapami może w przyszłości zmniejszyć ryzyko błędnych planów.
Eksperci podkreślają potrzebę dodawania wyraźnych zastrzeżeń prawnych przy tematach dotyczących bezpieczeństwa. Bez takich zmian użytkownicy będą nadal narażeni na podobne problemy przy planowaniu wypraw.
Porównanie z innymi narzędziami AI
Podobne błędy zgłaszano również przy korzystaniu z ChatGPT czy Claude w kontekście podróży i aktywności fizycznych. Żaden z modeli nie posiada wbudowanego mechanizmu weryfikacji warunków terenowych w czasie rzeczywistym. Wszystkie duże modele językowe mają ten sam problem z praktycznymi rekomendacjami wykraczającymi poza dane treningowe.
Rozwiązaniem może być łączenie AI z dedykowanymi aplikacjami pogodowymi i mapami satelitarnymi. Turyści powinni traktować chatboty jako wsparcie, a nie główne źródło planowania wypraw.
Wnioski dla użytkowników AI
Incydent na Mount Shasta powinien skłonić do większej ostrożności przy korzystaniu z Gemini w kwestiach bezpieczeństwa. Zawsze warto sprawdzić plan w kilku niezależnych źródłach przed wyruszeniem w teren. Podwójna weryfikacja pozostaje najlepszą praktyką.
W miarę rozwoju modeli rośnie też odpowiedzialność firm za jasne komunikowanie ograniczeń. Użytkownicy muszą pamiętać, że sztuczna inteligencja nie zastępuje zdrowego rozsądku ani lokalnej wiedzy o warunkach.
Źródła:
TechCrunch, Chicago Tribune, Siskiyou County sheriff’s office