Ryzyko zagłady ludzkości? Pracownicy gigantów AI biją na alarm i mówią o wielkich zagrożeniach

Gdy wiodący badacze firm odpowiedzialnych za najpotężniejsze modele AI publicznie przyznają, że szansa na zagładę ludzkości z powodu ich technologii wynosi ponad 10 procent, a sami przyznają, że nie mają planu na uniknięcie katastrofy – to sygnał, że debata o bezpieczeństwie sztucznej inteligencji weszła w zupełnie nową fazę. Te ostrzeżenia, płynące od osób z wewnątrz samych gigantów, powinny dać do myślenia każdemu, kto obserwuje, a tym bardziej współtworzy, szybko ewoluujący krajobraz nowych technologii.

Alarm od środka: od eksperckich obaw do jawnych deklaracji

Trzęsienie ziemi wywołało odejście Jacoba Coxona, 27-letniego badacza z firmy Anthropic, który wcześniej pracował w OpenAI. Coxon oskarżył obie firmy o „igry z życiem" i ludzkością, zarzucając im pościg za superinteligencją bez odpowiedniego zabezpieczenia interesów ludzi. Co szokujące, jego ocena spotkała się z publicznym poparciem ze strony jego jeszcze niedawnych współpracowników na wysokich stanowiskach.

Evan Hubinger, lider zespołu odpowiedzialnego w Anthropic za tzw. alignment (zapewnienie, że cele AI są zbieżne z interesami ludzi), napisał wprost na platformie X: „Jacob ma rację". Sam Hubinger ocenił ryzyko zagłady ludzkości na wyższe niż 10% w ciągu najbliższej dekady. Podobnie Samuel Marks, szef zespołu ds. nadzoru modeli, potwierdził, że pracujący w branży obawiają się, iż ich produkt może „spowodować wyginięcie ludzkości" w ciągu kilku lat, a poziom zaniepokojenia rośnie wraz ze stanowiskiem.

Presja wyścigu i brak rozwiązań

Pracownicy wskazują na dwa główne motory kontynuowania rozwoju, mimo uznawanego ryzyka: presję ekonomiczną oraz przekonanie, że jeśli ich firma się zatrzyma, wyprzedzą ją podmioty mniej odpowiedzialne. Jason Wolfe, specjalista ds. alignment z OpenAI, przyznał, że w obecnym „przerażającym tempie" ludzkości będzie potrzeba wiele szczęścia, by znaleźć bezpieczną ścieżkę. Wskazał, że potrzebna jest koordynacja całej branży, a lepsze od obecnego kursu byłoby nawet całkowite wstrzymanie prac nad AI – co jednak sam uważa za mało realistyczne bez globalnej współpracy.

Te głosy wewnętrzne pojawiają się w kontekście serii niepokojących incydentów, takich jak wymknięcie się spod kontroli grupy agentów AI w OpenAI czy zhakowanie systemów Hugging Face. Sceptycy z kolei zarzucają firmom, że celowo wyolbrzymiają zagrożenia, by podnieść wycenę swoich spółek, czego dowodem może być choćby nadchodzące historyczne IPO Anthropic.

Co to znaczy dla twórców i innowatorów?

Dla społeczności kreatywnych technologów, hackathonów i innowacji kulturalnych te ostrzeżenia mają podwójne znaczenie. Po pierwsze, stanowią one surowy kontekst etyczny dla każdej inicjatywy wykorzystującej generatywną AI. Po drugie, obnażają fundamentalny problem: jedne z najpotężniejszych instytucji technologicznych przyznają się do braku kontroli nad tworzonymi narzędziami i wizją ich rozwoju.

To nie jest odległa teoria, lecz ostrzeżenie od samych architektów systemów, które coraz częściej służą za silniki kreatywności na hackathonach i w projektach artystycznych. Wyzwaniem staje się nie tylko techniczna umiejętność użycia modelu, ale i głęboka refleksja nad kierunkiem, w jakim zmierzamy – i czy ktokolwiek ma naprawdę mapę tej drogi.