10% szans, że AI zniszczy świat? Ta panika to polityczna ustawka!

Sto sześćdziesiąt trzy miliony wyświetleń wykręcił jeden wpis na X byłego pracownika Anthropic, który twierdzi, że firmy budujące sztuczną inteligencję nas zniszczą. Wszystkich, bez wyjątku. Internet się trzęsie ze strachu, a jeśli żyjecie tylko w mediach społecznościowych, to można pomyśleć, że Terminator za chwilę wyjdzie z serwerowni i zacznie strzelać do każdego, kto nie dziękował za odpowiedź, jaką dał GPT.

Okej, możesz się bać, rozumiem to w sumie. Dlatego jest Cymcol. Cymcol, który wyjaśni, dlaczego cały ten medialnie napędzany strach przed AI jest… nic nie warty, bo każda historia ma drugie dno, a w tym wypadku nawet i trzecie.

Pociągniemy sobie za wszystkie sznurki tego. Pokażę wam, kto sfinansował to wszystko jeszcze w sierpniu, kto podał nitkę dalej w pierwszych minutach i czemu byli to ludzie, którzy ze straszenia sztuczną inteligencją zrobili sobie karierę zawodową.

Anthropic, Sam Altman i Elon Musk, czyli ludzie, którzy tę „śmiertelnie niebezpieczną” technologię budują najszybciej, nagle chórem domagają się regulacji AI. Dla dobra nas wszystkich. Dupa tam. Dla swojego dobra, żeby podnieść bariery wejścia do branży. Ot cała tajemnica.

Szczęśliwie po drugiej stronie też jest silny obóz, który zamiast pisać nowe posty o panice, po prostu robi swoje. Jensen Huang, Mark Zuckerberg, David Sacks i…. Biały Dom.

10% szans, że AI zniszczy świat? Ta panika to polityczna ustawka!

Zanim wejdziemy w chronologię, jedno zastrzeżenie, żeby nikt nie wyszedł stąd z błędnym wnioskiem. Nie twierdzę, że bezpieczeństwo AI to temat wyssany z palca. Poważni ludzie mają poważne pytania i dobrze, że je zadają. Twierdzę jedynie, że to, co obserwowaliście w ostatnim tygodniu, to nie była żadna debata o bezpieczeństwie AI, tylko operacja polityczna, którą potem jeszcze wykorzystano, próbując lobbować za podniesieniem barier wejścia na rynek przez obecny rynkowy oligopol.

Dziewiątego września Jacob Coxon opublikował na platformie X serię postów, w których oznajmił, że rezygnuje z pracy w Anthropic. Napisał, że przez ostatnie trzy lata pracował przy pre-trainingu, czyli procesie uczenia dużych modeli językowych od podstaw, zarówno w OpenAI, jak i w Anthropic. I że żadna z tych firm nie postępuje odpowiedzialnie. Jego zdaniem obie firmy pędzą do stworzenia samodoskonalącej się superinteligencji i ryzykują naszym życiem.

Twierdzi, że systemy AI wkrótce będą w stanie zhakować cokolwiek, zrewolucjonizować każdą dziedzinę z dnia na dzień i zdobyć realną władzę i zasoby. Dodał, że ludzie budujący AI szczerze wierzą, że ta technologia może zabić wszystkich do końca tej dekady i że żadna inna ludzka aktywność nie stwarza takiego poziomu zagrożenia.

Nitka zebrała 163 miliony wyświetleń. Napisał o niej Wall Street Journal, TIME, Newsweek, Associated Press. Wszyscy święci z mediów. Na samą nitkę odpowiedziała masa amerykańskich polityków, w tym Bernie Sanders, od zawsze żądający przede wszystkim BANA na AI. Brzmi poważnie, prawda? No skoro sam pracownik z czołowej firmy AI mówi coś takiego, to przecież musi wiedzieć najlepiej. W końcu wie to u źródła. Tym bardziej, że jego wpis udostępniali też inni pracownicy Anthropica, twierdząc, że w sumie… ma rację!

To zbiło sporo osób z tropu. Jak to? Firma pozwala swoim ludziom mówić publicznie, że jej produkt może zabić wszystkich? Otóż pozwala, bo to jest dokładnie jej model biznesowy. Anthropic od dnia założenia sprzedaje się jako „ten odpowiedzialny lab”. Odeszli z OpenAI w imię bezpieczeństwa, ograniczali dostęp do Mythosa, bo „zbyt niebezpieczny”, komunikują dziesięć procent szans na zagładę całej ludzkości. Pracownik, który mówi „boję się tego, co budujemy”, nie podważa marki Anthropica, tylko ją wzmacnia.

To tak, jakby pracownik Volvo mówił publicznie, że samochody są śmiertelnie niebezpieczne. Nie szkodzi Volvo, ale ma szkodzić konkurencji, która nie jest utożsamiana z „bezpieczne”.

Strach przed AI to dla Anthropica nie zagrożenie reputacyjne, tylko darmowa kampania reklamowa. Mówiłem o tym mechanizmie w materiale o AI i bezrobociu: kiedy firma opowiada o niebezpieczeństwie własnego produktu.

Pociągnijmy za kilka sznurków, żeby dojść po nitce do kłębka całej tej opowieści, bo każda historia ma drugie dno, które większość mediów wygodnie pomija. Wtedy klikałoby się gorzej.

Zacznijmy od samego Coxona, czyli autora tej viralowej nitki na X. Robi się ciekawie, kiedy tylko spojrzeć na jego staż w samym Anthropic. Pracował tam… kilka tygodni. Nie lat, ale tygodni. Odszedł i natychmiast rozkręcił medialny event na skalę globalną. Malutki robaczek, a taki zwinny.

Ciekawostka, Wall Street Journal opublikował ekskluzywny materiał o odejściu Coxona zaledwie… osiemnaście minut PRZED tym, zanim w ogóle opublikował swoją nitkę na X. Osiemnaście minut. Dziennikarz WSJ miał gotowy tekst, umówione embargo na publikację i niestety puścił za szybko, a może on puścił okej, ale Coxon za późno. Nie dowiemy się.

Nie jest to w każdym razie sytuacja, w której facet o trzeciej w nocy nie mógł spać, usiadł do komputera i wylał swoje żale na X, a świat się o tym dowiedział i nadał sprawie ton. Ktoś przygotował całą prasę przed tą publikacją. Tak wygląda definicja skoordynowanej akcji medialnej.

Co takiego Coxon chce robić po odejściu z Anthropic? W wywiadzie dla TIME powiedział, że inspiruje go AI Futures Project i że chciałby wykonywać pracę w tym duchu. Zapamiętajcie tę nazwę. AI Futures Project. Za chwilę się okaże, dlaczego to ważne.

Może ja się czepiam i to po prostu ambitny badacz, który postanowił zatrząść systemem? Może. Tylko że chronologia zdarzeń podpowiada inną wersję wydarzeń.

Pod koniec sierpnia tego roku, a więc jeszcze PRZED Coxonem, ruszyła inicjatywa nazywana AI Pact. Organizuje ją Political Integrity Project, a finansuje progresywny komitet akcji politycznej powiązany z lewicą.

W Stanach taki komitet nazywa się PAC, od Political Action Committee, i służy do zbierania pieniędzy na kampanie polityczne. W ramach AI Pact kandydaci do Kongresu podpisują zobowiązania dotyczące regulacji prawnej sztucznej inteligencji. Obowiązkowe przeglądy bezpieczeństwa modeli, ograniczenia dla centrów danych, udział pracowników w zyskach z AI, odpowiedzialność prawna firm za szkody. Na starcie pod tymi inicjatywami podpisało się ponad trzydziestu kandydatów, z czego poza dwoma niezależnymi wszyscy byli z Partii Demokratycznej.

Czyli już dwa miesiące temu nasiliła się inicjatywa wyborcza polityków lewicowych, którzy chcą na ograniczaniu AI budować swoje poparcie polityczne. Formalna infrastruktura wyborcza pod hasłem „AI to zagrożenie” istniała, zanim Coxon napisał choćby jedno słowo.

Trzeciego września, pięć dni przed odejściem Coxona z Anthropic, senator Bernie Sanders i kongresmen Greg Casar ogłaszają Ban Artificial Superintelligence Act. To propozycja ustawy, która miałaby potencjalnie zakazać budowy superinteligencji i czasowo wstrzymać rozwój najbardziej zaawansowanych systemów AI. Jednocześnie ustawa wprowadza ostre sankcje na branżę AI. Hmmm, czyli Bernie Sanders, polityk amerykańskiej lewicy, już wcześniej zaczął mocno grać na strachu przed AI.

W komunikacie prasowym Sandersa i jego współpracowników jest pełno fraz o „AI oligarchs”, czyli oligarchach sztucznej inteligencji, o katastrofalnych konsekwencjach i zagrożeniu dla przyszłości ludzkości. Mają gotowy produkt legislacyjny, ustawę. Mają gotową narrację, AI złe. Brakowało jednego. Wiarygodnej twarzy, frontmena. Insidera, który powie: „ja tam pracowałem i potwierdzam, że to prawda. AI złe”.

Pięć dni po ogłoszeniu projektu tej ustawy Coxon odchodzi z Anthropic. WSJ ma gotowy artykuł, a niby spontaniczna nitka ląduje na X. Raptem w ciągu kilkunastu minut nitkę podchwytują Daniel Kokotajlo z AI Futures Project, Nathan Calvin z Encode AI i Peter Wildeford z AI Policy Network. Wszyscy podają ją dalej i pomagają jej wykręcić te szalone zasięgi. To nie są przypadkowi użytkownicy X.com, którzy akurat przeglądali apkę. To ludzie z profesjonalnych organizacji zajmujących się polityką wobec AI. Kolejny sygnał, że to wszystko zorganizowana akcja. Pierwsza fala rozkręcania zasięgów tej nitki nie pochodziła od zwykłych internautów. Pochodziła ze środowiska, które ze straszenia sztuczną inteligencją zrobiło sobie pracę. Kilka godzin później reagują politycy. Kongresmen Pat Ryan napisał wprost, cytuję:

„W listopadzie musimy wybrać liderów, którzy będą gotowi przeciwstawić się oligarchom AI.”

Potem dodał, że „Trump chce pozwolić miliarderom kierować krajem, my ich powstrzymamy”. Sam Bernie Sanders napisał, że „Mr. Coxon is right”, po czym natychmiast przeszedł do promocji swojej ustawy zakazującej superinteligencji.

To wszystko politycy związani z jedną stroną barykady politycznej w USA. Złóżmy to wszystko razem. Demokraci nie przeczytali nieznanego wcześniej argumentu i dopiero zaczęli się zastanawiać, co z tym zrobić. Mieli ustawy gotowe. Narrację skrojoną. Infrastrukturę wyborczą uruchomioną. Gotowe artykuły w mediach. Coxon dostarczył im brakujący element, twarz z branży, która ma uwiarygadniać cały przekaz.

Dlaczego akurat teraz strach przed AI jest Demokratom tak potrzebny? W listopadzie są wybory do Kongresu. Demokraci potrzebują tematu, który połączy bardzo różne lęki jednym wrogiem. Sanders buduje tę konstrukcję od miesięcy. W marcu przedstawił swój sprzeciw wobec centrów danych, argumentując, że garstka bilionerów z Big Tech nie może decydować o przyszłości ludzkości. Potem jeszcze zaproponował, żeby społeczeństwo posiadało pięćdziesiąt procent udziałów w największych firmach AI przez specjalny fundusz państwowy.

Nic innego, jak budowanie osi wyborczej. Trump, AI i Big Tech źli, Demokraci i regulacje dobre, a sondaże pokazują, dlaczego ta kalkulacja jest politycznie logiczna. Według Pew Research Center z czerwca tego roku 52% Amerykanów jest bardziej zaniepokojonych niż podekscytowanych rozwojem AI.

71% uważa, że AI w ciągu dwóch dekad zmniejszy liczbę miejsc pracy, w porównaniu do 64% dwa lata wcześniej.

Według Economist i YouGov 65% Amerykanów uważa, że AI rozwija się za szybko, i to zarówno wśród wyborców Demokratów, jak i Republikanów. Do tego aż 22% wierzy w skrajny scenariusz, że stworzenie superinteligencji oznacza śmierć nas wszystkich. Powtórzę to. Więcej niż co piąty Amerykanin wierzy, że AI doprowadzi do zagłady ludzkości…. xD.

Apokaliptyczny alarm Coxona o końcu ludzkości sam w sobie jest co prawda zbyt radykalny, żeby stać się sloganem wyborczym, ale jako nagłówek działa perfekcyjnie. Przyciąga uwagę i wzbudza emocje. Natomiast polityk może go wziąć i przenieść uwagę odbiorcy na bardziej przyziemne obawy, jak utrata pracy, rosnące rachunki za prąd od centrów danych, korporacyjna bezkarność wielkich firm, koncentracja bogactwa w rękach kilku osób i tak dalej.

Czyli mamy klasyczną konstrukcję znaną z mediów. Silna hiperbola, przesadzona narracja, która ściąga uwagę dosłownie wszystkich, a potem stopniowe przeniesienie uwagi na kwestie bardziej merytoryczne, przynajmniej pozornie, i karmienie ludzi bardziej przyziemnymi obawami oraz przekonywanie ich do „właściwego” wyboru przy urnach w listopadzie.

Biorąc pod uwagę, jak ustawiona jest druga strona polityczna, Demokraci faktycznie muszą grać na strach przed AI. Oficjalny plan obecnej administracji wobec sztucznej inteligencji nazywa się America's AI Action Plan i stawia za cel zwycięstwo w wyścigu AI, globalną dominację USA, przyspieszenie innowacji i usuwanie regulacji. Nie będę ukrywał, że ta droga w tym wypadku jest mi bliższa. Nawet nie dlatego, że chcę zagłady ludzkości, ale dlatego, że na przykład takie Chiny i tak nie zaczną zwalniać swojego postępu w AI. Wolę, żeby to jednak Zachód wygrał.

Tak, bardziej boję się dominacji Chin w świecie AI niż scenariusza z Terminatora. Powód jest prosty. Moje IQ nie jest jednocyfrowe, w przeciwieństwie do osób, które w scenariusz Terminatora naprawdę wierzą.

Zresztą spójrzcie na argumenty Coxona, bo niezależnie od politycznego kontekstu krążą po Internecie i ludzie je powtarzają.

Coxon pisze, że ludzie budujący AI szczerze wierzą, że może nas wszystkich zabić do końca dekady. Część badaczy może rzeczywiście mieć jakieś tam obawy, ale stwierdzenie, że „wszyscy wierzą, że nas zabije”, to karykatura. I jeszcze kolejne stwierdzenie: „do końca dekady”? Czyli za 4 lata? Jeśli tak, to po co mieliby rozwijać tę technologię, wierząc, że ich naprawdę zabije.

Myślę, że naszłaby ich już jakaś refleksja. Może jakby zabiła za 40… ale 4? To trochę wbrew instynktom samozachowawczym. Powinni wręcz wszyscy zacząć sabotować prace tych firm od środka.

Anthropic buduje swój marketing na strachu od dłuższego czasu. Warto o tym pamiętać.

W końcu sam Anthropic widzi 10% szans na scenariusz, gdzie, uwaga, cytuję: „we really do earnestly believe AI could kill all humans”, czyli naprawdę wierzymy, że AI może zabić wszystkich ludzi. Dla bezpieczeństwa potrzeba więc… REGULACJI!

Pod hasłem regulacji ustawili się ludzie, którzy w normalnych warunkach nie usiedliby przy jednym stole. Dario Amodei z Anthropica, Sam Altman, który podbił temat, i Elon Musk, czyli człowiek, który jednocześnie pozywa OpenAI i buduje xAI. Trzej rywale, którzy walczą o te same talenty, tych samych klientów i te same chipy, nagle zgodnie: „potrzebujemy regulacji”. Zastanówcie się przez chwilę, kiedy ostatni raz liderzy jakiejś branży PROSILI państwo, żeby ich uregulowało. Odpowiedź: zawsze wtedy, gdy regulacja uderza mocniej w tych, którzy dopiero chcą wejść, niż w tych, którzy już siedzą w środku.

Koszt regulacyjny to koszt STAŁY, a koszty stałe zawsze faworyzują skalę. Obowiązkowe przeglądy bezpieczeństwa modeli, licencje, audyty, odpowiedzialność prawna. Dla firmy z pięcioma tysiącami pracowników i bilionową wyceną to kilkadziesiąt etatów w dziale compliance. Dla trzyosobowego startupu, który chce zrobić coś lepiej i taniej, to ściana nie do przebicia.

Dla modeli open source, które można pobrać za darmo i uruchomić na własnym serwerze, to potencjalny wyrok śmierci, bo kto ma odpowiadać prawnie za model, który ma pół miliona kopii na świecie?

Każdy z tej trójki ma dodatkowo własny powód. Amodei buduje IPO na marce „odpowiedzialny lab”, więc regulacja jest dla niego certyfikatem jakości wystawionym przez państwo. Altman chce, żeby zasady pisano Z OpenAI, a nie PRZECIW niemu.

Musk, który jest na razie w tyle, chce spowolnić tych z przodu. To nie jest żadna troska o ludzkość, ale próba zbudowania kartelu z państwową pieczątką. Nic w tym oburzającego. Każdy gra na siebie. Oburzające jest tylko to, że sprzedaje się to Wam jako ratowanie świata.

Szczęśliwie po drugiej stronie stanęli ludzie, których trudno oskarżyć o to, że AI nie rozumieją. David Sacks, wcześniej odpowiedzialny w Białym Domu za politykę wobec AI, który już w zeszłym roku nazwał strategię Anthropica „wyrafinowaną próbą regulacyjnego przejęcia rynku opartą na sianiu strachu” i mówił wprost o „kompleksie przemysłowym AI-safety”, finansowanym przez tych samych miliarderów, którzy potem podpisują się pod zakazami. Teraz mówi po prostu, że jak tak bardzo Dario chce zwolnić rozwój AI, to niech zacznie od siebie.

Mark Zuckerberg, który twierdzi, że to lab jest odpowiedzialny za bezpieczeństwo produktu, więc jak nie jest bezpieczny, to niech go nie wypuszczają i po sprawie. Meta jest największym na świecie dostawcą modeli open source. Każda regulacja typu „licencja na model” uderza najmocniej właśnie w otwarte modele. Zuckerberg od dwóch lat powtarza, że zamknięte laby lobbują za regulacjami nie z troski o bezpieczeństwo, tylko po to, żeby zabić darmową konkurencję i jest to jedyna teza w tym sporze, w której interes Zuckerberga i interes zwykłego użytkownika są dokładnie zbieżne.

I wreszcie sam Trump, którego stanowisko jest najprostsze. Wygrać w AI, usuwać bariery, budować. Nie dlatego, że administracja nie widzi ryzyk, ale dlatego, że widzi, że Chiny i tak nie zwolnią. Regulacja, która spowolni Zachód, nie spowolni świata — przesunie tylko ośrodek władzy nad tą technologią o dziesięć tysięcy kilometrów na wschód. Trzy różne osoby, trzy różne interesy, jedna odpowiedź: mniej gadania, więcej budowania.

A najlepiej zgasił to wszystko Jensen Huang, szef Nvidii. Zapytany o dziesięć procent szans na wyginięcie ludzkości odpowiedział krótko: nie powinniśmy o tym nawet rozmawiać, bo to zmyślona cyferka. Nie stoi za nią żadna nauka ani badanie, rzucili ją sobie ludzie z labów, którzy doskonale wiedzą, że takie słowa robią wrażenie. I od razu przypomniał listę wcześniejszych proroctw tej samej branży: za pięć lat zniknie ostatni radiolog – radiologów potrzebujemy dziś więcej niż kiedykolwiek. Za pół roku 90% kodu będzie pisać AI – nie pisze. GPT-2 i Llama 3 są zbyt niebezpieczne, żeby je wypuścić – wypuszczono, świat stoi.

Na koniec zadał pytanie, które jest właściwie puentą całego dzisiejszego materiału: czy kiedykolwiek w historii tylu ludzi tak żarliwie powtarzało coś, co da się tak łatwo obalić faktami? Bo jeśli koniec ludzkości naprawdę byłby na wyciągnięcie ręki, logiczna reakcja jest jedna, bierzesz się do roboty i coś z tym robisz. W Chinach nikt nie opowiada o końcu cywilizacji; tam AI to po prostu technologia, która ma pchnąć gospodarkę do przodu. Teatr zagłady to specjalność Zachodu, bo tylko w demokracji straszenie wygrywa wybory.

Z całej tej układanki płynie jeden inwestycyjny paradoks, który warto zapamiętać. Jeśli doomerzy WYGRAJĄ, jeśli przejdą licencje, przeglądy, ograniczenia, to największymi beneficjentami tych regulacji będą dokładnie te firmy, przed którymi doomerzy ostrzegają: Anthropic, OpenAI, giganci ze skalą i działami compliance. Bariera wejścia to fosa, a fosa to wyższa wycena. Jeśli doomerzy przegrają, to wyścig trwa, buduje się dalej, wygrywają ci sami plus open source i cały łańcuch od Nvidii po elektryków w kaskach. Nie sprzedawajcie na strachu, który ma datę ważności do listopada, gdy będą wybory.

I to jest właściwie gotowa instrukcja, jak podejść do AI w portfelu w roku wyborczym. Nie zgadywać, kto wygra, tylko mieć ekspozycję na cały łańcuch, który wygrywa w obu scenariuszach, od Nvidii, przez Big Tech, po infrastrukturę. Problem małego portfela jest jeden, pojedyncza akcja Nvidii czy Mety kosztuje tyle, co miesięczna dopłata do portfela.

Do zarobienia,
Piotr Cymcyk