Może zwolnimy?

Anthropic Institute (Marina Favaro, Jack Clark), początek czerwca — „Uważamy, że dobrze byłoby dla świata mieć opcję spowolnienia lub tymczasowego wstrzymania rozwoju czołowych modeli AI, aby struktury społeczne i badania nad alignmentem nadążyły za technologią.” [źródło]

List pracowników czołowych labów „Pacing the Frontier”, 28 lipca (dziś 1 386 podpisów, w tym Amodei, Kaplan, Clark, Pachocki) — „Prosimy rząd USA o wsparcie międzynarodowego wysiłku na rzecz stworzenia narzędzi technicznych i regulacyjnych potrzebnych do świadomego dozowania tempa zautomatyzowanego rozwoju AI w czołowych laboratoriach.” [źródło]

OpenAI, 18 sierpnia — „dwutygodniowa pauza w treningu RL naszych najnowszych modeli przeznaczonych do wdrożenia… Nasz największy planowany run RL pozostaje wstrzymany.” [źródło] Sam Altman: „Wstrzymaliśmy część treningu RL naszych czołowych modeli, żeby sprostać odpowiednim standardom alignmentu, bezpieczeństwa i monitoringu dla nowego poziomu możliwości, który mamy przed sobą.” [źródło]

Sam Altman, podcast Davida Senry, 23 sierpnia — „Wszyscy byliśmy zbyt ambitni, jeśli chodzi o harmonogramy… Społeczeństwo i gospodarka będą się adaptować wolniej. Jestem za to wdzięczny.” [źródło]

Jakub Pachocki, główny naukowiec OpenAI, esej „An Alien Mind”, 6 września — „Uważam, że żadne laboratorium nie rozwiązało problemu alignmentu i monitoringu w stopniu wystarczającym, by dalej odpowiedzialnie skalować z maksymalną prędkością przez dużo dłużej… Oczekuję i mam nadzieję, że dobrowolne spowolnienia staną się normą, dopóki nie ustalimy wspólnych progów bezpieczeństwa.” [źródło]

Sam Altman, X, 8 września (dzień ogłoszenia wyniku dla równań Naviera–Stokesa) — „Dużo mówiliśmy o potrzebie dozowania tempa postępu ze względu na bezpieczeństwo; dla mnie to najmocniejszy jak dotąd dowód, że sprawa jest pilna.” [źródło]

Dario Amodei, esej „We Must Pace the Frontier”, 12 września — „Musimy spowolnić tempo, w jakim zwiększamy możliwości modeli AI. Postęp i tak będzie wydawał się szybki, a zyskany czas musimy mądrze wykorzystać.” Oraz: „Dozowanie tempa nie oznacza wstrzymania treningu modeli ani postępu technicznego.” [źródło]

Reakcje w 48 godzin — Altman: „Zgadzam się z Dario, że czołowe laby muszą dozować tempo” [źródło]; IPO OpenAI „nie w 2026” [źródło]. Musk: „Dario ma rację.” [źródło] Hassabis: „kierunek jest właściwy, szczegóły wymagają dopracowania” [źródło]. Nadella: „świadome dozowanie tempa potrzebne, by dobrze zrobić alignment” [źródło].

Bernie Sanders, list do Altmana, Amodeia i Zuckerberga, 10 sierpnia — „Wstrzymajcie rozwój AI. Nie jest za późno, by uniknąć katastrofy. Przestańcie budować maszyny, których ludzie nie potrafią kontrolować… Jeśli nie podejmiecie teraz odpowiednich działań, zrobimy to ja i moi koledzy w Senacie.” [źródło]

Sanders + Greg Casar, projekt „Ban Artificial Superintelligence Act”, 3 września — trwały zakaz rozwoju i wdrażania systemów dorównujących ludzkim zdolnościom poznawczym lub je przewyższających; do 20 lat więzienia (kara wzorowana na nielegalnej budowie broni jądrowej) plus „kara śmierci” dla korporacji; pauza w rozwoju zaawansowanej AI do czasu powołania regulatora rangi ministerialnej. [źródło]

Również, ten sam Elon Musk, 14 września — Grok 4.7 powinien być mniej więcej na równi z Opus 5.0, nie 5.1. Lepszy w niektórych aspektach, gorszy w innych. Musimy poprawić wydajność multimodalną. Grok 4.8 będzie zauważalną poprawą. Grok 4.9 to prawdopodobnie klasa Astra/Fable. Grok 5 może być lepszy niż cokolwiek innego. Zobaczymy. [źródło]

Dlaczego to „niemożliwe”: Najprościej — tego nie da się wyegzekwować.

Nie ma jak sprawdzić, czy ktoś naprawdę zwolnił. Anthropic sam to napisał w czerwcu: „Runy treningowe znacznie łatwiej ukryć niż silosy rakietowe. Ich składniki są uniwersalne, a pokusa, żeby po cichu się wyłamać, jest ogromna”. Porównuje to do traktatu INF, którego system weryfikacji budowano dekadami, i dodaje: „nie mamy tyle czasu”. [źródło]

Otwartych modeli nie da się cofnąć. Otwarte modele nie znikną, nie da się „odwynaleźć” tego, co już wiesz. Mleko się wylało. Jest za późno

Chiny nie zwolnią, a bez nich pauza nie ma sensu. Nawet jeśli laby z US zwolnią, to co powstrzyma innych przed niezwalnianiem? Sam Amodei przyznaje, że Chiny to „najtrudniejszy dylemat” jego planu. [źródło]

Laby są w pułapce konkurencji i same to przyznają. Cytat z listu „Pacing the Frontier”, podpisanego także przez Amodeia i Pachockiego: „Każda firma i każdy kraj są pod ogromną presją, by nie zwalniać jednostronnie”. [źródło]

Koszt spada lawinowo. Noam Brown (OpenAI): w grudniu 2024 wynik 87,5% w ARC-AGI-1 kosztował model o3 ok. 500 tys. dolarów. Astra osiąga dziś więcej za ok. 20 dolarów. [źródło] Spowolnienie w kilku labach nie zatrzymuje tej krzywej.

I puenta.

The TIME, 15 września — „żadna z wiodących firm AI jeszcze naprawdę nie zwolniła”.