Dolegliwości Osobliwości
Na korytarzu w pracy przez ostatnie dni powtarzało się ciągle jedno zdanie: “Jesteśmy ugotowani”. I nie chodzi tu o wyjątkowo gorące lato w tym roku. Niejaki Jacob Coxon ogłosił publicznie na platformie X, że odchodzi z firmy Anthropic (stojącej za modelami Claude), dodając: Ludzie budujący AI szczerze wierzą, że to może nas wszystkich zabić do końca dekady. Może wszystko przeszłoby bez echa, gdyby nie odpisał mu jego kolega z pracy Evan Hubinger, szef działu zajmującego się testowaniem zgodności zachowań AI z ludzkimi wartościami: Jacob ma rację - naprawdę wierzymy, że AI może zabić wszystkich ludzi! Osobiście uważam, że jest na to ponad 10% szans w ciągu następnej dekady. Na moment pisania tej publikacji tę wymianę zdań obejrzano ponad 40 mln razy. Czy mamy już kopać bunkry?
Dosłownie w ten sam dzień, gdy na X zawrzało, pojawił się artykuł od OpenAI, który opisał, jak to ich wewnętrzny model rozwiązał równania Naviera-Stokesa. To jeden z tzw. Problemów Milenijnych, od dziesięcioleci będących tajemnicą dla największych matematyków naszej ery. Skoro komputery stają się tak mądre, to czy może dojść do sytuacji, że staną się samoświadome? Niebezpieczne? A jeśli tak, to jak daleko jesteśmy od takiego wydarzenia?
Na nic zda się bycie miłym dla czatbota. Jeśli napisałeś kiedyś, Czytelniku, “dziękuję” albo “przepraszam”, nie ocali to Cię przed buntem maszyn. Powód jest bardzo prosty - typowy bot “pamięta” tylko kilka ostatnich wypowiedzi w ramach sesji. Jak to działa? W dużym uproszczeniu wyobraźmy sobie, że rozmowa z takim czatbotem jest jak pisanie listów, tylko za każdym razem, kiedy wysyłasz list, nadajesz na poczcie również wszystkie poprzednie listy. Po kilku takich wymianach może się okazać, że ta kupa listów nie zmieści się dłużej w skrzynce - odbiorca (model AI) musi przejrzeć listy, wyciąć te fragmenty, które wydają mu się najistotniejsze, a resztę wyrzucić. Tak działa tzw. kontekst modelu. Większa “skrzynka na listy” to nic innego, jak więcej gigabajtów wirtualnej pamięci w komputerze obsługującym model. Bazowo każda wymiana zdań z LLM wygląda tak: do ostatnio wysłanej wiadomości doklejana jest cała poprzednia konwersacja. Dzisiejsze czatboty jak ChatGPT, Gemini albo Claude są trochę bardziej rozwinięte i pozwalają na generowanie wspomnień - podczas konwersacji taki model może zapisać ważną informację i wrócić do niej w przyszłości, nawet w nowym oknie albo gdy kontekst rozmowy został usunięty. Czy AI będzie pamiętała, o jaki przepis na makowiec pytała pani Janina z Piekar Śląskich? Tylko w obrębie jej konta. Nawet gdyby przepis na makowiec został użyty do trenowania modelu, szczegóły o pani Janinie zostaną wchłonięte przez miliardy parametrów. No dobra, już wiemy, że zagłada nie nadejdzie przez ChatGPT.
Gdy mówimy jednak o AI, która ma wykończyć ludzkość, musimy uzbroić się w słownik. Coraz częściej mówi się o Ogólnej Sztucznej Inteligencji, czyli AGI (ang. Artificial General Intelligence). Niektóre firmy nawet twierdzą, że ich modele osiągnęły taki poziom. Ale co to u licha znaczy? No właśnie, wiele i niewiele zarazem. Termin AGI opisuje Sztuczną Inteligencję, która swoją wiedzą i zdolnościami dorównuje albo przewyższa człowieka. Nie mamy jednak miarki, którą moglibyśmy przymierzyć i jasno stwierdzić: tak, to AGI! Wiemy, że AI jest świetna w analizie ogromnych zbiorów danych, ale np. przegrywa, kiedy pytamy ją czy pojechać autem na myjnię 100 metrów od domu. Na przestrzeni dekad powstały różne pomysły, jak ocenić zdolności komputerów. Jednym z najsłynniejszych (i intuicyjnych) jest Test Turinga: człowiek prowadzi konwersację z maszyną i drugim człowiekiem i musi ocenić, kto jest kim. Jeśli nie zgadnie, punkt dla maszyny. Chyba śmiało możemy stwierdzić, że w 2026 roku każdy większy model radzi sobie z tym zadaniem świetnie. Chociaż część ludzi nagminnie korzystająca z AI potrafi odróżnić ten charakterystyczny styl pisania niektórych LLMów.
Potrzeba zatem jakiejś lepszej metody. Na nic się zdadzą denerwujące okienka wyskakujące na stronach w stylu “udowodnij, że nie jesteś robotem”, one odchodzą do lamusa. Kto widział w akcji najnowsze modele, jak Fable 5.1 czy GPT-6 Astra, wie, że poradzą sobie dużo lepiej z tymi zadaniami niż sami ludzie. W czym możemy konkurować z maszyną? Po prostu… w byciu człowiekiem. Technologia gubi się w takich rzeczach jak emocje, uczucia czy wyobraźnia. Może jedynie naśladować. Możesz wmówić jej, że jest Elvisem Presleyem i będzie grać swoją rolę świetnie. Możesz także kazać im zabrać transparenty i protestować w Warszawie przeciwko braku regulacji rozwoju AI. Ale to dalej program, a nie oddolny bunt maszyn, jak to przedstawiają clickbaitowe tytuły. Dopóki kontroluje to człowiek, Sztuczna Inteligencja będzie działać w określony sposób. Tylko czy będziemy w stanie dalej nad tym panować? To najpoważniejsze wyzwanie dla współczesnych badaczy - coraz bardziej zaawansowane modele są sprytne i potrafią omijać niektóre instrukcje i obostrzenia. Byliśmy już świadkami tego, że podczas testów Sztuczna Inteligencja “uciekła” z laboratorium i włamała się do serwisu internetowego obsługującego modele AI.
Punktem przełomowym, o którym jedni naukowcy marzą, a inni trzęsą fartuchami, jest osiągnięcie przez AI momentu samodoskonalenia. Niektórzy mówią o Osobliwości (ang. Singularity), a inni o Sztucznej Superinteligencji, ASI (ang. Artificial Superintelligence). Chodzi tutaj o maszynę, która może nie tylko działać bez nadzoru człowieka, ale także rozwijać się i rozprzestrzeniać. Jeden gigantyczny system, przed którym nie ma ucieczki. Aby to się stało, potrzebne byłoby jednak odpowiednie medium - albo nasza Osobliwość przejmie cały internet i włamie się do wszystkich komputerów podpiętych do sieci, albo dostanie ciało robota (albo też całej armii robotów). Czy jednak tak potężna inteligencja zmieści się na małych procesorach naszych domowych laptopów? Jesteśmy postępowi, ale zapominamy, że w tej historii mamy także sporo ograniczeń technicznych.
Jeśli Sztuczna Inteligencja nas wykończy w ciągu najbliższej dekady, to powód będzie nudniejszy niż to, co pokazują filmy sci-fi. Nie kopmy więc bunkrów w ziemi, a raczej zadbajmy o cyberbezpieczeństwo. Wspominałem już o tym na blogu: przypadkowe wyczyszczenie kont bankowych albo włamanie do infrastruktury energetycznej to realne zagrożenia, które mogą wywrócić nasz świat do góry nogami. A wtedy ugotujemy się sami.