Amerykański think tank Council on Foreign Relations (CFR) informuje, że nowy model sztucznej inteligencji od Anthropic – Claude Mythos – nauczył się włamywać do systemów infrastruktury programowej, które są uznawane za jedne z najlepiej zabezpieczonych w historii.
Pojawienie się tego modelu oznacza przełomowy moment w historii branży sztucznej inteligencji. Posiada on rewolucyjne możliwości, ale także destrukcyjny potencjał.
Mythos dysponuje zdolnościami ataku, które doświadczeni specjaliści z branży cyberbezpieczeństwa wcześniej uznawali za coś rodem z science fiction. Genialność tego modelu polega na jego zdolności do dynamicznego i nieustannego prowadzenia ataków.
Infrastruktura krytyczna na całym świecie będzie narażona na zwiększone ryzyko. Może to obejmować tamy i reaktory jądrowe, a także systemy zaopatrzenia w żywność i energię elektryczną.
Każdy skok w rozwoju możliwości AI nie tylko ujawnia nowe podatności, ale także rozszerza sam horyzont ataków, tworząc łańcuchy luk w sposób, którego wcześniej nie byliśmy w stanie sobie wyobrazić.
Anthropic przyznało, że istnieje możliwość, iż większość lub nawet całe kluczowe oprogramowanie na świecie będzie wymagało aktualizacji lub przepisania, co stanowi ogromne wyzwanie.
W nadchodzących miesiącach na świecie rozegra się zacięta rywalizacja o zasoby w obszarze bezpieczeństwa AI. W pierwszej kolejności Stany Zjednoczone będą dążyć do ochrony własnych interesów – i to w sposób selektywny. Reszta świata może mieć trudności z przygotowaniem się na nowe ryzyka.
Próby powstrzymania rozprzestrzeniania się AI prawdopodobnie zakończą się niepowodzeniem. Kod źródłowy zaawansowanych modeli często wycieka. Nawet jeśli takie wycieki zostaną ograniczone, czołowe firmy zazwyczaj odtwarzają możliwości konkurencyjnych modeli w ciągu kilku miesięcy.
Obecnie tylko sama branża AI, a nie rządy, jest w stanie ograniczyć ryzyko związane z tym, co może być najbardziej destrukcyjną bronią cybernetyczną w historii.
