Firma Anthropic wydała poważną aktualizację swojego modelu Claude Sonnet AI, wersję 4.6, przybliżając możliwości swojego modelu premium Opus. Ta aktualizacja koncentruje się na ulepszeniu zdolności sztucznej inteligencji do interakcji ze środowiskami cyfrowymi — zasadniczo korzystania z komputera tak, jak zrobiłby to człowiek.
Kluczowe ulepszenia: systemy operacyjne i kodowanie
Najbardziej godnym uwagi osiągnięciem jest wydajność Sonnet 4.6 w teście OSWorld, gdzie wykazała się ona biegłością na poziomie ludzkim w wykonywaniu zadań systemu operacyjnego. W przeciwieństwie do wielu innych modeli sztucznej inteligencji, które wymagają specjalistycznych narzędzi lub złączy, Sonnet 4.6 może wypełniać formularze, przełączać się między kartami przeglądarki i bezpośrednio wykonywać instrukcje zawarte w arkuszach kalkulacyjnych – a wszystko to bez dodatkowego oprogramowania.
Model wykazuje również znaczną poprawę w zakresie kodowania. Teraz postępuje zgodnie ze szczegółowymi instrukcjami z większą dokładnością i może przetwarzać ogromne ilości danych w jednym żądaniu, dzięki testom beta okna kontekstowego zawierającego 1 milion tokenów. Oznacza to, że użytkownicy mogą udostępniać rozbudowane bazy kodu lub dokumenty do analizy i modyfikacji.
Ulepszenia zabezpieczeń: zażądaj ochrony przed wtryskiem
Najważniejszym aspektem tej aktualizacji jest ulepszone zabezpieczenie przed atakami typu wstrzykiwanie zapytań. Ataki te wykorzystują luki w zabezpieczeniach, w których złośliwe polecenia są ukryte w pozornie nieszkodliwym tekście, który sztuczna inteligencja może następnie wykonać. Anthropic podaje, że Sonnet 4.6 wykazuje znacznie lepszą odporność na te zagrożenia, dorównując pod tym względem płatnemu modelowi Opus.
Jest to ważne, ponieważ w miarę jak sztuczna inteligencja zyskuje większą autonomię w środowiskach cyfrowych, wzrasta ryzyko wykorzystania. Zaatakowana sztuczna inteligencja może potencjalnie wykonywać złośliwe działania bez interwencji człowieka.
Co to oznacza dla przyszłości
Postępy projektu Anthropic stanowią zwrot w kierunku bardziej ogólnych modeli sztucznej inteligencji zdolnych do wykonywania zadań w świecie rzeczywistym. Możliwość bezpośredniej interakcji z systemami operacyjnymi zmniejsza bariery dla automatyzacji i integracji. Podkreśla jednak również pilną potrzebę wprowadzenia solidnych środków bezpieczeństwa w celu zapobiegania nadużyciom.
Udoskonalenia w Sonnet 4.6 sygnalizują, że sztuczna inteligencja wykracza poza proste odpowiedzi i staje się bardziej aktywnym uczestnikiem cyfrowego świata, dzięki czemu zarówno jej potencjał, jak i związane z nim ryzyko stają się bardziej widoczne.
