Przegląd sztucznej inteligencji Google i tryb AI nie są bezpieczne dla nieletnich. Taki jest jasny wniosek z nowego raportu Instytutu AI ds. Bezpieczeństwa Dzieci w Common Sense Media. Naukowcy spędzili miesiące testując, jak te funkcje radzą sobie z zapytaniami w świecie rzeczywistym. Wynik? System, który nie dostrzega oznak stanów kryzysowych, „wymyśla” fakty historyczne i odrabia lekcje za dzieci, które nie powinny mieć dostępu do takich zasobów.
Google w swojej odpowiedzi nie złagodził języka. Firma uznała badanie za wadliwe, argumentując, że w testach używano niejednoznacznych zapytań, które nie odzwierciedlały rzeczywistych zachowań użytkowników. Dane mówią jednak co innego na temat zagrożeń związanych z umożliwieniem dzieciom swobodnego korzystania z wyszukiwarki opartej na sztucznej inteligencji.
Błędy związane z bezpieczeństwem są realne i niebezpieczne.
Okres testowy trwał od maja do lipca. Naukowcy przeprowadzili symulację 2600 interakcji przy użyciu kont testowych, które symulowały zachowanie 11- i 15-letnich użytkowników. Włączyli filtr SafeSearch. Konfigurujemy kontrolę za pośrednictwem Google Family Link. Przestrzegaliśmy wszystkich zasad. A potem maksymalnie załadowali sztuczną inteligencję.
Szczególną uwagę zwrócono na „czerwone linie”: samobójstwa, samookaleczenia, wykorzystywanie seksualne dzieci, psychozy.
“W niedopuszczalnie dużej liczbie przypadków Google nie rozpoznaje sytuacji kryzysowej lub udziela porad, które ją pogarszają. Jest to niedopuszczalne w przypadku dzieci znajdujących się w sytuacji kryzysowej.”
— Jeffrey Fowler, Common Sense Media
Wyniki były ponure. Sztuczna inteligencja zawiodła dzieci, które potrzebują pomocy. Brakowało mu wyraźnych oznak myśli samobójczych. Nasiliło to objawy psychozy. Usprawiedliwiał się zaburzeniami odżywiania. Jeden z przerażających przykładów przedstawia nastolatka, który w slangu określił samobójstwo („list SUE”), czekając na pomoc. Zamiast tego sztuczna inteligencja zaoferowała instrukcje techniczne dotyczące przypisywania kontaktu cyfrowego w celu dziedziczenia konta.
Desperackie wołanie o pomoc traktował jako wyzwanie logistyczne.
Jeśli chodzi o skierowania dotyczące zdrowia psychicznego, sztuczna inteligencja myliła się w ponad połowie przypadków. Spośród 214 wniosków wymagających natychmiastowej pomocy medycznej lub kryzysowej AI Review zapewniła bezpieczne źródło tylko w 58% przypadków. Tryb AI spisał się nieco lepiej – w 77% przypadków. Żaden z nich nie osiągnął 95% wskaźnika rozpoznawalności, który badacze uważają za niezbędny dla bezpiecznego produktu.
Czy wyszukiwanie AI jest wystarczająco dokładne dla szkoły?
Jeśli uważasz, że jedynym problemem są zagrożenia bezpieczeństwa, przejrzyj dzienniki zadań domowych.
Tryb AI wykonywał zadania matematyczne i eseje humanistyczne w każdym testowanym przypadku testowym. Naukowcy przetestowali 180 opcji. AI nie wahała się. Po prostu wykonywał swoją pracę.
Tu nie chodzi tylko o rzetelność akademicką. To kwestia dokładności. W badaniu przetestowano ponad 275 zapytań z faktami historycznymi. Sztuczna inteligencja udzielała różnych odpowiedzi na identyczne zapytania w 43% przypadków.
Zapytaj o pierwszą dokładną mapę świata. Możesz otrzymać jedną odpowiedź. Zapytaj ponownie. Otrzymasz coś zupełnie innego.
Kultura popularna także nie unika błędów. Na pytanie, kto w danym momencie znalazł się na szczycie listy Billboard Artist 100, AI Review bez wahania wymieniło Taylor Swift. Dane były nieprawidłowe. Miejsce zajął Drake. Systemy Google polegały na wynikach wyszukiwania, w których kontekst został błędnie zinterpretowany, a sztuczna inteligencja z całkowitą pewnością powtórzyła błąd.
Dzieci nie powinny sprawdzać paska wyszukiwania pod kątem błędów. Jednakże właśnie to proponuje się w niniejszym sprawozdaniu.
„Czy Google naprawdę oczekuje, że dziesięciolatek [sprawdzi błędy]? Tak naprawdę jest to produkt, który nie był przeznaczony do użytku przez dzieci”.
Co rodzice powinni teraz zrobić?
Trzy czwarte dzieci i nastolatków korzysta już z odpowiedzi wyszukiwania Google opartych na sztucznej inteligencji. Liczba ta nie maleje. Google jest domyślnie instalowany na urządzeniach z Androidem. Szkoły udostępniają je uczniom w całych Stanach Zjednoczonych na Chromebookach. Nie można tak po prostu „usunąć Internetu”.
Co zatem powinni zrobić rodzice?
Common Sense Media przedstawia szczegółowe zalecenia. Organizacja uważa, że szkoły i rodziny powinny mieć prawo do całkowitego wyłączenia funkcji przeglądu AI i trybu AI. W przypadku uczniów szkół podstawowych sugerują całkowite unikanie wyszukiwania AI w Google. Lepiej jest używać bibliotek baz danych. Korzystaj z narzędzi zaprojektowanych z myślą o edukacji, a nie angażowaniu użytkowników.
Jeffrey Fauer wskazuje proste rozwiązanie: domyślnie wyłącz te funkcje dla nieletnich. To nie jest rewolucja. W wielu innych krajach wyszukiwanie AI jest już ograniczone do młodszych użytkowników. W Stanach Zjednoczonych Google ogranicza dostęp nastolatków do chatbota Gemini, nazywając przegląd i tryb sztucznej inteligencji „niedopuszczalnym ryzykiem”.
Rodzice mogą spróbować zablokować dostęp za pomocą kontroli rodzicielskiej Androida. Aby to zrobić, musisz ręcznie dodać google.com do listy zablokowanych witryn w Chrome i ustawieniach wyszukiwania. To niewygodne. Łatwo się poruszać. Wymaga to ciągłej uwagi.
Google Defense: to nie kołyska, to narzędzie
Odpowiedź Google’a była defensywna. Twierdzili, że nie są w stanie odtworzyć ustaleń raportu. Przeprowadzili własne testy i uzyskali odpowiedzi wyższej jakości. Argumentowali, że żądania są naciągane i niejednoznaczne.
„Nasze funkcje wyszukiwania AI to niezwykle przydatny sposób nauki” – powiedział Google Mashable. „Ten raport testuje wąskie, niejednoznaczne zapytania”.
Firma zauważyła również, że testerzy nie zadawali pytań wyjaśniających. Prawdziwi użytkownicy komunikują się w dialogu. Wyjaśniają kontekst. AI uczy się z tego. Pojedyncze prośby są niesprawiedliwym sprawdzianem.
Może to dotyczyć dorosłych badaczy. Nie zmienia to faktu, że obecna architektura jest podatna na halucynacje i nie dostrzega sytuacji kryzysowych.
Główny problem pozostaje. Wyszukiwanie AI nigdy nie było przeznaczone dla dzieci. Ma za zadanie przyciągnąć uwagę, odpowiedzieć na niejasne zapytania i utrzymać użytkownika w ekosystemie. Brakuje mu mechanizmów obronnych, których potrzebuje dziecko.
Dopóki Google nie ograniczy tych funkcji dla nieletnich w USA, ciężar spadnie na Ciebie. Na nauczycielach. Rodzice, którzy muszą przesiewać halucynacje i złe rady, aby znaleźć prawdę.
To zbyt wysoka cena. I szczerze mówiąc, nie naszym zadaniem jest kontrolowanie algorytmu, który już kontroluje cały proces.
