Indie radykalnie przyspieszyły regulacje dotyczące deepfakes i sztucznie generowanych fałszywych tożsamości, zmuszając firmy z branży mediów społecznościowych do usuwania oznaczonych treści w ciągu kilku godzin, a nie dni. Nowe zasady, opublikowane jako poprawki do zasad IT 2021, stanowią znaczącą zmianę w sposobie, w jaki firmy technologiczne moderują treści na jednym z największych rynków internetowych na świecie – z ponad miliardem użytkowników – i mogą stanowić precedens dla globalnej praktyki.
Szybsza przeprowadzka, większa odpowiedzialność
Główną zmianą jest prędkość. Platformy mają teraz obowiązek odpowiadać na oficjalne żądania usunięcia treści w ciągu trzech godzin, a na pilne skargi użytkowników w ciągu zaledwie dwóch godzin. Ta kompresja osi czasu ma na celu ograniczenie rozprzestrzeniania się zwodniczych treści, ale budzi obawy dotyczące należytego procesu i potencjalnej nadmiernej cenzury.
Zmiany wymagają również jasnego oznakowania i identyfikowalności syntetycznych treści audio i wizualnych. Platformy muszą wskazywać, czy materiał został wygenerowany przez sztuczną inteligencję, weryfikować te twierdzenia za pomocą środków technicznych i wdrażać deepfakes z danymi pochodzenia. Niektóre kategorie treści syntetycznych – w tym obrazy intymne wykonane bez zgody i treści związane z przestępczością – są wyraźnie zabronione. Niezastosowanie się może skutkować utratą przez platformy ochrony prawnej na mocy prawa indyjskiego.
Dlaczego to ma znaczenie: cyfrowa waga Indii
Wielkość i rozwój Indii sprawiają, że jest to przełomowe wydarzenie. Platformy takie jak Meta i YouTube działają na rynku, na którym środki zgodności często stają się światowymi standardami. Szybkość, z jaką Indie podejmują działania w celu rozwiązania tych problemów, będzie miała wpływ na to, jak firmy technologiczne na całym świecie podejdą do treści generowanych przez sztuczną inteligencję. Nie chodzi tylko o Indie; chodzi o kształtowanie przyszłości moderacji treści w Internecie.
Obawy dotyczące cenzury i przejrzystości
Krytycy twierdzą, że napięte terminy pozostawiają niewiele miejsca na ręczną weryfikację, co popycha platformy w stronę automatycznego nadmiernego usuwania. Internet Freedom Foundation ostrzega, że może to podważyć ochronę wolności słowa i należyte procesy. Istnieją również obawy, że przepisy rozszerzą kategorie treści zabronionych bez odpowiednich zabezpieczeń.
Źródła branżowe podają, że zmian dokonano przy ograniczonym udziale zainteresowanych stron, przez co firmy nie mają pewności co do oczekiwań dotyczących zgodności. Elon Musk i jego Platforma X zakwestionowali już żądania usunięcia treści w sądzie w New Delhi, twierdząc, że stanowią one nadużycie władzy.
Władza rządowa i przyszłe wyzwania
Najnowsze posunięcia są następstwem wcześniejszej korekty, która zawęziła liczbę urzędników uprawnionych do nakazania usunięcia treści. Pomimo pewnej krytyki rząd Indii w dalszym ciągu sprawuje ścisłą kontrolę nad treściami internetowymi. W miarę jak treści generowane przez sztuczną inteligencję stają się coraz bardziej złożone, presje regulacyjne będą się tylko nasilać.
„Zmiany w Zasadach IT odzwierciedlają bardziej zrównoważone podejście do regulowania deepfakes generowanych przez sztuczną inteligencję” – powiedział Rohit Kumar z The Quantum Hub. „Znacznie skrócone ramy czasowe rozpatrywania skarg znacznie zwiększą obciążenie związane z przestrzeganiem przepisów”.
Rząd Indii sygnalizuje, że oczekuje się szybkich działań i platformy muszą się dostosować, w przeciwnym razie ryzykują konsekwencje prawne. Ta zmiana w egzekwowaniu prawa odzwierciedla rosnącą światową tendencję w kierunku bardziej rygorystycznych regulacji dotyczących treści generowanych przez sztuczną inteligencję, przy czym liderem są Indie.
