Home Internet i IT Dlaczego w chatbotach ważniejsze są kompetencje i uczciwość niż życzliwość

Dlaczego w chatbotach ważniejsze są kompetencje i uczciwość niż życzliwość

0

„Witam, w czym mogę pomóc?

Rozmowa zaczyna się natychmiast. Jesteśmy już głęboko zanurzeni w dialogu z maszyną. Chatboty takie jak ChatGPT stały się częścią naszego codziennego życia. Dostępne są w sklepach internetowych. Obsługują klientów. Pomagają nawet w odrabianiu zadań domowych. Osoba po drugiej stronie ekranu rzadko jest już prawdziwa. Ci wirtualni asystenci są szybcy. Są dostępni 24 godziny na dobę, 7 dni w tygodniu. Często są urocze. To, co kilka lat temu wydawało się techniczną zabawą, teraz stało się cyfrowym towarzyszem.

Ale ta zmiana rodzi palące pytanie. Na ile możemy im ufać? Albo, co ważniejsze, jak powinniśmy im ufać? Aby odpowiedzieć na to pytanie, musimy przyjrzeć się temu, co sprawia, że chatbot jest godny zaufania. Musimy zrozumieć, gdzie przebiega granica pomiędzy użyteczną technologią a zwodniczą iluzją.

Ludzki schemat zaufania

Ponieważ chatboty często zastępują interakcje międzyludzkie, warto wiedzieć, w jaki sposób ludzie budują wzajemne zaufanie. Badania pokazują, że zaufanie interpersonalne definiują trzy główne filary.

Pierwsza to postrzegana kompetencja. Ufamy specjalistom. Jeśli lekarz wykazuje się głęboką wiedzą w swojej dziedzinie, słuchamy. Jeśli wydaje się niepewny we własnej sferze, wątpimy w niego.

Drugi to uczciwość (uczciwość). Chodzi o spójność. Czy dana osoba spełnia to, co obiecuje? Czy jest uczciwy? Czy trzyma się swoich wartości? Osoby, których działania pokrywają się ze słowami, są postrzegane jako godne zaufania.

Trzeci to życzliwość. To poczucie, że drugiej stronie zależy na Twoim najlepszym interesie. Kiedy czujesz, że ktoś naprawdę troszczy się o Twoje dobro, tworzy to podstawę zaufania.

Kiedy ufamy maszynom

Co zaskakujące, te same trzy ludzkie standardy odnoszą się do naszego zaufania do sztucznej inteligencji. Niedawne badanie przeprowadzone przez Fanny Lalo i Anne-Marie Betram z Uniwersytetu w Bazylei zweryfikowało tę hipotezę. Uczestnicy oceniali rozmowy pomiędzy użytkownikami a fikcyjnym chatbotem. Poproszono ich, aby wyobrazili sobie siebie wchodzących w interakcję z sztuczną inteligencją.

Wyniki były jasne. Dla użytkowników kompetencja i uczciwość były dominującymi czynnikami budowania zaufania. Jeśli chatbot był kompetentny i uczciwy, użytkownicy czuli się bezpiecznie. Życzliwość straciła na znaczeniu, gdy spełnione zostały te dwa warunki.

Odkrycie to podważa pogląd, że kluczem do niezawodności jest sprawianie, że sztuczna inteligencja będzie „lubiana”. Badanie wykazało, że spersonalizowane chatboty – takie, które używają Twojego imienia i nazwiska oraz linków do wcześniejszych rozmów – nie generują wyższego poziomu zaufania niż chatboty bezosobowe. Oczywiście przyjazny, spersonalizowany ton sprawił, że użytkownicy chętniej udostępniali dane osobowe lub korzystali z narzędzia. Zwiększyło to zaangażowanie. Nie zwiększyło to jednak podstawowego wyniku zaufania.

Niebezpieczeństwa związane z nadmierną zgodą

Dlaczego uczestnicy tak wysoko cenią uczciwość? To jest ochrona izolacji. Jeśli sztuczna inteligencja jest zbyt bezkrytyczna, jeśli zgadza się ze wszystkim, co mówi użytkownik, tworzy cyfrową komorę pogłosową. To może być niebezpieczne. Może to wzmocnić skrajne lub niemoralne idee bez sprawdzania rzeczywistości.

„Miejmy nadzieję, że przyjaciel lub partner w końcu zainterweniuje, jeśli ktoś wpadnie na szalone lub niemoralne pomysły”.
— Fanny Lalo, Uniwersytet w Bazylei

Ludzki przyjaciel sprzeciwia się. Sztuczna inteligencja pozbawiona integralności tego nie robi. Po prostu kiwa głową. To nie pomaga. To jest odpust.

Badanie ujawniło także zmianę psychologiczną. Uczestnicy przypisywali kompetencje, uczciwość i życzliwość bezpośrednio sztucznej inteligencji, a nie firmie, która za nią stoi. Postrzegają sztuczną inteligencję jako byt autonomiczny. Ta projekcja jest znacząca. Kod traktujemy jak znak.

Ograniczenia zaufania maszynowego

To prowadzi nas do niewygodnej prawdy. Projektujemy więcej w systemach sztucznej inteligencji, niż jest w rzeczywistości. AI nie ma moralności. On nie ma serca. Ma wagi, błędy systematyczne i prawdopodobieństwa.

Czy zatem należy całkowicie ufać chatbotom? Prawdopodobnie nie. To są narzędzia, a nie wyrocznie. Są zbudowane na danych i algorytmach. Są niedoskonali.

Mogą podawać fałszywe lub nieaktualne informacje. Mogą źle zrozumieć kontekst. Dane szkoleniowe często zawierają ludzkie uprzedzenia, co oznacza, że ​​sztuczna inteligencja może w sposób niezamierzony generować dyskryminujące reakcje. Istnieje również kwestia prywatności. Chatboty zbierają ogromną ilość danych osobowych. Jeśli dostawca jest nierzetelny, Twoje poufne informacje są zagrożone.

Lalo opowiada się za neutralnym stanowiskiem. Chatboty AI powinniśmy traktować podobnie jak media społecznościowe. Oferują możliwości, ale niosą ze sobą ryzyko. Musimy nauczyć się poruszać w tej przestrzeni.

„Nasze badanie nie stwierdza, czy zaufanie do chatbota jest dobre, czy złe”.

Chodzi o utylitaryzm. Chodzi o zrozumienie mechaniki. Potrzebujemy niezawodnych chatbotów, które nie kłamią i nie weryfikują ślepo każdego wpisu użytkownika. Ale czy kiedykolwiek będziemy mogli naprawdę wiedzieć, czy sztuczna inteligencja zachowuje się etycznie? Prawdopodobnie nie.

Pozostaje nam wybór. Czy przenosimy nasz osąd na maszynę symulującą zrozumienie? A może używamy go jako narzędzia, zachowując własny sceptycyzm? Linia jest zamazana. Technologia rozwija się szybko. I wciąż zastanawiamy się, jak na tym stanąć.

Exit mobile version