«Здрастуйте! Чим я можу вам допомогти?
Розмова починається миттєво. Ми вже глибоко занурені у діалог із машиною. Чат-боти, такі як ChatGPT, міцно увійшли до нашого повсякденного життя. Вони є в інтернет-магазинах. Вони обслуговують клієнтів. Вони навіть допомагають із домашніми завданнями. Людина на іншому кінці екрану вже рідко буває реальною. Ці віртуальні помічники є швидкими. Вони доступні 24/7. Вони часто чарівні. Те, що здавалося технічною розвагою кілька років тому, тепер стало цифровим компаньйоном.
Але це зрушення ставить нам насущне питання. Наскільки сильно ми можемо їм довіряти? Чи, що важливіше, як слід нам їм довіряти? Щоб відповісти на це, нам потрібно подивитися на те, що робить чат-бота заслуговує на довіру. Нам потрібно зрозуміти, де проходить межа між корисною технологією та оманливою ілюзією.
Людське креслення довіри
Оскільки чат-боти часто є заміною людському спілкуванню, корисно знати, як люди будують довіру один до одного. Дослідження показують, що три основні стовпи визначають міжособистісну довіру.
Перший – це ** сприймається компетентність **. Ми довіряємо спеціалісту. Якщо лікар демонструє глибокі знання у своїй галузі, ми слухаємо його. Якщо він здається невпевненим у власній сфері, ми сумніваємося у ньому.
Другий — це чесність (цілісність). Йдеться про послідовність. Чи виконує людина те, що він обіцяє? Він чесний? Він дотримується своїх цінностей? Люди, чиї дії відповідають їхнім словам, сприймаються як надійні.
Третій – це “доброзичливість”. Це відчуття того, що інша сторона має на увазі ваші найкращі інтереси. Якщо ви відчуваєте, що хтось щиро дбає про ваш благополуччя, це створює основу для довіри.
Коли ми довіряємо машинам
Дивно, але ті ж три людські стандарти застосовуються до нашої довіри до ІІ. Недавнє дослідження Фанні Лало та Анни-Марі Бетрам із Базельського університету перевірило цю гіпотезу. Учасники оцінювали розмови між користувачами та вигаданим чат-ботом. Їх просили уявити, що вони взаємодіють із ІІ самі.
Результати були чіткими. Для користувачів компетентність та чесність були домінуючими факторами у побудові довіри. Якщо чат-бот був компетентним і чесним, користувачі відчували себе в безпеці. Доброзичливість втрачала свою важливість, як тільки виконували ці дві умови.
Це відкриття кидає виклик ідеї про те, що змусити ІІ відчувати себе «приємним» – ключ до надійності. Дослідження показало, що персоналізовані чат-боти — ті, які використовують ваше ім’я та посилаються на минулі розмови, — не створювали вищого рівня довіри, ніж безособові. Звичайно, доброзичливий, персоналізований тон змушував користувачів охочіше ділитися особистими даними або використовувати інструмент. Він підвищував залученість. Але не збільшував основний показник довіри.
Небезпека надмірної згоди
Чому учасники так високо цінують чесність? Це захист від ізоляції. Якщо ІІ занадто безкритичний, якщо він погоджується з усім, що каже користувач, він створює цифрову ехо-камеру. Це може бути небезпечним. Це може зміцнювати екстремальні чи аморальні ідеї без перевірки реальністю.
«Друг чи партнер, сподіваюся, зрештою втрутиться, якщо в когось розвиваються божевільні чи аморальні ідеї».
— Фанні Лало, Базельський університет
Людський друг виступає проти. ІІ, який не має чесності, не робить цього. Він просто киває. Це не допомагає. Це потурання.
Дослідження також виявило психологічний зсув. Учасники приписували компетентність, чесність та доброзичливість безпосередньо ІІ, а не компанії, що стоїть за ним. Вони сприймають ІІ як автономну сутність. Ця проекція є значущою. Ми ставимося до коду як персонажа.
Межі машинної довіри
Це призводить до незручної істини. Ми проектуємо в ІІ системи більше, ніж там є насправді. В ІІ немає моралі. Він не має серця. У нього є ваги, зміщення та ймовірності.
Тож чи варто довіряти чат-ботам повністю? Мабуть, ні. Це інструменти, а не оракули. Вони побудовані на даних та алгоритмах. Вони недосконалі.
Вони можуть надавати неправдиву або застарілу інформацію. Вони можуть неправильно розуміти контекст. Навчальні дані часто містять людські забобони, що означає, що ІІ може ненавмисно генерувати дискримінаційні відповіді. Також існує проблема конфіденційності. Чат-боти збирають безліч особистих даних. Якщо постачальник ненадійний, ваша конфіденційна інформація є загрозою.
Лало виступає за нейтральну позицію. Ми повинні ставитись до ІІ-чатбот аналогічно до соціальних мереж. Вони пропонують можливості, але мають ризики. Нам потрібно навчитися орієнтуватися у цьому просторі.
«Наше дослідження не робить заяви про те, чи є довіра до чат-боту хорошим чи поганим».
Йдеться про утилітарність. Йдеться про розуміння механіки. Нам потрібні надійні чат-боти, які не брешуть і які не сліпо підтверджують кожне введення користувача. Але чи можемо ми колись по-справжньому дізнатися, чи поводиться ІІ етично? Мабуть, ні.
Ми залишаємось перед вибором. Чи передаємо ми наше судження машині, що імітує розуміння? Чи використовуємо її як інструмент, зберігаючи власне скептичне ставлення? Грань розмита. Технологія розвивається швидко. І ми досі намагаємося зрозуміти, як на ній встояти.
