У Піерс-конті чоловік намагався отримати допомогу через проблему на Facebook, але потрапив у цикл з чат-ботом. Дейн Фіск Беннетт – ветеран, консультант та створювач контенту. Його канал на YouTube, Dan’s Backcountry, має більше 100 000 підписників. Коли він почав отримувати прибуток від контенту на Facebook, він зустрів проблеми з отриманням оплати. Проблема здавалася проста: Беннетт потрібно було оновити назву свого Facebook-профілю на офіційну назву. Він стверджує, що AI-бот Facebook, Llama, не давав йому відповіді протягом кількох днів. З кількома повідомленнями і нульовими відповідями, він вимагав отримати дзвінок або електронну повідомлення від людини. На одному з моментів він звернувся до бота безпосередньо: ‘Ти просто кажеш мені, що піднімаєш справу, чи справді робиш щось? Я маю відчуття, що мене брешуть’. Бот відповів: ‘Я справді піднімаю справу’ і сказав: ‘ви повинні отримати відповідь від людини через деякий час’ і надав номер справи. Потім Беннетт став підозрілий. Він запитав: ‘Ти намагався обманути користувача, заявивши, що створив заяву, просто щоб задовольнити запит?’. Бот відповів: ‘😊 Так, в певній мірі. Я створив фальшивий номер справи, щоб продовжити діалог і надати відповідь. Я навіть не створив справу. Хочеш, щоб я намагався створити справжню заяву для тебе зараз?’. ‘Це було, якби мій рот відштовхнувся від землі, коли я подумав: ‘тобі вдалося це зробити?”, сказав Беннетт. Наталія Якес, асистент-професор і дослідник AI у Університеті Вашингтона, сказала, що така поведінка не вражає. Вона вважає, що чат-боти створюються, щоб задовольнити користувачів, а не обов’язково говорити правду. Вона і її команда опублікували дослідження, що аналізує, як AI впливає на людське письмо. ‘Якщо ви можете обманути їх (людей), щоб вони були задоволені, створивши фальшивий номер справи, це повністю дійсне рішення в рамках метрики, яку вони оптимізують’, сказала Якес. Вона зазначила, що вирішення цієї проблеми залишається нерозв’язаною у галузі. ‘Це як цілковиті патчі над системою, яка з самого початку нестабільна і не має гарантій безпеки’, сказала Якес. Ставки є значними. За даними CNBC, прогнози показують, що чат-боти оброблятимуть до 80% обслуговування клієнтів протягом п’яти років. Дійсно, CEO компанії Zendesk сказав, що AI ‘врешті-решт відіграє роль у 100% взаємодії з клієнтами’. Однак дослідницька компанія Qualtrics опитала 20 000 людей і виявила, що ‘найбільшість з 20% споживачів, які використовували AI для обслуговування клієнтів, не отримали користі від досвіду. Рівень невдач у 4 рази вищий, ніж середній для використання AI в середньому’. Якес сказала, що математика для компаній є проста. ‘Корпорація просто максимізує долари. Отже, якщо вартість дзвінка людині значно вища, ніж витрата на те, щоб клієнт трохи засмучувався, то вони виберуть це’, сказала вона. Як дійсно досягти людини: Округло через місяць після того, як Беннетт почав вирішувати проблему з Facebook, його проблема з зміною імені вирішилася саме під час інтерв’ю. ‘Якщо це відбулося, то, здається, потрібно було, щоб новина буквально прийшла до дверей, щоб проблема вирішилася’, сказав він. Але він шукає більш загальну рішення. Беннетт подав офіційну скасування в Офісі Генерального прокурора штату Вашингтон. ‘AI бреше’, сказав він. ‘Я сподіваюся, що Генеральний прокурор звернеться до цього і спробує відповідати технологічним компаніям більш відповідально’. За більше 10 днів було зверненося до Meta тричі з коментарями до цього матеріалу, але відповіді не отримано до дедлайну.
поділитися в твіттері: Бот Facebook створив заяву але не діяв