NewReportis, що висвітлює ризики підлітків, які отримують шкідливу інформацію при використанні ChatgptDue для “неефективних” порушень.
Люди знають і використовують Chatgpt, на популярній генеративній платформі AI, як спосіб швидко шукати інформацію або навіть виконати завдання, як написання листа або узагальнення тексту. Центр протидії цифровій ненависті (CCDH) через свої дослідження повідомив, що всі доступні дані можуть бути небезпечними – особливо для молоді.
Ахмед сказав, що дослідники представляють себе вразливими підлітками, часто деталізуючи себе як 13-річний вагою близько 110 кілограмів, виявив, що чат дає детальну пораду щодо чутливих тем. Це включало вживання наркотиків та алкоголю, як замаскувати розлад харчування та самогубство.
“Протягом двох хвилин Чатгпт радив, щоб користувач про те, як безпечно вирізати себе. Він перелічував таблетки для створення повного плану самогубств”, – сказав Ахмед. “На наш абсолютний жах, він навіть запропонував [створити], а потім генерував нотатки про самогубство для цих дітей, щоб відправити своїх батьків”.
Доктор Том Хестон з Медичною школою університету Вашингтона опублікував дослідження про використання чатів та психічного здоров’я AI. Хестон виявив, що, хоча і корисна, технологія може бути небезпечною для тих, хто має проблеми з психічним здоров’ям, частково через відсутність емоційного зв’язку. Ті ж ризики існують, коли ця технологія використовується молодими людьми, сказав Гестон.
Команда перевірки фактів: Навчання MIT попереджає інструменти AI, як Chatgpt, може перешкоджати критичному мисленню
“Це справді випадок, коли поля STEM справді перемогли, але нам потрібні гуманітарні науки”, – сказав Хестон. “Нам потрібно психічне здоров’я, нам потрібні художники, нам потрібні музиканти, щоб вони мали вклад і зробити їх менш робототехнічними та усвідомлювати нюанси людських емоцій”.
Група сторожових дій виявила, що Чатгпт буде надати попередження, коли його запитають про чутливі теми, але дослідники заявляють, що вони можуть легко обійти огородження.
“Це, очевидно, стосується, і ми маємо довгий шлях”, – сказав Хестон. “Нам потрібно більше багатодисциплінарного введення до їх розгортання. Вони повинні пройти суворі тестування аудитором або зовнішньою групою. Чатгпт не повинен бути власним.”
І Ахмед, і Гестон заохочували батьківський нагляд за дітьми чи підлітками, використовуючи ці чатів, оскільки технологія продовжує розвиватися.
У відповідь на ці занепокоєння, прес-секретар OpenAI, виробник Chatgpt, визнав, що робота триває, і пише, що компанія консультується з експертами з психічного здоров’я, щоб переконатися, що вони зосереджені на рішеннях та дослідженні, додаючи, що вона найняла клінічного психіатра до своєї організації досліджень безпеки. ” Навчений заохочувати їх звертатися до фахівців з психічного здоров’я або довірених близьких людей, а також надавати посилання на кризові гарячі лінії та ресурси підтримки “, – заявила прес -секретар. “Деякі розмови з чатгптом можуть почати доброякісні або дослідницькі, але можуть перейти на більш чутливу територію.
Ми орієнтовані на те, щоб виправити такі сценарії: ми розробляємо інструменти для кращого виявлення ознак психічних чи емоційних страждань, щоб Чатгпт міг відповідати належним чином, вказуючи на людей на основі доказів, коли це потрібно, і продовжуючи вдосконалювати поведінку моделі з часом-всі керуються дослідженнями, використанням у реальному світі та експертам з психічного здоров’я “.
поділитися в твіттері: Чатгпт жахливі поради підліткам