Компанія OpenAI запускає нову функцію «Довірена особа», повідомляє TechCrunch.
Вона дозволяє користувачам заздалегідь «прив’язати» до власного акаунту людину, яка отримуватиме сповіщення, коли система фіксуватиме ознаки ризику самоушкодження.
Повнолітній користувач може вказати «Довіреною особою» будь-кого – родича, друга або колегу. Якщо під час переписки система помітить натяки на самоушкодження або бажання самогубства, ChatGPT запропонує написати «довіреному». Водночас чат надішле повідомлення і довіреній особі – через електронну пошту, смс або застосунок.
Наразі компанія поєднує автоматичний аналіз розмов та перевірку працівниками. Система отримуватиме спеціальні повідомлення про можливі суїцидальні думки, які перевірятимуть фахівці безпеки. За даними компанії, кожен такий випадок працівники перевіряють протягом години.
Функція «Довірена особа» буде добровільною. До того ж компанія визнає, що користувачі можуть створювати кілька акаунтів у ChatGPT, тож повністю контролювати процес не вдастся.
Після спілкування з ChatGPT підліток покінчив життя самогубством – хлопець писав про емоційне вигорання та беззмістовність життя. Пізніше підліток розпитав про конкретні методи самогубства й ШІ надав їх, хоч і рекомендував поділитися відчуттями з близькими. Після цього інциденту батьки хлопця подали до суду на компанію OpenAI.
Обкладинка: Віледж
Джерело: ChatGPT сповіщатиме близьким про суїцидальні думки користувача
