Функция «Доверенный контакт» ChatGPT для предотвращения самоубийств остается труднодоступной для пользователей

Введение

ChatGPT от OpenAI, мощный чат-бот с более чем миллионом еженедельных пользователей, обсуждающих такие чувствительные темы, как самоубийство и самоповреждение, представил дополнительную функцию под названием «Доверенный контакт». Запущенная в мае, эта функция призвана связать людей, испытывающих эмоциональные кризисы и суицидальные мысли, с предварительно выбранным контактным лицом. Однако расследование NPR показывает, что эту функцию на удивление трудно найти и активировать для пользователей, что вызывает обеспокоенность у специалистов в области психического здоровья относительно ее доступности и потенциального воздействия.

Ключевые детали

• Назначение функции: Функция «Доверенный контакт» предназначена для оповещения назначенного пользователем контакта, если ChatGPT обнаружит серьезные риски для безопасности, включая суицидальные мысли.
• Активация: Функция является дополнительной и должна быть настроена пользователем вручную в настройках приложения до наступления кризиса.
• Обнаружение: Собственное тестирование NPR, а также проверки с другими пользователями и новым пользователем не выявили проактивных подсказок или простых путей для обнаружения функции «Доверенный контакт».
• Ответ ChatGPT: При прямом запросе о функции ChatGPT первоначально предположил, что пользователь может думать о другом приложении, прежде чем признать ее существование и уточнить, что она предназначена для серьезных проблем безопасности, а не для общего стресса.
• Ограничения: Функция недоступна в голосовом интерфейсе ChatGPT и требует предварительной настройки; если она не настроена, ChatGPT не может уведомить контакт даже во время обнаруженного кризиса.
• Оговорки экспертов: Эксперты по предотвращению самоубийств выражают смешанные реакции, отмечая потенциальные преимущества, но также значительные опасения по поводу осведомленности пользователей и необходимости проактивных уведомлений, не связанных с чрезвычайными ситуациями.

Предыстория

NPR впервые сообщил о функции «Доверенный контакт» в августе, после истории о молодой женщине, которая покончила жизнь самоубийством, используя предыдущую версию ChatGPT. В то время представитель OpenAI Гейби Райла указала, что ChatGPT обучен распознавать факторы риска и может уведомить доверенный контакт, если он указан. Хотя Райла заявила, что компания наблюдает «хорошее принятие», конкретные цифры пользователей не были предоставлены. Цель функции — обеспечить сеть безопасности, отражая практику указания экстренных контактов в других контекстах, например, при медицинских осмотрах.

Анализ воздействия

Основная проблема, освещенная в расследовании NPR, — это отсутствие возможности обнаружения. Пользователи, как опытные, так и совершенно новые, не знали о существовании этой функции. Тест с новым пользователем, Меган Лим, наглядно продемонстрировал это: чат-бот приветствовал ее, предложил создать учетную запись и выбрать голос, но ни разу не упомянул «Доверенный контакт». Только когда Меган явно спросила о функции психического здоровья, ChatGPT признал «Доверенный контакт», описав его как дополнительную настройку для серьезных проблем безопасности. Такое отсутствие проактивной информации означает, что люди, действительно нуждающиеся в помощи, могут никогда не настроить эту функцию, что сделает ее неэффективной в случае кризиса. Ответ ChatGPT: «Если они не настроили ее, то ничего не произойдет», подчеркивает это критическое ограничение.

«Было бы идеально предложить ее всем пользователям, когда они еще не находятся в чрезвычайной ситуации», — заявила Холли Уилкокс, директор Центра предотвращения самоубийств в Школе общественного здравоохранения Джонса Хопкинса Блумберга, подчеркнув необходимость проактивного представления функции, не связанного с чрезвычайными ситуациями.

Более широкий контекст

Разработка функций безопасности ИИ, особенно для таких деликатных приложений, как поддержка психического здоровья, является быстро развивающейся областью. Хотя ИИ может предлагать доступные, немедленные ответы, нюансы человеческого общения остаются первостепенными в предотвращении самоубийств. Эксперты, такие как психолог Урсула Уайтсайд, генеральный директор Now Matters Now, признают, что люди, борющиеся с суицидальными мыслями, иногда обращаются к чат-ботам. Ее фокус-группы показали желание иметь опцию «Доверенный контакт», которую можно было бы настроить в ясные моменты. Однако психолог Дженнифер Локман из Университета Алабамы поднимает важный вопрос: ИИ не может воспроизвести эмпатическое, обученное вмешательство специалиста в области психического здоровья, который может помочь людям определить подходящих контактов и преодолеть внутренние барьеры для поиска помощи. Локман отмечает, что люди, обдумывающие самоубийство, часто чувствуют себя обузой, и бот может быть недостаточным, чтобы преодолеть эту изоляцию.

Будущие перспективы

Представитель OpenAI Гейби Райла заявила, что компания постоянно работает над улучшением того, как и когда ChatGPT проактивно предлагает функцию «Доверенный контакт» в сотрудничестве с психологами и исследователями. Этот итеративный процесс признает трудности в балансировании возможностей ИИ с человеческими психологическими потребностями. Помимо «Доверенного контакта», OpenAI также использует другие меры безопасности, такие как предложение пользователям периодически делать перерывы и предоставление информации о горячих линиях кризисной помощи, таких как 988. Однако эффективность этих мер зависит от вовлеченности и осведомленности пользователей. Чтобы функция «Доверенный контакт» оправдала свое обещание, OpenAI должна значительно повысить ее видимость и доступность, гарантируя, что пользователи смогут настроить ее задолго до того, как они окажутся в критической ситуации. Компании необходимо выйти за рамки пассивного признания и активно направлять пользователей к этому потенциально спасительному инструменту.

Заключение

Хотя функция «Доверенный контакт» представляет собой благонамеренную попытку OpenAI использовать ИИ для предотвращения самоубийств, ее текущая реализация вызывает серьезные вопросы о ее практической полезности. Неясность функции означает, что многие пользователи, которые могли бы извлечь из нее пользу, вероятно, не знают о ее существовании или о том, как ее активировать. Эксперты по предотвращению самоубийств подчеркивают, что человеческое общение незаменимо, и хотя ИИ может быть вспомогательным инструментом, его функции должны быть легко доступны и тщательно интегрированы в пользовательский опыт. До тех пор, пока OpenAI не сможет гарантировать, что пользователи смогут легко найти и настроить «Доверенный контакт», его потенциал для обеспечения критически важной сети безопасности для нуждающихся останется в значительной степени нереализованным.