Эксперты предупреждают, что ИИ не может заменить специалиста, кроме того, он не гарантирует конфиденциальность, пишет Bloomberg
Многие начали использовать искусственный интеллект для терапии, разговаривая с чат-ботом о своих проблемах и получая довольно дельные советы. Однако ChatGPT создавался не для этого, он не способен заменить специалиста и обеспечить полную конфиденциальность, пишет Bloomberg.
В публикации описана история чарльстонского юриста Ван Слайка, который помимо посещения психотерапевта пристрастился к общению с чат-ботом. Он рассказал ИИ о своих страхах и разочарованиях как транс-человека, живущего в среде жестокого обращения и постоянных нападений. Он признался, что пишет сообщения, когда ему нужно высказаться, а ответы чат-бота дают ему эмоциональную разрядку.
«Общие чат-боты не предназначены для терапии и не были запрограммированы на соблюдение этических и правовых принципов, которым следуют живые терапевты.
Обратите внимание: Российская компания достигла максимальных исторических показателей рентабельности бизнеса.
В их нынешнем виде они также не могут отслеживать, что говорят им пользователи от сеанса к сеансу, недостаток, который большинство пациентов, вероятно, не потерпели бы от настоящих терапевтов.Клинический психолог и профессор Канзасского университета Стивен Иларди уверен, что «эта штука» не готова заменить специалиста, а риск ее использования слишком высок. Хотя доктор считает чат-бота «немного дешевой уловкой», он признает, что это довольно хороший собеседник.
Представитель создателя чат-бота отказался комментировать поведение людей, использующих ИИ в терапевтических целях, но указал на политику компании, согласно которой люди «никогда не должны использовать наши модели для предоставления услуг по диагностике или лечению серьезных заболеваний».
Маргарет Митчелл, главный специалист по этике в Hugging Face, компании, которая разрабатывает и поддерживает модели ИИ, также указала на потенциально тревожные последствия этой практики для конфиденциальности. По ее словам, чат-бот просматривает разговоры пользователей и использует их для обучения. Пользователи могут удалять свои учетные записи, но этот процесс может занять до четырех недель. Например, компании пришлось ненадолго закрыть чат-бота после получения сообщений о том, что некоторые пользователи видят заголовки чат-историй других людей.
Больше интересных статей здесь: Технологии.
Источник статьи: Специалисты предупреждают, что ИИ не способен заменить специалиста, кроме того, он не дает гарантии конфиденциальности, пишет Bloomberg.