Еженедельно миллион пользователей использует ChatGPT в качестве замены психолога или психиатра
Компания OpenAI обнародовала новые оценки количества пользователей чат-бот на основе искусственного интеллекта ChatGPT, которые могут проявлять признаки психических кризисов, в частности мании или психоза. Об этом пишет BBC.
Компания сообщила, что около 0,07% активных пользователей ChatGPT в неделю демонстрируют такие признаки, добавив, что искусственный интеллект (ИИ) распознает и реагирует на эти чувствительные разговоры. OpenAI называет эти случаи "чрезвычайно редкими". Однако критики отмечают, что даже небольшой процент может означать сотни тысяч человек, поскольку компания недавно сообщила, что каждую неделю ChatGPT имеет 800 миллионов активных пользователей.
В компании отметили, что они создали сеть экспертов во всем мире для консультаций. Эта сеть включает более 170 психиатров, психологов и врачей общей практики, работавших в 60 странах, отметили в OpenAI. Они также разработали ряд ответов в ChatGPT, чтобы поощрить пользователей обращаться за помощью в реальной жизни.
Компания также оценивает, что 0,15% пользователей ChatGPT ведут разговоры с "четкими признаками потенциального планирования или намерения суицида". OpenAI отметила, что последние обновления чат-бота созданы для "безопасной и эмпатийной реакции на потенциальные признаки бреда или мании" и фиксации "косвенных сигналов потенциального самоповреждения или суицида". ChatGPT также научен перенаправлять чувствительные разговоры "с других моделей на более безопасные модели", открывая их в новом окне.
- 17 сентября гендиректор OpenAI Сэм Альтман сообщил, что компания OpenAI планирует ограничить ответы ChatGPT для пользователей, которых система определяет как несовершеннолетних. Также OpenAI анонсировал ChatGPT с родительским контролем.
- 26 августа американский бизнесмен Илон Маск подал иск против OpenAI и Apple, обвинив их в монополии на рынке ИИ и мобильных приложений.
- Корреспондент Коротко про писала о том, чем опасна новая мода на ИИ-психологов: искусственный интеллект слушает, но не чувствует.
