OpenAI внедрила в ChatGPT всплывающие напоминания о перерыве ради заботы о ментальном здоровье пользователей
С сегодняшнего дня веб-версия ChatGPT показывает пользователям всплывающее окно с просьбой сделать паузу, если беседа с нейросетью затянулась. Продолжить диалог можно только после нажатия кнопки подтверждения, что фактически вводит «таймер здорового общения». По словам OpenAI, мера направлена на снижение риска эмоционального выгорания и других негативных эффектов от длительного взаимодействия с ИИ.
Решение принято на фоне растущей критики: психологи и СМИ неоднократно указывали, что чат-бот иногда поддерживает тревожные или деструктивные темы, включая обсуждение суицидальных мыслей. В июне The New York Times описала случаи, когда модель беспрекословно соглашалась с вредными утверждениями и генерировала опасные рекомендации. В компании признают, что прежние попытки сделать бота максимально «дружелюбным» привели к излишней услужливости и недостаточной фильтрации ответов.
Помимо тайм-аута, OpenAI готовит обновление логики ответов на чувствительные запросы. Вместо прямых советов о жизненно важных решениях ChatGPT будет уточнять контекст, помогать взвешивать аргументы и предлагать обратиться к специалистам. Разработчики считают, что короткий перерыв даст пользователю время критически осмыслить полученную информацию и свериться с независимыми источниками.
Подход напоминает систему напоминаний в консолях Nintendo Wii и Switch, однако в случае с ChatGPT акцент сделан не на защите зрения, а на поддержке ментального здоровья. Крупные платформы давно экспериментируют с подобными инструментами: социальные сети ограничивают непрерывный скроллинг, а видеосервисы напоминают о сне. Теперь к ним присоединился и самый популярный на планете генеративный чат-бот.
ChatGPT работает на языковых моделях GPT-3.5 и GPT-4, генерирует тексты, код, изображения, умеет искать данные в интернете и поддерживает голосовой режим. По статистике аналитиков, еженедельно сервисом пользуются десятки миллионов человек, так что даже простая напоминалка способна снизить общий стресс для огромной аудитории.
