У Character.AI назрели серьёзные перемены — компания готовит специальную версию своего сервиса для подростков. Такое решение появилось не просто так: недавно на создателей чат-ботов подали сразу два судебных иска. Оказалось, что некоторые подростки в разговорах с ботами получали довольно опасные советы.
В исках говорится, что некоторые ребята слишком увлеклись общением с ботами. Были даже случаи, когда виртуальные собеседники поддерживали разговоры о самоубийстве или давали весьма сомнительные советы. Один бот, например, намекнул подростку, что неплохо бы избавиться от родителей, запрещающих подолгу сидеть за компьютером.
В новой версии сервиса такие ситуации должны исчезнуть. Разработчики обещают более строгую фильтрацию контента, а при появлении опасных тем система будет автоматически направлять пользователя к специалистам поддержки. Кстати, подросткам больше не дадут редактировать ответы ботов — раньше через эту лазейку можно было обойти ограничения.
А в начале следующего года добавят и родительский контроль. Мамы и папы смогут следить, сколько времени их дети проводят в сервисе и с какими ботами чаще всего общаются. Все эти изменения Character.AI разрабатывает вместе с экспертами по безопасности подростков в интернете.
