Кадр из фильма «Она» (2013)
Похоже, ChatGPT-4 стал настолько человечным, что OpenAI пришлось напомнить пользователям: это всё ещё машина.
Новая версия популярного чат-бота теперь отвечает быстрее и даже умеет говорить голосом, как настоящий человек. Но создатели ChatGPT-4 обеспокоены: люди начинают слишком сильно привязываться к искусственному интеллекту.
Во время тестирования в OpenAI заметили интересную деталь. Некоторые пользователи общались с ботом так, будто он живой. Например, в конце тестового периода люди говорили фразы вроде «Это наш последний день вместе». Звучит безобидно, но для OpenAI это тревожный звоночек.
«Такие выражения передают ощущение общности», — объясняют в компании. — «Хотя эти случаи кажутся безобидными, они сигнализируют о необходимости дальнейших исследований. Мы хотим понять, как эти эффекты могут проявляться при длительном общении с ИИ».
В OpenAI объясняют, почему это может быть опасно:
OpenAI обещает следить за тем, как люди общаются с ChatGPT-4, и менять систему, если что-то пойдёт не так. Возможно, в будущем бот будет предупреждать пользователей: «Эй, не влюбляйся в меня, я всего лишь программа!».
