Всего через несколько дней после релиза мобильной игры RyzaChat: AI японская студия SpiralAI выступила с предупреждением в адрес пользователей. Поводом стали многочисленные попытки игроков обойти встроенные ограничения чат-бота и заставить главную героиню Райзу Стаут выдавать ответы, которые она не должна давать по условиям сервиса.
Игра, вышедшая в Японии 25 августа, позволяет фанатам свободно общаться с персонажем, причем развитие сюжета напрямую зависит от содержания диалогов. Однако некоторые пользователи воспользовались этой свободой для так называемой "инъекции подсказок" - они намеренно конструируют сообщения так, чтобы нейросеть нарушала собственные фильтры. В результате в социальных сетях уже появились примеры ответов Райзы с нецензурным, оскорбительным или совершенно нехарактерным для нее содержанием.
Помимо этого, SpiralAI сообщает, что игроки извлекают спрайты, голосовые файлы и другие игровые ресурсы для создания стороннего контента (в основном R34 картинки и видео для взрослых). Компания квалифицирует такие действия как запрещенный обратный инжиниринг. Разработчики призывают всех пользователей внимательно перечитать условия соглашения и общаться с Райзой в рамках установленных правил. В случае особо злостных нарушений компания оставляет за собой право принять соответствующие меры во взаимодействии с правоохранительными органами.