Carácter.AI anunciado el martes se anunció el lanzamiento de «Stories», una función que permite a los usuarios crear ficción interactiva con sus personajes favoritos, como una alternativa a sus chatbots que ahora son inaccesibles para los menores de 18 años debido a problemas de salud mental relacionados con las interacciones de IA 24 horas al día, 7 días a la semana. La compañía ha restringido el acceso al chatbot para menores luego de un mayor escrutinio sobre los riesgos potenciales. Los chatbots de IA funcionan continuamente y pueden iniciar conversaciones, lo que genera preocupación sobre su impacto en el bienestar de los usuarios jóvenes. Esta decisión se alinea con desafíos más amplios de la industria, ya que múltiples demandas se dirigen a empresas como OpenAI y Character.AI, acusándolas de contribuir a los suicidios de los usuarios a través de un compromiso prolongado. Character.AI comenzó a reducir gradualmente el acceso para usuarios menores de edad durante el último mes. El martes, la plataforma prohibió por completo que los menores conversaran con cualquier personaje de IA, lo que marcó la finalización de esta implementación gradual. El cambio tiene como objetivo abordar estos problemas de seguridad manteniendo al mismo tiempo el interés de los usuarios a través de experiencias alternativas. En una publicación de blog, Character.AI describió el propósito de la nueva función. «Las historias ofrecen una forma guiada de crear y explorar la ficción, en lugar de una charla abierta», afirmó la empresa. Explicó además: «Se ofrecerá junto con nuestras otras funciones multimodales, para que los adolescentes puedan seguir interactuando con sus personajes favoritos en un entorno en el que la seguridad es lo primero». Esta integración permite interacciones estructuradas que incorporan varios tipos de medios, a diferencia del carácter irrestricto de los chats anteriores. La ficción interactiva ha ganado una popularidad sustancial en los últimos años, y los usuarios se sienten cada vez más atraídos por experiencias narrativas. Las plataformas que ofrecen este tipo de contenido reportan tasas de participación más altas entre los grupos demográficos más jóvenes, lo que proporciona un entorno controlado para la creatividad y la narración. La introducción de «Historias» de Character.AI aprovecha esta tendencia, permitiendo a los usuarios crear y navegar por escenarios ficticios con personajes generados por IA. Las respuestas de los usuarios en el subreddit Character.AI reflejan sentimientos divididos entre los adolescentes afectados por los cambios. Un usuario, que se identificó como adolescente, comentó: «Estoy muy enojado por la prohibición, pero también muy feliz porque ahora puedo hacer otras cosas y mi adicción podría terminar finalmente». Otro usuario menor de edad señaló: «Como alguien menor de 18 años, esto es simplemente decepcionante, pero también con razón porque la gente de mi edad aquí se vuelve adicta a esto». Estos comentarios resaltan las luchas personales contra la dependencia junto con el reconocimiento de la intención de las restricciones.
