En Resumen
- Roblox anunció que su nuevo sistema de IA reformulará mensajes inapropiados en tiempo real en lugar de reemplazarlos con cadenas de símbolos.
- La función está disponible solo entre usuarios con verificación de edad en grupos similares y fue desarrollada con su Teen Council.
- Roblox también actualizó su filtro para detectar leetspeak, sustituciones de letras por números usadas para evadir la moderación.
La popular plataforma de videojuegos en línea Roblox está reemplazando las cadenas de signos de numeral que aparecen cuando su filtro de chat detecta groserías, con versiones reformuladas por IA de los mensajes marcados, según anunció la empresa el jueves.
La función, denominada reformulación de chat en tiempo real, modifica las groserías en los mensajes para que las conversaciones sigan siendo legibles en lugar de aparecer como texto bloqueado.
"Por ejemplo, un mensaje que viola las políticas de lenguaje inapropiado de Roblox, como '¡Apúrate TF!' antes aparecía como '####' en el chat dentro del juego", señaló la empresa. "Ahora será reformulado como '¡Apúrate!'".
Según el vicepresidente de Producto de Usuario y Descubrimiento de Roblox, Rajiv Bhatia, este nuevo diseño busca mantener la civilidad reformulando el lenguaje y reemplazando las "señales de alto" con palabras reales.
"El chat es fundamental para cómo las personas se conectan, coordinan y juegan en Roblox", afirmó Bhatia en un comunicado. "La reformulación en tiempo real ayuda a mantener el ritmo del juego y las conversaciones encaminadas, orientando el lenguaje hacia lo apropiado".
En mayo de 2025, Roblox introdujo advertencias en tiempo real que alertan a los usuarios cuando sus mensajes pueden violar las normas de la plataforma, instándolos a reconsiderar su redacción.
"En experimentos realizados el año pasado, Roblox observó que emitir notificaciones de chat de texto y tiempos de espera dentro del juego resultó en una reducción del 5% en los mensajes de chat filtrados y una reducción del 6% en las consecuencias derivadas de reportes por abuso", indicó la empresa.
Sin embargo, a pesar de esta disminución, Roblox señaló que el nuevo cambio aborda un problema de larga data en el que el lenguaje filtrado aparece como cadenas de caracteres aleatorios, lo que puede dificultar el seguimiento de los chats durante el juego.
Si bien los jugadores en el chat son notificados cuando un texto es reformulado, la empresa afirma que el nuevo sistema no modifica sus políticas de cumplimiento para el lenguaje inapropiado.
"Para ser claros, cuando reformulamos un mensaje que viola nuestra política de groserías, sigue siendo una violación y las mismas reglas continúan aplicándose", agregó Bhatia en un comunicado separado el jueves. "Un usuario que siga intentando usar groserías en el chat enfrentará las mismas consecuencias por violar repetidamente nuestra política".
Roblox indicó que la función de reformulación está disponible únicamente en chats entre usuarios con verificación de edad en grupos etarios similares, y es compatible con todos los idiomas disponibles actualmente a través de las herramientas de traducción automática de la plataforma. Para entender cómo hablan los jugadores adolescentes durante el juego, Roblox señaló que la nueva función de reformulación fue desarrollada en colaboración con miembros de su Teen Council.
La empresa también está actualizando su sistema de filtrado de texto para detectar mejor los intentos de evadir las reglas de moderación, incluyendo variaciones del lenguaje que sustituyen letras por números o símbolos, conocidas como leetspeak.
La reformulación de chat de Roblox forma parte de una tendencia creciente en la industria del videojuego, donde las empresas utilizan cada vez más la IA para moderar el comportamiento de los jugadores en juegos multijugador. En 2024, Activision informó que más de 2 millones de cuentas fueron marcadas por chats disruptivos tras implementar su sistema de moderación con IA ToxMod en varios títulos de Call of Duty. La empresa señaló que la herramienta ayudó a reducir la reincidencia y a disminuir los casos más graves de chat de voz disruptivo.
Roblox también ha ampliado su uso de IA en toda la plataforma. En febrero de 2024, la empresa introdujo la traducción de chat con IA en tiempo real, que permite a los jugadores comunicarse en más de 16 idiomas en el chat de Roblox.
"Este es un enfoque audaz y nuevo, y no siempre reformularemos las cosas a la perfección", afirmó Bhatia sobre la última iniciativa, añadiendo que la empresa continuará aprendiendo y experimentando con la función. "Nuestro objetivo final es empoderar a los usuarios para que colaboren y se conecten de una manera que sea tanto divertida como respetuosa".
Roblox no respondió de inmediato a una solicitud de comentarios de Decrypt.