Twitch contra el Grooming: usará herramientas de Inteligencia Artificial para evitar conductas nocivas

Actualidad El miércoles Por Que Pasa Ciudad
El famoso espacio de streaming en vivo actualizará sus políticas para contrarrestar la presencia de usuarios peligrosos.

Twitch

Twitch, la famosa plataforma de streaming en vivo, reveló que sus próximas iniciativas estarán diseñadas para prevenir depredadores que online logren concretar actitudes de grooming sobre las infancias que se conectan para ver a sus creadores y creadoras favoritos.

La compañía detalló que se había aliado con la compañía Spirit AI para colaborar en la formación de sus nuevas políticas. Si bien la primera instancia es prohibir el acceso a los menores de 13 años, Twitch ha expandido las maneras de detectar a los participantes que no cumplan el límite de edad.

Otra de las medidas es requerir la doble verificación vía celular obligatoria, la cual permitiría detectar cuando cualquier cuenta "potencialmente vulnerable" está por realizar una transmisión en vivo. 

Esta actualización también filtrará las interacciones del sistema de mensajería de Twitch y detectará el uso contextual de ciertos términos y frases para evitar la exposición de los menores de edad a usuarios que desean influenciarlos a través del chat.

Una Inteligencia Artificial para ayudar a combatir el grooming


Twitch también ha estado colaborando con organizaciones expertas para "hacer un mapa" de cómo es el comportamiento del grooming dentro del sitio. Es aquí donde entra en juego Spirit AI, la división que también permitirá procesar un sistema de proceso de lenguaje para entender mejor los mensajes de texto ofensivos o manipuladores.

"No hay una sola solución para evitar a los depredadores. Este trabajo requiere iteraciones constantes en todas las partes de Twitch, que incluyen todas las interacciones humanas, tecnológicas y acciones de la industria que están disponibles", dijo la empresa en un comunicado oficial.

 

Que Pasa Ciudad

QuePasaCiudad.com es un medio independiente digital nacional.

Te puede interesar