The Facebook insider building content moderation for the AI era
Brett Levenson fundó Moonbounce para abordar los desafíos de la moderación de contenido con un enfoque de 'política como código', obteniendo una financiación de 12 millones de dólares.Resumen
El exdirector de integridad empresarial de Facebook, Brett Levenson, fundó Moonbounce después de darse cuenta de que los problemas de moderación de contenido provenían de problemas más profundos que solo la tecnología. Los revisores humanos luchaban con políticas complejas y la toma de decisiones rápida, lo que generaba imprecisiones. Moonbounce ofrece una solución de 'política como código', utilizando un modelo de lenguaje grande para evaluar el contenido en tiempo real y hacer cumplir las políticas, con el objetivo de proporcionar una capa de seguridad para el contenido generado por el usuario y por la IA. La compañía actualmente atiende a plataformas como aplicaciones de citas, compañeros de IA y generadores de imágenes, procesando más de 40 millones de revisiones diarias. La tecnología de Moonbounce se centra en medidas de seguridad proactivas, incluida la posible 'dirección' de las conversaciones lejos de temas dañinos, y Levenson espera mantener la tecnología ampliamente accesible, incluso considerando posibles ofertas de adquisición.
(Fuente：TechCrunch)