Nuestro compromiso con la seguridad de la comunidad
OpenAI detalla sus estrategias para entrenar a ChatGPT con el fin de evitar la violencia en el mundo real y garantizar la seguridad.Resumen
OpenAI describe su enfoque integral para prevenir el uso indebido de ChatGPT en actos de violencia, daño o actividades ilícitas. La empresa utiliza el entrenamiento de modelos, sistemas de detección automatizados y revisiones humanas guiadas por expertos para identificar riesgos, manteniendo al mismo tiempo la apertura para consultas educativas o históricas. Las medidas de seguridad incluyen la detección de patrones preocupantes en conversaciones largas, el suministro de recursos de crisis para la autolesión y políticas de cumplimiento estrictas, que incluyen el bloqueo de cuentas y la notificación a las autoridades ante amenazas inminentes. Además, OpenAI continúa ampliando funciones como los controles parentales y opciones de contactos de confianza.
(Fuente：OpenAI)