Cómo construimos el novedoso sistema de anuncios de ChatGPT para la confianza y relevancia del usuario

OpenAI construyó un sistema de anuncios a medida para ChatGPT con el fin de mostrar anuncios relevantes sin comprometer la confianza del usuario ni la voz neutral del chatbot. A diferencia de los sistemas tradicionales de solicitud-respuesta, el flujo conversacional de ChatGPT requiere comprender la intención cambiante del usuario a lo largo de múltiples turnos y sesiones. El sistema utiliza un modelo de lenguaje grande post-entrenado como orquestador, que realiza llamadas a herramientas para recuperación, clasificación, evaluación de relevancia y gestión de subastas. Las decisiones clave de diseño incluyen sesiones de anuncios con estado, un servicio de anuncios separado que se ejecuta junto a la generación de respuestas de ChatGPT y un mecanismo de subasta independiente. El orquestador interpreta el contexto de la conversación, reescribe consultas en incrustaciones semánticas, recupera un amplio grupo de candidatos, los filtra por elegibilidad, puntúa la relevancia y nomina anuncios para la subasta. Las verificaciones finales aseguran la idoneidad contextual y la entrega oportuna. Los anuncios se entregan del lado del servidor y solo se muestran si llegan antes de que se complete la respuesta del chat. El registro y la evaluación basada en modelos crean un bucle de auto-mejora, mientras que la retroalimentación humana guía la dirección del producto. En 200 días, este sistema alcanzó una tasa de ingresos anualizados de mil millones de dólares con más de 100,000 anunciantes, utilizando Codex para acelerar el desarrollo.

(Fuente：OpenAI)