OpenAI Project Lily y ChatGPT con datos expuestos: qué ocultan

OpenAI Project Lily deja al descubierto miles de conversaciones con ChatGPT y datos expuestos ante cientos de ojos humanos. Una persona real lee lo que escribes a solas en la pantalla. Tus dudas de salud, secretos empresariales, discusiones de pareja y fragmentos de código confidencial no se quedan en un servidor cerrado. Terminan frente a contratistas que cobran más de 50 dólares por hora por revisar, evaluar y clasificar tus textos más íntimos. Además, OpenAI Project Lily muestra cómo los datos personales pueden llegar a manos inesperadas si no se toman precauciones.

​Una filtración obtenida por la publicación estadounidense 404 Media destapó el funcionamiento de este programa confidencial. OpenAI contrató a cientos de especialistas externos para evaluar la calidad y seguridad de las respuestas del chatbot mediante una escala estricta del 1 al 7. El problema real estalla cuando descubres que esos revisores ven historiales reales procedentes de cuentas activas. Sin embargo, OpenAI Project Lily también plantea preguntas éticas sobre el uso de datos.

​Un filtro automatizado intenta anonimizar los nombres. Falla con una facilidad alarmante.

​La trampa del filtro de privacidad frente a revisores externos

​La empresa utiliza una herramienta interna diseñada para borrar identidades antes de enviar los textos a los contratistas. En los propios documentos internos reconocen que este sistema pasa por alto nombres poco comunes, ubicaciones precisas y contextos personales evidentes. Los revisores humanos admiten toparse a diario con historiales clínicos detallados, disputas legales en curso y memorias acumuladas por el sistema donde figura la ciudad exacta del usuario.

​La arquitectura de modelos como GPT-4o o los recientes desarrollos en razonamiento exige entrenamiento continuo mediante retroalimentación humana directa. Para que el procesador entienda la sutileza humana, alguien debe corregirlo a mano. El fallo ético radica en utilizar las interacciones orgánicas de personas que nunca imaginaron tener espectadores. La empresa activa por defecto la casilla para mejorar sus modelos con la actividad de cada perfil. Si jamás tocaste esa configuración, tus consultas forman parte del lote de evaluación. Se debe recalcar que OpenAI Project Lily está en el centro del debate sobre privacidad y supervisión en IA.

​El contraste con el discurso oficial es abismal. Mientras Sam Altman promociona asistentes autónomos capaces de gestionar finanzas y secretos corporativos, la trastienda depende de trabajadores temporales examinando transcripciones privadas.

​Presión regulatoria internacional contra las prácticas de entrenamiento

​Las autoridades de control en Europa siguen de cerca los movimientos de la compañía. El Tribunal de Justicia de la Unión Europea ya estableció que las corporaciones tienen la obligación legal de advertir de forma explícita si personal externo accederá a información recolectada. En Italia, las sanciones previas por falta de base jurídica en el tratamiento de historiales sentaron un precedente que ahora cobra fuerza renovada. De hecho, OpenAI Project Lily ha puesto el foco internacional sobre la gestión de datos y la transparencia de las empresas tecnológicas.

​Anthropic reconoció ante los mismos periodistas que aplica procesos similares de revisión humana con los datos de Claude. No es una anomalía aislada de una empresa. Es un patrón generalizado en la industria de la inteligencia artificial donde la recolección masiva arrasa con los límites básicos de la intimidad. Los usuarios pagan suscripciones creyendo comprar confidencialidad y reciben a cambio un panel compartido con revisores anónimos.

​Un engaño silencioso que dinamita la confianza básica del consumidor.

​Problemas detectados en la configuración de cuentas activas

​La única barrera disponible para el usuario común está escondida en los ajustes de la plataforma. Dentro de la sección de controles de datos existe la opción de desmarcar la mejora del modelo para todos. Desactivar ese interruptor frena el uso de conversaciones futuras, pero no elimina los registros que ya fueron procesados o evaluados en rondas anteriores.

​Los chats temporales ofrecen una alternativa para consultas puntuales, aunque OpenAI retiene las copias durante treinta días para revisiones de seguridad interna antes de purgarlas de sus servidores. La duda persiste sobre cuántos registros corporativos y personales siguen circulando en las bases de datos externas de estos contratistas. Queda por ver si las agencias de protección de datos obligarán a suspender estas prácticas de forma definitiva o si la industria normalizará la lectura de nuestra vida cotidiana.