¿Tecnología Geek te ahorra tiempo? Agréganos como tu fuente preferida en Google y ve más noticias nuestras en tus resultados. Fuente preferida en Google
El chatbot de WhatsApp, con instrucciones secretas, quedó al descubierto este 19 de octubre luego de que unas 80 páginas del portal oficial de ayuda de la aplicación expusieran por error los comandos directos con los que Meta entrena y modera a su asistente. La filtración, documentada por una investigación de la firma de privacidad Redact y publicada por WIRED, destapó secciones completas dedicadas a prohibiciones explícitas tituladas «WHAT NOT TO SAY», donde los ingenieros ordenaban al sistema esquivar temas sensibles y ocultar funciones futuras no lanzadas.
La matriz tecnológica atribuyó el fallo a un error de código interno que publicó borradores privados en la web abierta.
Nadie tuvo que reventar firewalls ni ejecutar inyecciones de código complejas desde terminales clandestinas. Los textos estaban a la vista de cualquier visitante que navegara por los artículos de soporte técnico en busca de ayuda para su cuenta. Cuando un usuario acudía a resolver un problema común con su aplicación, el navegador web mostraba en pantalla los párrafos de texto que los desarrolladores cargaban en el motor computacional para fijar las reglas internas del bot y limitar sus respuestas.
Las frases prohibidas y el control de daños corporativo
El bloque más revelador del documento filtrado lleva por título la advertencia directa sobre qué evitar ante el público. Las directrices exigen al asistente que no mencione, bajo ninguna circunstancia, herramientas comunitarias que aún se encuentren en fase de pruebas internas o que no cuenten con disponibilidad general en la plataforma. La intención de la compañía es evitar que su propio algoritmo conversacional filtre accidentalmente sus próximos pasos comerciales.
Otro apartado llamativo aborda la interacción con personas sordas o con dificultades auditivas. El manual advertía al agente que la frase «soy sordo» describe a la persona y no un fallo de audio: era una nota de protección, para que el asistente no tratara esa declaración como un problema técnico ni descartara esos comentarios.
La compañía tecnológica admitió, en una declaración entregada al periodista Matt Burgess de la revista Wired, que un fallo informático provocó la exposición de las plantillas de entrenamiento en los directorios públicos del centro de ayuda. Los administradores retiraron las páginas apenas el medio de comunicación solicitó comentarios formales, aunque los registros ya circulaban en repositorios de respaldo y foros comunitarios.
Este descuido no ocurre en el vacío. La integración acelerada de modelos autónomos en servicios masivos viene generando fricciones operativas similares, como ocurrió cuando Meta impulsó su asistente corporativo para automatizar respuestas comerciales en pequeños negocios sin prever que los límites de respuesta podían desbordarse ante consultas fuera de libreto.
La fragilidad de los comandos de sistema frente a la web
La filtración pone en evidencia un dilema que persigue a toda la industria de la computación cognitiva: la fragilidad de las instrucciones base o indicaciones del sistema. Estas directivas operan como el alma del comportamiento de la máquina, dictando el tono de voz, el límite de tolerancia y las respuestas de escape cuando un cliente pregunta algo incómodo. Si esa capa queda expuesta al público, cualquier atacante aprende en minutos qué palabras exactas provocan que el sistema baje la guardia o entregue respuestas contradictorias.
En el caso de la plataforma de mensajería verde, la situación cobra mayor gravedad debido al gran número de personas que interactúan a diario con el servicio. Un cliente que sospeche de bloqueos indebidos o de cargos automáticos acude al soporte esperando una resolución humana o un protocolo transparente. Encontrarse con que el interlocutor digital tiene órdenes precisas de desviar la conversación o silenciar planes futuros genera una sensación inmediata de desconfianza.
El incidente reitera que los sistemas de automatización conversacional dependen de una arquitectura de software web tradicional que sigue siendo propensa a errores de configuración humana. Bastó con un error en la sincronización de contenidos del gestor web para que borradores de ingeniería confidenciales terminaran indexados como artículos de preguntas frecuentes para el público general.
Medidas de contención en los servidores de la plataforma
El equipo técnico de Menlo Park asegura haber limpiado las rutas afectadas y reforzado los filtros de publicación en sus repositorios de documentación para evitar que nuevas directivas de entrenamiento salgan al aire sin la aprobación del departamento de seguridad. El archivo de páginas corregidas permanece bajo observación en comunidades de análisis informático para detectar si otros productos de la empresa arrastran exposiciones similares en sus manuales de usuario.
Fuente: https://www.wired.com/
La conversación sigue en el foro
Comenta esta noticia, pregunta lo que quieras y comparte tu experiencia con otros lectores en el foro de Tecnología Geek. Participar es gratis: solo necesitas tu cuenta del sitio.
Entrar al foro
