¿Tecnología Geek te ahorra tiempo? Agréganos como tu fuente preferida en Google y ve más noticias nuestras en tus resultados. Fuente preferida en Google
Los deepfakes hechos con IA generativa ya no se combaten solo al detectarlos: Europa quiere impedir que nazcan.
El Instituto Europeo de Normas de Telecomunicaciones (ETSI) publicó la especificación TS 104 275 V1.1.1, un documento de requisitos para que quienes desarrollan y operan sistemas de inteligencia artificial generativa reduzcan el riesgo de producir imágenes, videos y audios falsos capaces de pasar por reales. TeleSemana informó la publicación este 29 de octubre y Telecoms.com la reportó el mismo día; el texto completo quedó disponible para descarga en el portal del organismo.
Prevenir el engaño antes de detectarlo
Buena parte de la respuesta contra el contenido sintético se concentró en detectores: programas que revisan un video o un audio cuando el material ya circula y el daño empieza a correr. La especificación mueve la intervención a las etapas previas al despliegue y trata la prevención como un asunto de seguridad y de gobierno del sistema durante toda su vida útil.
El documento aplica a la IA generativa los principios de ciberseguridad de la norma ETSI EN 304 223, la referencia del organismo para modelos y sistemas de inteligencia artificial. Son trece principios repartidos en cinco fases: diseño seguro, desarrollo seguro, despliegue seguro, mantenimiento seguro y fin de vida seguro. Cada fase carga controles propios, desde evaluar amenazas en el diseño hasta disponer de los datos y del modelo cuando el sistema se retira.
Alex Cadzow, relator y secretario del Comité Técnico de Seguridad de la Inteligencia Artificial del ETSI, explicó el motivo en declaraciones difundidas por TeleSemana: el material engañoso o ilegal puede crearse con el uso indebido de programas comerciales disponibles de forma legal. «A medida que los deepfakes se vuelven más generalizados, las organizaciones de IA necesitan apoyo para abordar los riesgos mucho antes, comenzando por cómo se diseñan los sistemas generativos de IA», declaró Cadzow. La frase marca el cambio de enfoque: el problema ya no se espera en la puerta de salida, se ataca en el taller.
Lo que pide la especificación a cada equipo
El primer bloque de exigencias cae sobre la etapa previa al lanzamiento. Desarrolladores y operadores deben evaluar los posibles usos indebidos de su sistema antes de ponerlo en servicio, montar procesos de revisión e intervención humana y mantener controles activos durante la operación. El paquete incluye filtros de contenido, identificación del material generado por IA, advertencias a los usuarios sobre límites de precisión y rutas definidas para responder cuando un modelo entrega resultados incorrectos o inventados.
Otro bloque mira los datos. Una persona debe saber si su contenido se usará para adaptar o entrenar un modelo, con opción de aceptar o rechazar ese uso. La empresa, por su parte, tiene que acreditar que accedió a los datos de entrenamiento de forma legal o con licencia, y guardar procedimientos para gestionar reclamos por infracciones.
La verificación ocupa el tercer bloque, y trae el detalle que separa una declaración bonita de un control real. La especificación exige documentación, registros y pruebas que permitan comprobar si los controles se implantaron y si funcionan. Incorpora escenarios con criterios de aprobación o rechazo y menciona las pruebas adversariales, ejercicios en los que un equipo intenta romper las defensas del propio sistema. Entre los ejemplos figura repetir una misma instrucción en distintos idiomas para comprobar que una restricción no se evade cambiando de lengua, un truco viejo que sigue funcionando en más de un producto.
El alcance del riesgo descrito en el documento tampoco se queda en la desinformación política. ETSI pondera fraude, robo de identidad, extorsión e imágenes íntimas no consentidas, delitos que ya usan voces clonadas y rostros falsos para vaciar cuentas y presionar víctimas. El riesgo dejó de ser teórico en las cortes, donde los deepfakes y las pruebas falsas con IA ya obligan a jueces a dudar de grabaciones que antes se aceptaban sin discusión.
Efectos para operadores y lectores fuera de Europa
Un punto que conviene leer con calma: la TS 104 275 no es una obligación legal por sí misma. TeleSemana lo aclara en su nota: la especificación puede servir de referencia para desarrollar, para formular una evaluación de conformidad, para una contratación o para una supervisión cuando una organización, un contrato o una autoridad la adopta. El ETSI afirma que el documento respalda los objetivos de la Ley de Inteligencia Artificial de la Unión Europea, conocida como AI Act, y lleva esas prácticas de seguridad a sistemas que no cargan la etiqueta de alto riesgo.
Para los operadores de telecomunicaciones que desarrollan o administran sistemas propios de IA generativa, el efecto práctico es convertir la prevención en gestión continua: evaluar riesgos antes del lanzamiento, conservar evidencia de los controles, vigilar el comportamiento de los modelos y comunicar incidentes. Para quien lee desde América Latina, el alcance llega por otra vía: las plataformas globales suelen aplicar en todos sus mercados los filtros y las etiquetas que Europa les pide en casa.
El propio organismo reconoce que ningún control eliminará el riesgo por completo, y esa admisión forma parte del valor del documento. La TS 104 275 queda publicada con un anexo de conformidad lleno de casos de prueba con resultado de aprobado o reprobado; la discusión que abre ahora es qué plataformas la adoptarán como referencia en sus contratos y qué proveedores podrán demostrar, con registros en la mano, que sus sistemas pasan esas pruebas.
Fuente: TeleSemana
Foto: Stanislav Vlasov vía TeleSemana
La conversación sigue en el foro
Comenta esta noticia, pregunta lo que quieras y comparte tu experiencia con otros lectores en el foro de Tecnología Geek. Participar es gratis: solo necesitas tu cuenta del sitio.
Entrar al foro


















