Deepfakes en los juicios y pruebas falsas con IA

Los deepfakes en los juicios ya obligan a repensar las pruebas falsas con IA: un video nítido, con voz convincente, puede nacer en una laptop en minutos y terminar presentado como evidencia ante un juez que no tiene una herramienta fiable para desmentirlo.

Eso advirtieron este jueves en Boston especialistas de OpenAI y Meta ante el Comité Asesor sobre Normas Probatorias de la Conferencia Judicial de Estados Unidos, según Reuters. El comité debate desde 2023 cómo autenticar audio y video cuando la inteligencia artificial generativa, la que crea imágenes y sonidos a partir de órdenes de texto, ya fabrica piezas que engañan al ojo y también al software de detección.

Un video ya no prueba lo que pasó

Shira Anderson, asesora de políticas de OpenAI, lo planteó sin rodeos ante el comité: las imágenes generadas por IA siguen mejorando y ella no cree que exista, hacia adelante, una vía científica para detectarlas. La frase pesa porque viene de una de las empresas que crean estos modelos, no de un crítico externo.

Devin Norder, director de gestión de producto de Meta, aportó el otro dato incómodo. El material que sale de los modelos más avanzados resulta indistinguible del auténtico para una persona, y producirlo cuesta muy poco tiempo y muy poco dinero. Antes, falsificar un video creíble pedía estudio, actores y edición. Eso se acabó.

El efecto práctico se entiende con un caso simple. Un accidente de tránsito, una disputa laboral o una pelea grabada por un vecino: si una parte presenta el video y la otra lo acusa de falso, el juez debe decidir con qué criterio lo acepta. Y si el video es auténtico, la mera duda ya le resta fuerza. El engaño gana dos veces: cuela lo falso y desgasta lo verdadero.

OpenAI y Meta venden a la vez herramientas para verificar contenido visual, y California junto a la Unión Europea exigen marcas de agua, esas señales incrustadas que identifican un archivo creado por IA. El problema, advirtió Anderson, es que cada compañía usa su propio sistema. Ningún método universal permite revisar todas las marcas ni confirmar el origen de cualquier pieza, y ninguna defensa será a prueba de todo.

931 jueces consultados, apenas 15 casos impugnados

El choque entre riesgo y realidad aparece en una encuesta del Centro Judicial Federal, el brazo investigador del poder judicial estadounidense. De 931 jueces que respondieron en marzo, solo 15 habían visto un caso donde una parte impugnara una prueba por considerarla un deepfake. Quince entre 931.

Jesse Furman, juez de distrito en Manhattan y presidente del comité, reconoció esa brecha durante la reunión. Abunda el comentario académico que anticipa tribunales llenos de deepfakes en los juicios, admitió, pero los casos reales todavía asoman poco. El comité busca adelantarse a un problema que aún no estalla en los expedientes.

Esa calma puede engañar. Las reglas de evidencia tardan años en cambiar, y el comité lleva tres debatiendo si el material generado por IA debe cumplir el mismo estándar de fiabilidad que se exige al testimonio de un perito humano. Cuando la norma llegue, la tecnología ya habrá dado dos vueltas más.

Para el lector hispano el asunto no queda lejos. Buena parte de los procesos que tocan a la comunidad (migración, familia, empleo, vivienda) dependen de audios, fotos y videos guardados en un teléfono. Si ese material pierde credibilidad por defecto, quien tiene la razón y solo guarda un video como respaldo queda en desventaja frente a quien puede pagar un perito.

Marcas de agua y autenticación: lo que se mueve en 2026

Puerto Rico ensaya su propia respuesta. Los Proyectos de la Cámara 1098 y 1099, presentados por el representante José Pérez Cordero, proponen que toda controversia sobre prueba creada o manipulada con IA se discuta en el informe preliminar entre abogados, antes del juicio, y crear un inciso específico sobre autenticación y admisibilidad de ese material en las Reglas de Evidencia, de acuerdo con Prensa Abierta. Ambas medidas esperan memoriales ante la Comisión de lo Jurídico.

Louisiana avanzó antes. Su Ley 250 de 2025 obliga al abogado a verificar con diligencia razonable la autenticidad de la prueba antes de ofrecerla, con consecuencias disciplinarias si presenta material falso o manipulado conociendo el riesgo. La misma línea siguió Europa con la ley de deepfakes en Dinamarca, que ataca la creación de contenido sin consentimiento desde el origen.

Guardar el archivo original gana valor con este escenario. La copia editada, recortada o reenviada por una aplicación de mensajería pierde metadatos, esos datos internos que registran fecha, equipo y lugar de captura. El original, conservado sin tocar, facilita la revisión pericial y sostiene la cadena de custodia, el registro de quién tuvo el archivo y cuándo.

Los deepfakes en los juicios y las pruebas falsas con IA comparten un frente que las empresas dueñas de los modelos acaban de describir con franqueza rara: la detección pierde la carrera. OpenAI habla de marcas que nunca serán blindadas. Meta describe falsificaciones imposibles de distinguir a simple vista.

Queda un dato concreto sobre la mesa de Boston: el comité cerró la reunión de este jueves 15 de octubre sin una regla nueva aprobada, con el debate abierto desde 2023 y dos proyectos puertorriqueños esperando turno en comisión.

Fuente: Reuters