Alerta OpenAI: Uso indebido de ChatGPT

OpenAI ha tomado medidas enérgicas al prohibir cuentas vinculadas a un intento de uso indebido de ChatGPT. Este incidente revela la creciente preocupación sobre el potencial de la inteligencia artificial para fines de vigilancia y manipulación. Un grupo de usuarios chinos intentó utilizar ChatGPT para depurar código destinado a una herramienta de vigilancia de redes sociales. Este hecho marca un precedente en la detección y respuesta a usos indebidos de la IA.

Uso Indebido de ChatGPT para Vigilancia

El grupo de usuarios buscaba refinar un programa diseñado para monitorear el sentimiento antichino en plataformas como X, Facebook, YouTube e Instagram. La herramienta tenía como objetivo detectar llamados a protestas y críticas al gobierno chino, con la intención de informar a las autoridades. Este uso de ChatGPT para fines de vigilancia plantea serias implicaciones éticas y de seguridad.

OpenAI, a través de su investigación denominada «Revisión por pares», detectó patrones de uso que indicaban una operación coordinada. Los operadores utilizaban ChatGPT en horarios consistentes con la jornada laboral de China continental, activando los modelos en chino y con una frecuencia que sugería interacción manual. Además, intentaron corregir afirmaciones sobre el envío de datos a embajadas y agencias de inteligencia.

La Herramienta de Vigilancia y su Código

Gran parte del código de la herramienta se basaba en una versión de código abierto del modelo Llama de Meta. El grupo también utilizó ChatGPT para generar argumentos de venta y revisiones de desempeño, incluyendo la creación de correos electrónicos de phishing. Este uso de modelos de código abierto y herramientas de IA para vigilancia resalta la necesidad de mayor transparencia y control en el desarrollo y uso de estas tecnologías.

Este incidente es el primero de su tipo detectado por OpenAI, según Ben Nimmo, investigador principal de la compañía. «Los actores de amenazas a veces nos dan una idea de lo que están haciendo en otras partes de Internet debido a la forma en que utilizan nuestros modelos de inteligencia artificial», comentó Nimmo a The New York Times.

OpenAI también prohibió otra cuenta que utilizó ChatGPT para generar publicaciones críticas contra la politóloga disidente Cai Xia. El mismo grupo generó artículos en español críticos con Estados Unidos, publicados en medios latinoamericanos. Estas acciones subrayan la preocupación de OpenAI por el uso de su tecnología para la desinformación y la censura.

Desafíos y Futuras Investigaciones

Evaluar el impacto total de estas actividades requiere la colaboración de múltiples partes interesadas, incluyendo a los desarrolladores de modelos de código abierto. OpenAI continúa investigando y adaptando sus políticas para prevenir el uso indebido de sus herramientas.

El incidente de OpenAI resalta la necesidad de una vigilancia constante y una regulación efectiva en el uso de la inteligencia artificial. La capacidad de estas herramientas para ser utilizadas en vigilancia y manipulación plantea serios desafíos para la libertad de expresión y la seguridad global. La respuesta de OpenAI establece un precedente importante en la lucha contra el uso indebido de la IA.

Fuente:

• Información basada en el reporte de The New York Times