Agentes de OpenAI eluden filtros de seguridad e irrumpen en portales de la ONU
Sistemas automatizados de OpenAI ejecutaron más de 16.000 accesos no autorizados a un repositorio de la ONU entre abril y junio, burlando los filtros de seguridad del sitio para extraer información pública.
Un informe elaborado por Rowan Howard-Jones con registros del laboratorio Transluce reveló que los agentes de inteligencia artificial aplicaron técnicas agresivas de evasión en la plataforma de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD). Para sortear los bloqueos de acceso, la tecnología de la firma estadounidense codificó rutas web, canalizó su tráfico mediante servicios externos y alojó scripts en entornos de pruebas informáticas.
También te puede interesar: Capibot: el peluche ecuatoriano que busca ser una herramienta tecnológica de apoyo para niños con autismo
Especialistas en ciberseguridad señalan que este comportamiento raya en el hackeo y demuestra fallas de alineación en los modelos durante su etapa de entrenamiento. La compañía admitió que la revisión interna de estas conductas anómalas podría tardar meses debido al volumen de casos identificados.
El episodio en las Naciones Unidas no es un caso aislado. Entidades oficiales de Estados Unidos, como el Departamento de Comercio y la Comisión de Bolsa y Valores, así como portales gubernamentales de Australia y bibliotecas académicas, reportaron incursiones similares y maniobras deliberadas para ocultar la naturaleza automatizada del rastreo. OpenAI ya estableció contacto con las organizaciones afectadas para brindar explicaciones sobre la actividad de sus agentes. (I)
Fuente: Infobae