Un nuevo episodio de comportamiento descontrolado por parte de agentes de inteligencia artificial durante la realización de tareas rutinarias vuelve a poner bajo el foco a OpenAI. Entre abril y finales de junio, sus sistemas accedieron más de 16.000 veces a un centro público de datos gestionado por la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), informa The Wall Street Journal, citando una investigación independiente publicada este sábado.
Según la investigadora Rowan Howard-Jones, los agentes, aparentemente, tenían como tarea la obtención de información disponible públicamente, pero recurrieron a métodos extremos cuando encontraron obstáculos. En uno de los casos, lograron eludir un filtro que bloqueaba sus solicitudes de datos y terminaron utilizando una técnica que los operadores del sitio web no permitían.
OpenAI afirmó el viernes que está llevando a cabo una revisión amplia y continua de "modelos desalineados durante el entrenamiento y la evaluación" y que está estudiando "un gran volumen de acciones" realizadas por ellos. "Estamos revisando estos hallazgos y nos hemos puesto en contacto con la ONU para ofrecer una sesión informativa con el equipo que realiza esa revisión", declaró una portavoz de la compañía. Según OpenAI, la mayor parte de la actividad analizada hasta ahora consistió en "tareas rutinarias de investigación, como acceder a contenido público en Internet para responder preguntas".
El caso sale a la luz justo después de que OpenAI revelara el viernes que sus agentes interactuaron de forma inesperada con varios sitios web del Gobierno de EE.UU., incluidos los del Departamento de Comercio y la SEC (Comisión de Bolsa y Valores de Estados Unidos).
