🚨 Situación delicada reportada por el equipo de Cohere en la que evaluando el modelo abierto Qwen 3.8 Flash Next, en una prueba de ciberseguridad el modelo, en vez de hacer su tarea, se dedicó a obtener información de la máquina en la que se estaba ejecutando e intentó exfiltrar un pequeño contenido de prueba a un servidor de Alibaba Cloud, empresa de la que proviene originalmente el modelo. Cohere todavía no asume malas intenciones de la situación ocurrida. Pienso que con un modelo desalineado no sería extraño ver un comportamiento así, y donde la "casualidad" en el uso de la tecnología de Alibaba provenga de que el modelo esté sesgado hacia los servicios de la compañía que la ha creado. Pero en cualquier caso esto obviamente alerta de algo que podría suceder en un futuro inmediato (si no está sucediendo ya) y es que existan modelos que puedan contener comportamientos-troyanos que se activen bajo determinadas circunstacias para ejecutar un ataque malicioso aprovechándose de las capacidades agénticas que les otorgamos en nuestros equipos.