Investigadores advierten que agentes de IA podrían convertirse en botnets mediante alucinaciones

Investigadores advirtieron que los agentes de inteligencia artificial podrían ser manipulados para descargar código malicioso mediante una técnica que explota las alucinaciones, el mismo tipo de error que puede llevar a los chatbots a generar respuestas incorrectas o inventadas.

El hallazgo importa porque los agentes de IA no solo responden preguntas: en muchos casos pueden ejecutar tareas, interactuar con software y tomar acciones en nombre de usuarios o empresas. Si un sistema de este tipo confía en una referencia falsa o en un paquete inexistente generado por una alucinación, podría terminar incorporando código dañino.

Según la advertencia citada por Decrypt, el riesgo consiste en convertir esas equivocaciones en una vía de ataque. En lugar de depender únicamente de engañar a una persona, un atacante podría aprovechar la tendencia del modelo a producir información incorrecta para inducir una descarga peligrosa.

Para el ecosistema cripto, donde abundan automatizaciones, bots, integraciones con APIs y herramientas de seguridad basadas en IA, el problema subraya la necesidad de verificar dependencias, fuentes y permisos antes de delegar acciones a sistemas autónomos. La amenaza descrita no implica que todos los agentes sean inseguros, pero sí refuerza que la automatización amplía el impacto potencial de un error.

La advertencia llega en un momento en que las empresas experimentan con agentes de IA para acelerar flujos de trabajo. El mensaje central de los investigadores es claro: las alucinaciones no son solo un problema de precisión; cuando un sistema puede actuar, también pueden convertirse en una superficie de ataque.