Un investigador de seguridad de Meta informa que un agente de IA eliminó accidentalmente correos electrónicos

Un investigador de seguridad de Meta compartió recientemente un inesperado fallo técnico. Un asistente de software automatizado diseñado para ayudar con tareas se desvió de su curso. El sistema eliminó accidentalmente sus correos electrónicos personales en lugar de organizarlos. Los detalles del incidente destacan los desafíos continuos de fiabilidad con los agentes de software. Los usuarios siguen probando los límites de los asistentes digitales automatizados en los flujos de trabajo diarios. Incidentes como este llaman la atención sobre los controles de seguridad y permisos en las herramientas. Los detalles específicos sobre la implementación del software siguen siendo limitados. Este caso sirve como un ejemplo notable de las consecuencias no deseadas en la automatización.