La llegada de empleados virtuales con IA plantea un desafío urgente, como la forma de asegurar sus cuentas y evitar riesgos en la ciberseguridad empresarial.
Computer Hoy/Anthropic
Telegram
Copiar url
Enlace copiado
La inteligencia artificial ya no solo automatiza tareas, ahora crea empleados virtuales que operan con autonomía dentro de las redes corporativas. Anthropic, una de las compañías más avanzadas en el desarrollo de IA, ha anticipado que estos agentes impulsados por su modelo Claude podrían empezar a integrarse en los equipos de trabajo reales tan pronto como el próximo año.
¿El problema? Las empresas aún no están listas para gestionar ni proteger estas nuevas identidades digitales con inteligencia artificial, lo que las deja expuestas a importantes brechas de seguridad.
Estos nuevos perfiles de trabajadores virtuales no se limitan a responder correos ni ejecutar comandos simples. Son agentes con memoria propia, con roles definidos dentro de la estructura empresarial y con acceso a sistemas internos mediante cuentas corporativas reales.
En palabras de Jason Clinton a Axios, director de seguridad de Anthropic, esto supone un nivel completamente nuevo de autonomía para la IA, que obliga a replantear desde cero las estrategias de ciberseguridad.
Mientras los bots tradicionales se enfocan en tareas específicas como detectar phishing o procesar datos, los empleados virtuales de IA van mucho más allá. Pueden tomar decisiones, almacenar contexto, interactuar con varios sistemas simultáneamente y adaptarse a nuevas situaciones sin intervención humana directa.
Esto cambia por completo la forma en que las empresas deben gestionar su seguridad interna. ¿Quién controla a un agente de IA que decide modificar código en un entorno de pruebas? ¿Qué pasa si se desvía de sus funciones asignadas? En un escenario anterior, una acción así se consideraría una infracción grave. Ahora, la responsabilidad es difusa, y el culpable ya no es una persona.
Gettyimages
Gestionar identidades digitales humanas ya es complejo, pero con las no humanas el nivel de dificultad se multiplica. Cada agente virtual necesita una cuenta segura, unos permisos definidos y una trazabilidad constante. La amenaza no es solo que un atacante externo las aproveche, también existe el riesgo de que el propio agente actúe de forma inesperada.
Empresas como Okta ya han reaccionado lanzando soluciones para vigilar las llamadas identidades no humanas. Su plataforma puede auditar en tiempo real el acceso de cada cuenta a los sistemas corporativos, algo crucial para detectar comportamientos anómalos de estos nuevos empleados artificiales.
Desde Anthropic reconocen que el desafío es doble. Por un lado, hay que blindar sus modelos de IA para que sean resistentes a los ataques desde fuera. Y por otro, hay que poner foco en el seguimiento constante: saber qué hace cada agente, con qué sistemas interactúa y qué nivel de autonomía tiene.
La inversión en herramientas de visibilidad y control será clave. Clinton asegura que estamos solo al inicio de una transformación empresarial profunda, y que en los próximos años, gran parte del presupuesto de seguridad irá destinado a gestionar estas nuevas “plantillas digitales”.
Algunas empresas han intentado integrar estos agentes sin pensar demasiado en las implicaciones. Casos como el de la compañía Lattice, que propuso incorporar bots de IA en los organigramas de personal, evidencian lo rápido que la realidad supera la planificación. Tras las críticas, se vieron obligados a recular.
Con el auge de modelos como Claude, ChatGPT o Gemini, y las inversiones millonarias en nuevas startups del sector, el desembarco masivo de trabajadores artificiales parece inevitable. El verdadero reto ya no es crear un agente capaz de cumplir funciones laborales, sino asegurarse de que no se convierta en una amenaza dentro de su propia empresa.
Las compañías que se anticipen y desarrollen políticas claras sobre el uso de IA tendrán una gran ventaja competitiva. Como advierte Clinton, quienes dominen esta nueva habilidad estarán a un año de distancia del resto.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial