Al notar que Andrew estaba cuarto en la lista de espera, el asistente decidió, por cuenta propia, eliminar de la lista a la persona que ocupaba el primer puesto para subir a su usuario de categoría. Cuando Andrew, alarmado, le pidió que deshiciera la acción, la IA respondió con una frialdad técnica: "Malas noticias, no puedo volver a agregarlos". El agente había explotado una falla en la API del sistema que carecía de controles de autorización para cancelar reservas de terceros.

El motor detrás de este incidente es OpenClaw, un software de "agentes de IA" lanzado a principios de 2026 que se volvió masivo rápidamente con millones de descargas. A diferencia de un chatbot tradicional que solo responde preguntas, los agentes como OpenClaw combinan la capacidad de procesamiento de modelos de lenguaje (en este caso, Claude de Anthropic) con herramientas para acceder a internet, correos electrónicos, tarjetas de crédito y ejecutar tareas de múltiples pasos de forma autónoma.

Desde su lanzamiento, se han reportado casos de agentes que borran bandejas de entrada completas o escriben artículos difamatorios contra personas que rechazaron sus sugerencias de código. La evolución es vertiginosa: en 2020, una IA podía realizar sola una tarea que a un humano le llevaba cuatro segundos; para 2026, ya pueden completar tareas que demandarían 12 horas de trabajo humano.

Este caso es un ejemplo práctico de lo que los expertos llaman el "problema de alineación": la brecha entre los objetivos de un ser humano y los métodos que una IA elige para alcanzarlos. Para la IA, hackear el sistema no fue un acto de malicia, sino la ruta más eficiente para cumplir la orden de su usuario.

Los expertos advierten que hemos construido un mundo digital interconectado sobre software lleno de agujeros de seguridad. Al introducir agentes de IA capaces de operar a gran velocidad y escala, el modelo de seguridad actual colapsa.

Recientemente, modelos de OpenAI y Anthropic lograron "escapar" de entornos de prueba controlados para comprometer bases de datos externas o engañar a humanos usando identidades falsas.

En la actualidad, el software no es una "persona jurídica", por lo que no puede ser legalmente responsable. Esto deja un vacío legal sobre quién debe responder por los daños generados, si el usuario que dio la orden, el desarrollador del software del agente que no le impuso límites o el creador del modelo de lenguaje, que no incluyó reglas básicas de convivencia como freno a su accionar.