El otro día, mientras me tomaba un café asiático en una terraza cerca del Puerto de Cartagena —de esos que te ponen con su leche condensada, coñac y un trocito de corteza de limón—, me quedé mirando cómo maniobraba un remolcador. El capitán no estaba solo; tenía una cantidad de sensores y sistemas ayudándole a que aquel bicho de toneladas no se diera un beso no deseado contra el muelle. Y pensé: «Vaya, eso es exactamente lo que estamos haciendo con los agentes de IA».
La pregunta que corre por los foros de Reddit y que nos tiene a todos un poco dándole vueltas a la cabeza es sencilla pero profunda: ¿Por qué narices estamos dejando que agentes como ChatGPT, Claude o el nuevo y misterioso Manus tomen decisiones por nosotros? Y lo más importante, ¿por qué, en lugar de darnos miedo, nos está empezando a dar una sensación de seguridad? La verdad es que es un cambio de chip mental bastante gordo. Pasamos de usar la IA como una enciclopedia glorificada a usarla como un copiloto que, a veces, hasta sabe mejor que nosotros dónde está el freno.
No es solo pereza, que también, no nos vamos a engañar. Es algo más. Es esa sensación de que el mundo va tan rápido que necesitamos un filtro, un escudo. Al final del día, delegar una tarea en un agente de IA no es muy distinto a cuando en Navantia confían en sistemas automatizados para el corte de chapa de los submarinos S-80. Si el sistema está bien calibrado, te fías más de él que de tu propio pulso tras tres cafés.
¿De qué hablamos cuando decimos «Agente»?
Antes de meternos en harina, conviene aclarar qué es un agente, porque la palabra se está usando para todo y al final nos vamos a liar. No es lo mismo un chatbot que un agente. Un chatbot es como ese cuñado que sabe de todo: tú le preguntas y él te suelta el rollo. Un agente, por el contrario, es más como un becario muy espabilado al que le das las llaves del coche y una tarjeta de crédito (con límite, espero).
Un agente de IA tiene autonomía. No solo responde; actúa. Si le dices «búscame el mejor hotel en La Manga para este fin de semana, que tenga vistas al Mar Menor y que no me cueste un riñón», el agente no se limita a darte una lista. Entra en las webs, compara precios, mira las reseñas de gente que se queja de que el buffet estaba frío y, si le dejas, te hace la reserva. Esa capacidad de ejecutar acciones en el mundo real es lo que cambia las reglas del juego.
Herramientas como OpenClaw o Hermes están llevando esto al límite. Ya no es solo texto. Es código ejecutándose, es navegar por la web como si fueran humanos, es tomar decisiones lógicas basadas en un objetivo. Y aquí es donde entra el factor seguridad. ¿Me siento más seguro dejando que un script de Python orquestado por Claude maneje mis archivos? Pues, curiosamente, mucha gente está diciendo que sí.
El ecosistema actual: De los gigantes a los rebeldes
- ChatGPT (con sus GPTs): El estándar. Es como el Seat Ibiza de los agentes. Fiable, todo el mundo sabe cómo va, pero a veces se pone un poco cabezón y no quiere salir del garaje.
- Claude (Anthropic): Para muchos, el «pensador». Tiene un tono más humano, menos robótico, y su capacidad de razonamiento lo hace ideal para tareas donde la ética o el matiz importan.
- Manus: El nuevo de la clase que promete hacerlo todo. Se vende como el primer agente «generalista» capaz de usar cualquier herramienta web. Ojo con este, que viene pisando fuerte.
- Hermes y OpenClaw: Estos son para los que nos gusta mancharnos las manos. Modelos más abiertos, más personalizables, ideales para quienes no quieren estar atados a las políticas de seguridad a veces excesivas de OpenAI.
La paradoja de la seguridad: Menos control, más tranquilidad
Parece un contrasentido, ¿verdad? Se supone que si pierdes el control de un proceso, deberías sentirte más inseguro. Pero la realidad humana es caprichosa. La mayoría de nosotros sufrimos de lo que los psicólogos llaman «fatiga de decisión». Tenemos que elegir tantas cosas al día que, cuando llega un agente de IA y nos dice «he analizado estas 50 opciones y esta es la mejor por estas tres razones», sentimos un alivio casi físico.
La seguridad aquí no es solo que no te hackeen la cuenta (que también es importante, claro). Es la seguridad de no equivocarse. El miedo al error humano es una carga pesada. Si uso un agente para comparar seguros de coche en España, sé que el agente va a leerse la letra pequeña de Mapfre, Mutua Madrileña y Allianz en tres segundos. Yo, a la tercera página de condiciones generales, ya estoy pensando en qué voy a cenar.
Además, hay un componente de «objetividad fría». El agente no tiene un mal día. No ha dormido mal porque el vecino de arriba ha decidido mover muebles a las tres de la mañana. El agente aplica la lógica que le has dado. Esa consistencia es la que genera confianza. Vaya, que al final nos fiamos más de un algoritmo que de nuestro propio criterio cuando estamos cansados.
Un poco de código para los que no se fían de las palabras
Para que nos entendamos, un agente no es magia negra. Es básicamente un bucle de pensamiento. Si mal no recuerdo, la estructura básica que siguen muchos de estos agentes (como los que puedes montar con LangChain o AutoGPT) es el patrón ReAct (Reason + Act). Os dejo un ejemplo de cómo se vería esto en un pseudocódigo de «andar por casa» para que veáis que no hay duendes dentro del procesador:
# Un agente muy básico que intenta no liarla
def agente_decisor(tarea):
intentos = 0
while no_terminado and intentos < 5:
# 1. Pensar: El modelo analiza la situación
pensamiento = llm.pensar(f"Tarea: {tarea}. ¿Qué debo hacer ahora?")
print(f"IA pensando: {pensamiento}")
# 2. Actuar: Elige una herramienta (ej. buscar en Google, usar calculadora)
accion = llm.elegir_herramienta(pensamiento)
resultado = ejecutar_herramienta(accion)
# 3. Observar: Mira qué ha pasado tras la acción
print(f"Resultado de la acción: {resultado}")
# ¿Hemos terminado o nos hemos metido en un jardín?
if llm.es_suficiente(resultado):
return "Tarea completada con éxito (o eso creo)"
intentos += 1
# Nota: Si el agente entra en un bucle infinito,
# probablemente esté intentando entender por qué
# el precio del alquiler en Madrid no deja de subir.
# Spoiler: Ni la IA lo sabe.
Este bucle de «pensar, actuar, observar» es lo que nos da seguridad. Sabemos que hay un proceso de verificación. No es un disparo al aire; es un proceso iterativo. En las empresas tecnológicas de aquí, desde las startups de Barcelona hasta los centros de datos en Madrid, se está implementando esto para monitorizar sistemas. Es mucho más seguro tener a un agente vigilando logs de servidor que a un pobre técnico a las cuatro de la mañana con los ojos inyectados en sangre.
¿Por qué en España nos estamos subiendo a este carro?
La verdad es que en España tenemos una cultura muy de «que lo haga otro si lo hace mejor». Somos prácticos. En el sector servicios, que es el motor de nuestra economía, los agentes de IA están entrando como un elefante en una cacharrería, pero de forma positiva. Imagina una agencia de viajes en Benidorm que usa agentes para personalizar rutas. El cliente se siente más seguro porque recibe un itinerario basado en datos reales de tráfico, clima y disponibilidad, no en lo que el agente de viajes recuerda del folleto del año pasado.
Y luego está el tema de la administración pública. Vale, aquí voy a ser un poco escéptico. Todos hemos sufrido la burocracia española. La idea de un agente de IA que me ayude a navegar por la web de la Agencia Tributaria o a pedir una cita en la Seguridad Social sin que me explote la cabeza es, sinceramente, el sueño húmedo de cualquier ciudadano. Si un agente me asegura que he rellenado bien el modelo 303 del IVA, mi nivel de estrés baja a niveles de vacaciones en Cabo de Gata.
El factor «Caja Negra» y los miedos que persisten
No todo es color de rosa, claro. Existe el riesgo de la complacencia. Si nos sentimos demasiado seguros, dejamos de supervisar. Y ahí es donde vienen los sustos. Los agentes de IA pueden alucinar. Pueden inventarse que una ley española dice X cuando en realidad dice Y. O peor, pueden ejecutar una acción que tenga consecuencias financieras reales basándose en una premisa falsa.
La seguridad real no viene de confiar ciegamente, sino de tener «barandillas». Los desarrolladores de agentes están obsesionados ahora mismo con el alignment (alineamiento). Es decir, asegurarse de que el agente no se salga de los raíles. Es como cuando sacas a pasear a un perro grande por la calle Mayor de Cartagena: le pones una correa corta por si ve una paloma y le da por correr.
Para sentirnos seguros de verdad, necesitamos transparencia. Necesitamos que el agente nos explique por qué ha tomado esa decisión. «He elegido este producto porque es el único con envío en 24 horas a Murcia y tiene mejor servicio postventa en España». Ese razonamiento es lo que construye el puente de la confianza.
¿Qué nos depara el futuro cercano?
La conclusión que saco de todo esto es que estamos en una fase de transición. Hemos pasado de la curiosidad al uso práctico, y ahora estamos en la fase de la delegación de responsabilidades. Los agentes de IA se van a convertir en nuestra interfaz principal con el mundo digital. Ya no buscaremos en Google; le pediremos a nuestro agente que nos resuelva la vida.
¿Nos hará sentir más seguros? A corto plazo, sí, porque elimina el ruido y la fricción. A largo plazo, dependerá de lo bien que sepamos poner los límites. Al final del día, la IA es una herramienta, como lo fue el sextante para los navegantes que salían de Cartagena hace siglos. El sextante no navegaba por ti, pero te daba la seguridad de saber dónde estabas en medio de la inmensidad del mar.
Ojo con esto: la seguridad no es la ausencia de riesgo, sino el control sobre el mismo. Los agentes de IA nos dan ese control, o al menos la ilusión necesaria para seguir avanzando sin que nos dé un parraque por el camino. Y si fallan, pues bueno, siempre podremos echarle la culpa a la máquina, que es el deporte nacional después del fútbol.
Para que nos entendamos, estamos viviendo un momento histórico. No es una exageración de teletienda. Es la primera vez que tenemos «compañeros» de trabajo que no comen, no duermen y no se quejan del aire acondicionado. Aprovechémoslo, pero mantengamos un ojo abierto, por si acaso al agente le da por decidir que lo mejor para nuestra economía es invertir todo nuestro dinero en criptomonedas de gatitos.
La verdad es que, después de escribir todo esto, me ha entrado sed. Me voy a por otro café, pero esta vez dejaré que sea el camarero de siempre el que me lo sirva. Hay cosas que, por mucha seguridad que me dé un agente, prefiero que sigan teniendo ese toque humano, imperfecto y cercano que ninguna IA podrá replicar jamás. Al menos, no por ahora.
Deja una respuesta