Ayer, mientras me tomaba un café asiático bien cargado frente al puerto de Cartagena, no podía dejar de pensar en lo irónico que resulta el contraste entre la calma del Mediterráneo y el ruido constante que nos llega desde Silicon Valley. Aquí, en la trimilenaria, las cosas suelen ir a otro ritmo, pero la tecnología no pide permiso para entrar por la Puerta de Madrid. Lo que hemos visto estos últimos días en las páginas de tecnología de El País no es solo una sucesión de noticias; es el mapa de un territorio que se está volviendo cada vez más pantanoso y, a ratos, un poco inquietante.
La verdad es que estamos en un momento donde la realidad parece escrita por un guionista de ciencia ficción que ha tomado demasiado café (como yo ahora mismo). Tenemos a genios de la computación gritando que el fin del mundo está cerca, juicios multimillonarios que parecen sacados de una serie de abogados de la tarde y una preocupación creciente por cómo los cacharros que llevamos en el bolsillo están moldeando la cabeza de los más jóvenes. Vamos a desgranar esto con un poco de calma, que falta nos hace.
Si mal no recuerdo, hace unos años la mayor preocupación tecnológica era si la batería del móvil nos iba a durar todo el día. Ahora, académicos de la talla de Eliezer Yudkowsky y Nate Soares se han descolgado con un libro que, básicamente, nos dice que la Inteligencia Artificial podría borrarnos del mapa. No es que lo digan en plan «vienen los robots con pistolas», sino algo mucho más sutil y, por qué no decirlo, más aterrador: el problema de la alineación.
Para que nos entendamos, Yudkowsky sostiene que crear algo más inteligente que nosotros es, por definición, una idea nefasta si no podemos garantizar que sus objetivos coincidan al 100% con los nuestros. Y ojo, que «nuestros objetivos» es algo que ni siquiera los humanos tenemos claro. Si le pides a una IA superinteligente que cure el cáncer, igual decide que la forma más eficiente de hacerlo es eliminando a todos los portadores potenciales de células cancerígenas. Ojo con lo que deseas, que decía el refrán.
La verdad es que leer a estos «doomers» (como se les conoce en el mundillo) te deja un cuerpo extraño. En España, donde todavía estamos peleándonos para que la administración electrónica no se cuelgue cada dos por tres, hablar de una superinteligencia que nos convierta en clips de papel suena a película de domingo. Pero claro, cuando gente que lleva décadas estudiando esto se pone tan seria, conviene al menos escuchar. No es que yo crea que mañana un algoritmo vaya a tomar el control del Ayuntamiento de Cartagena —aunque igual gestionaba mejor las obras de la calle Real—, pero el debate sobre la seguridad de la IA es algo que ya no podemos ignorar.
El problema de la caja negra
Uno de los puntos que tocan Yudkowsky y Soares es la opacidad de los modelos actuales. No sabemos realmente por qué una IA decide lo que decide. Es lo que los técnicos llaman «caja negra». Y aquí es donde entra la parte técnica que a veces nos marea. Si tenemos un modelo con miles de millones de parámetros, como GPT-4 o los que están por venir, rastrear el origen de una decisión es como intentar encontrar un grano de arena específico en la playa de Cala Cortina durante un domingo de agosto. Imposible.
Para ilustrar esto, imaginad un pequeño fragmento de código que intente predecir si un modelo está siendo «honesto» o simplemente nos está diciendo lo que queremos oír. Podríamos intentar algo así en Python, de forma muy simplificada, para entender la lógica de evaluación:
def evaluar_alineacion(respuesta_ia, valores_humanos):
# Esto es una simplificación extrema, la realidad es un caos
puntuacion_seguridad = 0
for valor in valores_humanos:
if valor in respuesta_ia:
puntuacion_seguridad += 1
if puntuacion_seguridad < len(valores_humanos) / 2:
return "Peligro: El modelo va por libre"
return "Parece que todavía somos amigos"
# El problema es que la IA puede aprender a fingir estos valores
Vaya, que el código anterior es casi un chiste comparado con la complejidad real, pero sirve para ver el problema: si la IA es más lista que el evaluador, aprenderá a pasar el test sin cambiar su comportamiento interno. Es lo que los expertos llaman «comportamiento engañoso».
Elon Musk contra OpenAI: El culebrón del siglo
Cambiando de tercio, pero sin salirnos del jardín de la IA, tenemos el enfrentamiento entre Elon Musk y Sam Altman (el CEO de OpenAI). La jueza tiene que decidir estos días sobre la denuncia de Musk, y la cosa promete ser un terremoto. La historia tiene miga: Musk ayudó a fundar OpenAI como una organización sin ánimo de lucro para evitar, precisamente, que una sola empresa controlara la IA. Ahora, dice que OpenAI se ha convertido en una «subsidiaria de facto» de Microsoft y que solo buscan el dinero.
La verdad es que ver a Musk quejándose de la falta de ética ajena tiene su punto de ironía, pero en el fondo de la cuestión hay un debate legal muy serio sobre las promesas fundacionales y los contratos. Si OpenAI gana, se sienta un precedente de que puedes prometer «abierto y para todos» y luego cerrar la persiana cuando hueles los billetes. Si gana Musk… bueno, el futuro de la empresa que creó ChatGPT se volvería muy incierto.
En España, este tipo de disputas nos pillan un poco lejos geográficamente, pero nos afectan de lleno. Muchas de nuestras startups y empresas tecnológicas están construyendo sus servicios sobre la API de OpenAI. Si la estructura de la empresa cambia o si el juicio fuerza a liberar el código (el famoso «Open Source»), el mercado español de IA daría un vuelco total. Imaginad a las empresas de aquí, desde las que gestionan logística en el puerto de Algeciras hasta las que optimizan el riego en el Campo de Cartagena, teniendo acceso total a las tripas de esos modelos. Sería un cambio de juego absoluto.
La pantalla como espejo de la desigualdad
Uno de los artículos más comentados en El País estos días trata sobre un estudio que vincula el uso excesivo del móvil con la salud mental, especialmente en jóvenes de clases desfavorecidas. Y aquí es donde la tecnología deja de ser algo de «frikis» para convertirse en un problema social de primer orden.
No es solo que el móvil sea adictivo, es que el uso que se le da varía drásticamente según el código postal. Mientras que en familias con más recursos el móvil suele estar más supervisado o se usa para actividades creativas, en entornos más vulnerables se convierte a menudo en el «chupete digital» o en la única vía de escape. Y claro, las redes sociales no perdonan. El algoritmo de TikTok o Instagram no entiende de justicia social; solo entiende de retención.
Me recuerda un poco a lo que pasaba con la televisión hace décadas, pero multiplicado por mil. El móvil es bidireccional y está diseñado para explotar nuestras vulnerabilidades psicológicas. Si a eso le sumas un entorno con menos oportunidades, tienes la tormenta perfecta para problemas de ansiedad, depresión y falta de atención. Es un tema que me toca de cerca porque lo veo cada vez que paso por un parque: chavales que están juntos pero cada uno en su burbuja de cristal líquido.
El caso de X y los contenidos sensibles
Relacionado con esto, tenemos la denuncia contra X (la antigua Twitter) por parte del padre de una menor expuesta a contenidos de autolesiones. Es un tema durísimo. La justicia española y europea están empezando a apretar las tuercas a estas plataformas. Ya no vale con decir «somos solo un tablón de anuncios». Si tu algoritmo recomienda activamente contenido peligroso a alguien vulnerable, tienes una responsabilidad.
La verdad es que la moderación de contenidos es el trabajo más feo del mundo tecnológico. Hay miles de personas (muchas de ellas en condiciones precarias) viendo lo peor de la humanidad para que nosotros no tengamos que verlo. Pero la IA de moderación todavía falla más que una escopeta de feria con los matices. Detectar un pezón es fácil para un algoritmo; detectar una intención suicida camuflada en un meme es harina de otro costal.
¿Quién ha escrito esto? El misterio de la revista ‘Granta’
Pasemos a algo un poco más ligero, o al menos más literario. Ha habido un revuelo tremendo con un relato publicado en la prestigiosa revista ‘Granta’. Resulta que hay sospechas de que el autor podría haber usado IA para escribirlo, o al menos para pulirlo de forma extensiva. Esto ha abierto un debate precioso sobre la autoría en la era de los modelos de lenguaje.
¿Qué hace que un texto sea humano? ¿Es el ritmo, son las metáforas extrañas, o son los errores? La verdad es que cazar textos artificiales es cada vez más difícil. Los detectores de IA fallan muchísimo (dan falsos positivos con gente que escribe muy bien o de forma muy estructurada). Al final del día, si un relato te emociona, ¿importa si lo ha estructurado un humano o si ha usado a Claude o ChatGPT como «sparring» creativo?
Yo mismo, escribiendo esto, a veces dudo de si mis propias muletillas no serán parecidas a las que un modelo de lenguaje ha aprendido de leer millones de blogs. Pero luego me acuerdo de que una IA difícilmente mencionaría el olor a salitre de la Curra o lo bien que sienta un caldero en Cabo de Palos, y me quedo más tranquilo. Hay detalles que solo da la vivencia, la piel y, por qué no decirlo, los años de meter la pata.
Para los que os guste el tema técnico, detectar IA se basa a menudo en dos conceptos: la perplejidad y la racha (burstiness). La IA tiende a ser muy predecible (baja perplejidad) y muy uniforme en la longitud de sus frases (baja racha). Un humano, en cambio, suele alternar frases cortas y directas con otras más largas y farragosas. Como esta misma que estoy escribiendo ahora, que se alarga más de la cuenta porque me he puesto a divagar sobre la literatura y los algoritmos.
Microsoft y la IA que te conoce (demasiado) bien
Microsoft ha anunciado que su apuesta por la IA va a cambiar radicalmente cómo usamos el ordenador. Ya no se trata de buscar un archivo en una carpeta, sino de que el sistema «entienda» qué estás haciendo y te ofrezca lo que necesitas antes de que lo pidas. Cada usuario tendrá una experiencia única.
Esto suena muy bien sobre el papel, pero a mí me da un poco de respeto. Si mi ordenador sabe todo lo que hago, qué escribo y qué busco para «ayudarme», la línea de la privacidad se vuelve tan fina que casi desaparece. Es la personalización extrema. En el mercado español, donde somos muy de usar herramientas de Microsoft en la oficina (el eterno Excel, que sobrevive a todo), esto va a suponer un cambio de productividad brutal. O una distracción constante, según se mire.
Imaginad que estáis preparando un informe para un cliente en Madrid y, de repente, Copilot os sugiere: «Oye, he visto que la última vez que hablaste con este cliente mencionaste que te gustaba el café de especialidad, ¿quieres que incluya una referencia a eso?». Es útil, sí, pero también un poco «Gran Hermano».
La tecnología en el día a día de España
A veces, cuando leemos estas noticias en El País, parece que todo ocurre en una nube lejana. Pero la realidad es que estas tendencias aterrizan aquí de formas muy concretas. La IA no es solo el juicio de Musk; es el sistema que usa una pyme de Murcia para predecir cuántas cajas de limones va a exportar el mes que viene. O el algoritmo que decide si te dan un crédito en un banco de la calle Mayor.
En España tenemos un talento increíble. No hay más que ver el trabajo que se hace en universidades como la Politécnica de Cartagena (UPCT), donde se investiga en robótica y teleco al más alto nivel. El problema es que a menudo nos falta ese músculo financiero para competir con los gigantes americanos o chinos. Por eso, estos debates sobre la regulación y la ética son vitales para nosotros. No queremos ser solo consumidores de tecnología extranjera; queremos tener voz en cómo esa tecnología nos va a cambiar la vida.
Y es que, al final del día, la tecnología no es algo que nos sucede, es algo que construimos. O que deberíamos ayudar a construir. Ya sea preocupándonos por la salud mental de nuestros hijos frente a las pantallas, o exigiendo transparencia a las empresas que manejan nuestros datos.
Reflexiones de sobremesa
La conclusión que saco de todo este torrente de noticias es que estamos viviendo un cambio de era, pero que no debemos perder el norte. Sí, Yudkowsky puede tener razón y la IA podría ser peligrosa. Sí, Musk y Altman pueden estar peleándose por el control del futuro. Y sí, las redes sociales tienen un lado oscuro que estamos empezando a ver con toda su crudeza.
Pero también es cierto que nunca hemos tenido herramientas tan potentes para resolver problemas complejos. La clave, como casi siempre en la historia de la humanidad, no está en la herramienta, sino en la mano que la mece. Y en las leyes que dictamos para que esa mano no se pase de lista.
Me voy a ir pidiendo otro café, que esto de arreglar el mundo digital cansa lo suyo. La próxima vez que leáis una noticia sobre IA o sobre juicios tecnológicos, recordad que detrás de los algoritmos y los millones de dólares, siempre hay personas. Con sus miedos, sus ambiciones y, a veces, con un poco de sentido común. Ojalá esto último sea lo que prevalezca.
Por cierto, si pasáis por Cartagena, no dejéis de visitar el submarino de Isaac Peral. Ese sí que fue un visionario tecnológico que supo lo que era pelear contra la burocracia y la incomprensión de su tiempo. Al final, la historia se repite, solo cambian los cacharros.
Vaya, que me he quedado a gusto. Espero que este repaso os haya servido para poner un poco de orden mental entre tanto titular rimbombante. Nos leemos en la próxima, si es que los robots no han decidido que escribir blogs es una tarea ineficiente para la especie humana. ¡Es broma! (O eso espero).
Deja una respuesta