🧠 # 214 ¿Has leído ya sobre la hipnocracia?
Semana 214: Ley de Martec y alfabetización nacional en IA
Hola, soy Alex Rayón Jerez. De #bilbao y #millennial (por los pelos). Disfruto mucho mis días en Brain & Code, donde aprendemos tecnología para liderar el futuro.
Bienvenido/a a mi newsletter Digital & Data. Somos más de 17.000 Sapiens (creo) reflexionando sobre cómo los humanos no entendemos una tecnología hasta que no la adoptamos masivamente. Que es, precisamente, lo que está ocurriendo con las tecnologías digitales.
En Brain & Code hemos lanzado un proyecto que ha tenido una gran acogida. Lo hemos llamado “365 relatos de la Inteligencia Artificial”. ¡Muchas gracias a todos/as! Más de 200 suscriptores de pago (mecenas). Al curso-libro (que te llega al email cada mañana para el café) lo hemos llamado “365 relatos de la Inteligencia Artificial”, por hacer llegar los conceptos atemporales de la IA para aprender a manejarte en esta era. Compuesto por 365 relatos, trataremos de hacer un homenaje a esa constante en la turbulencia, a los pilares inmutables de la inteligencia humana que la tecnología jamás podrá replicar. Entra aquí y suscríbete. Toda la información aquí.
📷 Una imagen
¿Tienes la sensación de que están pasando muchas cosas y que la incertidumbre es cada vez mayor? Tranquilo/a, no estás solo/a. El Índice de Incertidumbre Mundial (World Uncertainty Index) es una medida que rastrea la incertidumbre en todo el mundo mediante el análisis de texto de los informes por país de la Economist Intelligence Unit. La utilizo mucho en mis conferencias y talleres. El informe trimestral más reciente acaba de publicarse: el primer trimestre de 2025 ¡está cerca del pico de incertidumbre alcanzado durante la pandemia de COVID-19! Esto, además, fue antes de que Trump anunciara los "aranceles del Día de la Liberación". Mucho ánimo y que tengas un buen finde :)
📚 Cinco lecturas
#1 ¿Sabes lo que es la hipnocracia?
La teoría de la "hipnocracia" propuesta en el libro enlazado describe un régimen de manipulación algorítmica que modula la conciencia colectiva a través de titulares y discursos diseñados para captar la atención. El experimento buscaba demostrar, desde dentro, cómo operan las nuevas formas de manipulación en la era digital. ¿Te gusta la teoría? La mala noticia que tengo es que es que lo ha escrito la IA, y que medios de comunicación, revistas y universidades, lo han citado como algo “de relevancia”. Así andamos.
Detalles
Jianwei Xun, presentado como un filósofo hongkonés y autor del libro Hipnocracia: Trump, Musk y la nueva arquitectura de la realidad, es en realidad una creación de inteligencia artificial. Detrás de este personaje ficticio se encuentra un experimento narrativo ideado por el ensayista italiano Andrea Colamedici, quien colaboró con ChatGPT y Claude para desarrollar tanto la figura de Xun como su obra.
El caso ha generado un intenso debate ético y ha impactado en el ámbito académico y mediático. Medios como El País han retirado artículos que citaban el libro, y figuras académicas que analizaron sus teorías se han visto sorprendidas por la revelación
¿Por qué es relevante?
Colamedici defiende su experimento como una forma de "teoría encarnada", un dispositivo que muestra desde dentro cómo operan las nuevas formas de manipulación en la era digital. Sin embargo, la falta de transparencia sobre el origen artificial de Xun ha suscitado críticas y ha planteado preguntas sobre la autoría, el uso de la IA en la filosofía y la responsabilidad en la transparencia informativa. Así andamos.
#2 El doxxing en ChatGPT
Como muy bien narra este artículo, se está produciendo una tendencia preocupante: la utilización de las nuevas capacidades de análisis de imágenes de ChatGPT, específicamente en sus modelos o3 y o4-mini, para realizar búsquedas inversas de ubicación a partir de fotografías. Entendámoslo.
Detalles
Los modelos o3 y o4-mini de ChatGPT pueden analizar imágenes subidas por los usuarios, aplicando técnicas como recorte, rotación y zoom para identificar detalles visuales. Esta semana lo he empleado en varios programas para que a partir de una imagen de planos de barcos o de máquinas en una planta industrial, calcule posiciones, mejoras de layout, etc.
Estas capacidades permiten al modelo deducir ubicaciones geográficas con notable precisión, incluso en imágenes borrosas o distorsionadas. Esta tendencia ha generado preocupaciones sobre la privacidad, ya que podría facilitar prácticas como el doxxing, al permitir identificar la ubicación de personas a partir de imágenes compartidas online.
¿Por qué es relevante?
Esta funcionalidad, evidentemente, podría ser explotada para actividades maliciosas, como el acoso o la divulgación no autorizada de información persona. Os invito a hacer una investigación vuestra personal ;-)
#3 La inexorable Ley de Martec
La Ley de Martec sugiere que la tecnología avanza exponencialmente, mientras que las organizaciones lo hacen de forma logarítmica (es decir, mucho más lentamente), generando una creciente brecha. Esta diferencia plantea una pregunta crítica: si la tecnología avanza más rápido que la capacidad de las personas, los procesos y la confianza institucional para adaptarse, ¿cuándo conviene avanzar y cuándo es mejor esperar?
Detalles
Este dato sugiere que la contención no es por falta de capacidad técnica, sino por razones estratégicas, éticas y operativas: la tecnología va más rápido que las estructuras humanas que deben sostenerla.
No se trata de un rezago tecnológico, sino de una decisión deliberada de no acelerar más de lo que se puede absorber con seguridad y responsabilidad.
¿Por qué es relevante?
A medida que la IA se convierte en un motor clave de innovación y productividad, los líderes enfrentan una paradoja: ¿Deberíamos aprovechar todo el potencial ahora, a riesgo de descontrolar la gestión humana y ética? ¿O deberíamos limitar su uso hasta que nuestros sistemas, equipos y culturas estén preparados?
#4 En los mismos días en EEUU: AI literacy para profesores y estudiante expulsado de Columbia “por no respetar las reglas” (no sé cómo escribirlo)
La Casa Blanca ha emitido una orden ejecutiva para establecer el “Presidential AI Challenge”, una iniciativa que busca acelerar la formación en inteligencia artificial a nivel nacional. El plan incluye inversiones en capacitación para docentes, así como la expansión de programas de aprendizaje y formación técnica centrados en IA, con el objetivo de posicionar a la juventud y la clase trabajadora estadounidense como líderes en la revolución global de la IA.
Detalles
Se busca que el conocimiento en IA no sea exclusivo de élites técnicas, sino un pilar educativo común y transversal.
Prácticamente de formo sincronizada, hemos sabido que se ha lanzado Cluely, una aplicación web diseñada para “ayudar a hacer trampa en todo” (descrita por mucha gente) de manera silenciosa y sin ser detectada durante reuniones, entrevistas o llamadas de ventas en vivo. Su creador, Roy Lee, fue expulsado de la Universidad de Columbia por ayudar a candidatos a programadores a “engañar” en entrevistas de trabajo. La app funciona como un asistente oculto, proporcionando respuestas en tiempo real sin que el interlocutor lo note, erosionando la frontera entre la asistencia legítima y el fraude.
¿Por qué es relevante?
El caso de Cluely plantea una reflexión que todos/as deberíamos hacernos: ¿sigue siendo trampa si la IA simplemente te ayuda a dar lo mejor de ti? Profesionales de sectores como la medicina o la educación podrían argumentar que no usar IA sería una desventaja competitiva, o incluso una negligencia frente a las posibilidades de mejora. El dilema de la transparencia: ¿ocultar o declarar el uso de IA? Tecnologías como ChatGPT (modelos más recientes), Adobe Firefly o Microsoft Copilot están integrando marcas de agua invisibles y etiquetas de procedencia para dejar claro si un contenido fue generado por IA.
#5 Sobre la realidad cultural y las tecnologías digitales: ¿nos conducimos a una “starbucksización cultural” - ¿todos iguales?
Este artículo de opinión del New York Times, publicado hace pocos días, reflexiona sobre cómo el avance tecnológico, especialmente en inteligencia artificial, puede contribuir a la extinción de aspectos fundamentales de la cultura humana.
Detalles
A medida que las tecnologías se integran en la vida cotidiana, existe el riesgo de que prácticas culturales tradicionales, lenguas y formas de vida únicas desaparezcan, reemplazadas por una homogeneización impulsada por la tecnología.
La automatización y la inteligencia artificial, si no se gestionan con sensibilidad cultural, pueden erosionar la diversidad cultural y las identidades locales
¿Por qué es relevante?
El artículo hace un llamado a una reflexión crítica sobre cómo equilibrar el progreso tecnológico con la preservación de la riqueza cultural humana. Es el concepto de la apropiación cultural que tanto cito en mis conferencias. La tecnología siempre expresa y tiene una identidad cultural.
🔊 Un audio
Homero. Odisea. No hemos cambiado tanto.
💬 Un comentario en redes sociales
Leer a Antonio es siempre muy recomendable. Hoy, en este tweet, una vez más. Y en su newsletter, aún más.
🎲 Una lectura aleatoria
En el día a día de muchas empresas, el problema de coordinación al estilo Moloch se manifiesta cuando cada equipo, área o individuo actúa según sus propios incentivos locales y racionales, pero el resultado global es subóptimo o incluso perjudicial para la organización entera. Por ejemplo, el departamento comercial puede ofrecer descuentos agresivos para cumplir con sus metas trimestrales, mientras que el equipo de operaciones lucha por sostener márgenes y cumplir con estándares de calidad. Ambas decisiones tienen sentido por separado, pero en conjunto pueden erosionar el posicionamiento de la marca, aumentar los costes y generar fricciones internas. Este tipo de conflictos no se deben a malas intenciones, sino a una falta de alineación sistémica, donde la suma de las partes racionales no produce un todo inteligente. Otro ejemplo clásico ocurre en entornos de innovación o desarrollo tecnológico. Cuando varios equipos trabajan sobre el mismo producto—por ejemplo, uno optimiza el algoritmo, otro mejora la interfaz y otro desarrolla nuevas funciones—sin una coordinación clara, es frecuente que el producto final pierda cohesión, genere confusión en los usuarios o incluso se contradiga en su funcionamiento. Cada grupo puede tener razones válidas para sus decisiones, pero sin un marco compartido que oriente el esfuerzo colectivo, la empresa avanza desordenadamente, crea deuda técnica y termina perjudicando la experiencia de cliente. Este tipo de disfunciones cotidianas no son fallos individuales, sino síntomas de que el "Moloch organizativo" está ganando la partida. En mi día a día, trabajo sistemáticamente en ello. ¿Y tú?
Muchas gracias por leerme una semana más ❤️
¿Te gusta esta newsletter? ¡Suscríbete! ¡Compartid el enlace con vuestros amigos! ¡Enlazad el boletín en redes sociales!