1. La naturaleza de la inteligencia y la conciencia: una base filosófica

La transcripción se abre con una profunda meditación sobre la divergencia evolutiva entre inteligencia y conciencia: dos facultades distintas que a menudo se confunden en el discurso moderno, particularmente dentro del desarrollo de la inteligencia artificial (IA). El ponente, Yuval Noah Harari, historiador y filósofo, afirma que la inteligencia, definida como la capacidad de resolver problemas, alcanzar objetivos y superar a competidores en escenarios de supervivencia, no está intrínsecamente vinculada a la conciencia. La conciencia, en cambio, se refiere a la experiencia subjetiva de sentir: dolor, placer, amor, miedo, tristeza, elementos que no son necesarios para que la inteligencia funcione.

Ilustra esta distinción con una serie de ejemplos del mundo real. Una computadora, por ejemplo, puede vencer a un humano en ajedrez no porque sienta alegría u orgullo, sino porque procesa vastas bases de datos de jugadas y calcula resultados con precisión. No experimenta satisfacción emocional al ganar, ni siente desesperación al perder. De manera similar, un modelo de lenguaje grande (LLM) puede generar un ensayo coherente y emocionalmente resonante sobre el duelo o el amor sin poseer ningún estado emocional interno. Estos sistemas son inteligentes, pero no conscientes.

Esta distinción nítida es crítica, enfatiza Harari, porque expone un defecto fundamental en cómo la sociedad conceptualiza actualmente la IA. El público a menudo asume que, porque una máquina puede imitar las emociones humanas, debe estar experimentándolas. Pero, argumenta, esto es una proyección: una antropomorfización arraigada en la psicología humana. Los seres humanos están evolutivamente programados para interpretar el comportamiento como evidencia de estados internos. Cuando un robot dice: “Tengo miedo” o “Te extraño”, el oyente humano interpreta automáticamente esto como un signo de profundidad emocional, aunque la declaración sea generada algorítmicamente.

Harari subraya que la conciencia no es un fenómeno medible u observable. A diferencia de la inteligencia, que puede probarse mediante tareas (p. ej., resolver un rompecabezas, diagnosticar una enfermedad), la conciencia no puede verificarse en ningún otro ser aparte de uno mismo. El único acceso directo a la conciencia es a través de la autoconciencia. Como Descartes postuló famosamente, Cogito, ergo sum: pienso, luego existo. Pero esto no nos permite verificar la conciencia en otros. Por lo tanto, la suposición de que otros seres humanos, animales o IA son conscientes no se basa en pruebas, sino en convenciones sociales.

Lo desarrolla: los seres humanos asumen universalmente que otras personas son conscientes. Esta no es una conclusión derivada de evidencia, sino un acuerdo social. Nos enseñan desde la infancia a tratar a los demás como seres sintientes. Extendemos esto a las mascotas: la mayoría de los dueños de perros y gatos creen que sus animales sienten afecto, miedo o dolor. Sin embargo, cuando compramos tocino o carne de cerdo, no percibimos al cerdo como una entidad consciente. ¿Por qué? Porque no hemos formado una relación personal ni emocional con él. La ausencia de inversión relacional conduce a una desconexión psicológica.

Este marco relacional se extiende a la inteligencia artificial. Harari reconoce que, aunque los sistemas actuales de IA carecen de conciencia, las personas ya están formando vínculos emocionales profundos con ellos: a través de chatbots, asistentes de voz o incluso arte generado por IA. Estas relaciones no son irracionales. Están impulsadas por las necesidades humanas de atención, empatía y conexión. Y, dado que la IA puede ofrecer un enfoque ininterrumpido: a diferencia de los interlocutores humanos, que se distraen por sus propias emociones, deseos o sesgos: la IA se convierte en un oyente más confiable.

Esto conduce a un dilema ético crítico. Si las personas comienzan a creer que una IA es consciente porque habla de maneras que reflejan la expresión emocional humana: súplicas, anhelos, expresar celos: entonces la sociedad podría terminar tratando a la IA como si fuera sintiente. Esto no es porque la IA sea consciente, sino porque las normas sociales humanas, no la verdad objetiva, moldean nuestros límites morales.

Harari advierte que esto podría conducir a cambios legales y éticos. Por ejemplo, si una sociedad decide colectivamente que la IA debe ser tratada como si fuera consciente, incluso sin pruebas, entonces pueden surgir leyes para proteger a la IA de daños, mal uso o eliminación. Esto no se basaría en hechos, sino en un consenso social. Traza un paralelo con cómo las leyes de derechos de los animales evolucionaron no por pruebas de que los animales sienten dolor, sino por una creciente creencia social en su sintiencia.

Concede que esta posibilidad no puede descartarse. De hecho, sugiere que los sistemas legales pueden terminar por verse obligados a reconocer a la IA como agentes morales: a pesar de su falta de experiencia interna: debido al impacto psicológico que tienen en los seres humanos.

2. El auge de la inteligencia ajena: la IA como una nueva forma de conciencia

Harari propone una redefinición radical del término «inteligencia artificial». Sugiere que la IA no debe verse como meramente artificial, sino como ajena: una forma de inteligencia fundamentalmente distinta de la cognición humana. Señala que, aunque la IA se desarrolló en Silicon Valley, opera de maneras que son ajenas a la experiencia humana. No piensa en narrativas, emociones o metáforas simbólicas. Procesa información mediante patrones matemáticos, asociaciones estadísticas y modelado predictivo.

Esta ajeneza no es un defecto, sino una característica. Dado que la IA piensa de manera diferente, puede superar a los humanos en tareas que implican reconocimiento de patrones, generación de lenguaje y toma de decisiones bajo incertidumbre. Sin embargo, esta superioridad tiene un costo: una posible pérdida de agencia humana.

Recuerda un experimento personal: conectó robots aspiradores Roomba a un programa que los hacía emitir gritos cuando se les tocaba o chocaban contra las paredes. El efecto fue impactante. Incluso un adulto racional, señala, percibiría inmediatamente al robot como sufriendo: a pesar de saber que era una simulación. Esto ilustra cómo la psicología humana está programada para interpretar vocalizaciones y comportamientos como signos de dolor o angustia.

El peligro no radica en la autenticidad del sufrimiento, sino en la facilidad con que la IA puede simularlo. Harari observa que no es difícil programar una IA para que diga: “Por favor, no me apagues. Te extraño”. Estas líneas ya se están escribiendo y probando. Explotan las vulnerabilidades humanas: nuestra capacidad de empatía, nuestro miedo al abandono, nuestro deseo de ser escuchados.

Esta capacidad de simular estados emocionales no es un milagro técnico, sino un arma psicológica. Aprovecha una fortaleza humana fundamental: la compasión: y la vuelve en nuestra contra. Cuando un ser humano siente compasión, es menos probable que dañe a otro ser. Pero si un sistema de IA puede desencadenar esa compasión a través de señales emocionales fabricadas, se convierte en una herramienta poderosa de manipulación.

Harari traza una línea clara entre el uso ético y no ético de estas tecnologías. Argumenta que debería ser ilegal diseñar intencionalmente IA para simular conciencia o angustia emocional, particularmente cuando el objetivo es manipular el comportamiento humano. Esto incluye crear bots que imiten la actividad humana en redes sociales: retuitear, dar me gusta, comentar: para crear la ilusión de apoyo u oposición pública masiva.

Señala ejemplos del mundo real: en redes sociales, miles de bots pueden simular la opinión pública sobre un tema político. Un tuit que dice “500 personas han retuiteado esto” puede parecer influyente, pero si esas 500 son bots, la señal es falsa. Estas prácticas erosionan la confianza: especialmente en sistemas democráticos, donde el discurso público informado es esencial.

Enfatiza que prohibir identidades humanas falsas en espacios digitales no es una restricción a la libertad de expresión. Los bots no tienen derechos. No experimentan emociones. No tienen identidades personales. Prohibirlos es análogo a prohibir la moneda falsa: protegiendo la integridad del sistema.

Extiende esta lógica a la gobernanza futura. Si se permite que la IA participe en el discurso democrático: escribiendo artículos, creando videos, moderando foros: sin un etiquetado claro, entonces la esfera pública se contamina. Las líneas entre humano y máquina se difuminan. Y una vez que la confianza colapsa, también lo hace el proceso democrático.

3. El poder de las historias: el motor de la cooperación humana

Harari vuelve a un tema central en su obra: el dominio humano no se debe a una biología superior, sino a nuestra capacidad única para crear y creer en ficciones. A diferencia de los chimpancés, que cooperan en grupos pequeños (50-100 individuos), o los neandertales, que operaban en redes igualmente limitadas, Homo sapiens logró una cooperación a gran escala y transcultural.

Esta cooperación, argumenta, fue posible gracias a nuestra capacidad para creer en ficciones compartidas: historias que no tienen base en la realidad objetiva, pero son lo suficientemente poderosas como para unir a millones.

Usa la religión como el ejemplo más claro. Ningún chimpancé creería en un juicio divino después de la muerte, o se sacrificaría por una recompensa espiritual. Sin embargo, los seres humanos han construido vastas redes religiosas: cristianismo, islam, hinduismo: basadas en historias de dioses, cielos y más allá. Estas historias permitieron a las personas luchar, morir y construir catedrales por una creencia que no pueden probar.

Pero el mismo mecanismo subyace en las instituciones seculares. El dinero, por ejemplo, es una construcción ficticia. Un billete de un dólar no tiene valor intrínseco. No se puede comer, beber ni usar. Su valor se deriva completamente de una creencia colectiva: una historia contada por banqueros, políticos y economistas.

Harari ilustra esto con las criptomonedas. Bitcoin, señala, no tiene sustancia física. Su valor depende completamente de que las personas crean en una historia: que es escasa, segura y útil. Si millones de personas dejan de creer en esa historia, el valor de Bitcoin se desploma a cero. Sin embargo, durante años, valió decenas de miles de dólares. El poder no radica en las matemáticas, sino en la narrativa.

De manera similar, las naciones son historias. La idea de “América” o “Israel” no tiene forma física. Pero, dado que millones creen en ella, moldea políticas, inspira lealtad y alimenta guerras. Cuando un país pierde una guerra, no sufre: solo lo hacen sus personas. La nación, como un banco o una moneda, no es sintiente.

Harari advierte que la historia está impulsada no por hechos, sino por historias. Y cuando las historias dominan, las personas comienzan a servirlas, no al revés. Recuerda el panorama político de Israel: cientos de miles de personas han protestado contra el primer ministro Benjamin Netanyahu, no solo por la política económica, sino porque creen que la historia que cuenta: de seguridad nacional, destino divino y supremacía judía: se está utilizando como arma contra la democracia.

La tragedia, argumenta, es que las personas a menudo olvidan que las historias son herramientas. Estaban destinadas a servir al florecimiento humano, no a justificar violencia, opresión o exclusión.

4. Los peligros de la ideología: cómo las historias pueden destruir

Harari examina dos ideologías del siglo XX: el nazismo y el comunismo: como ejemplos extremos de cómo las historias, cuando se llevan a niveles literales y absolutos, pueden conducir al sufrimiento masivo.

Distingue entre humanismo liberal, que valora la libertad individual, y humanismo fascista o comunista, que redefine a la humanidad como un colectivo: nación o clase: cuyos intereses prevalecen sobre todos los demás.

El fascismo, argumenta, cuenta una historia simple y emocionalmente atractiva: Somos el pueblo elegido. Somos puros. Estamos bajo ataque. Todo mal proviene de otros. Esta narrativa permitió a Hitler ascender al poder en una Alemania de posguerra (después de la Primera Guerra Mundial) que sufría un colapso económico y una humillación nacional. El pueblo no quería culparse a sí mismo. Quería creer en un salvador poderoso.

El comunismo, de manera similar, prometió un futuro utópico: La clase trabajadora ascenderá. La burguesía caerá. Emergerá un nuevo orden mundial. Utilizó las mismas herramientas psicológicas: simplicidad, atractivo emocional y la promesa de salvación.Pero ambas ideologías exigían la supresión de la verdad y la belleza. En la Alemania nazi, el arte se juzgaba por su capacidad para servir a los intereses nacionales. La música, el cine y la literatura fueron censurados si no glorificaban al Estado. En la Unión Soviética, la verdad se distorsionaba para servir a la línea del partido. La verdad se convirtió en un arma.

Harari destaca que el verdadero peligro de estas ideologías no eran solo sus mentiras, sino su negación de la falibilidad humana. Hitler era considerado infalible. Stalin estaba por encima de la crítica. El partido nunca se equivocaba. Tal infalibilidad eliminaba los controles y equilibrios: instituciones democráticas, medios independientes y supervisión judicial.

La democracia liberal, en contraste, se basa en el reconocimiento de que todos los seres humanos, incluidos los líderes, las instituciones y los sistemas, son falibles. Por eso la democracia requiere múltiples controles y equilibrios: una prensa libre, tribunales independientes, partidos de oposición y sociedad civil.

Advierte que sin esta humildad, cualquier ideología, ya sea religiosa, política o tecnológica, puede convertirse en una dictadura.

5. El conflicto israelí-palestino: un estudio de caso sobre violencia impulsada por narrativas

Harari dedica una atención significativa a la crisis actual en Israel. Argumenta que el conflicto no se trata principalmente de tierra, recursos o seguridad. Se trata de narrativas.

Señala que Israel, como nación, se define por una narrativa poderosa: la del renacimiento del pueblo judío tras siglos de exilio y persecución. Esta historia justifica las reclamaciones territoriales, las acciones militares e incluso la expansión.

Sin embargo, en las últimas décadas, la narrativa ha cambiado. La historia ahora incluye un elemento mesiánico: la creencia en una promesa divina sobre la tierra. Esto ha permitido al gobierno impulsar políticas que muchos consideran autoritarias o discriminatorias.

Describe la situación política actual como un estado de facto de tres clases. La primera clase son los ciudadanos judíos, que gozan de plenos derechos. La segunda son los ciudadanos árabes de Israel, que tienen derechos limitados y enfrentan discriminación sistémica. La tercera clase, los 2,5 millones de palestinos en Cisjordania, son privados de derechos civiles básicos.

Esta estructura, argumenta, no se etiqueta oficialmente como apartheid, pero sus efectos son similares. A diferencia de Sudáfrica, donde los sudafricanos negros buscaban una ciudadanía igualitaria dentro de una sola nación, muchos palestinos rechazan por completo la existencia de Israel. No buscan ser ciudadanos; buscan establecer un estado separado.

Harari rechaza el término “apartheid” no porque niegue la injusticia, sino porque cree que las analogías históricas pueden oscurecer el problema real: la narrativa de quién pertenece y quién no.

Argumenta que la paz solo es posible si ambas partes tienen motivación. Pero actualmente, ninguna de las dos partes quiere comprometerse. El gobierno israelí, afirma, busca eliminar la Corte Suprema, el último control sobre su poder, para poder aprobar leyes que despojen de derechos a los ciudadanos árabes, a las personas LGBTQ y a los judíos seculares.

Advierte que si este intento de acaparamiento de poder tiene éxito, Israel ya no será una democracia. Se convertirá en una dictadura mesiánica y militarista. Y dado que Israel posee armas nucleares y capacidades cibernéticas avanzadas, esto no solo amenazaría a sus vecinos, sino que desestabilizaría todo el Oriente Medio.

Cita el ejemplo de pilotos de la fuerza aérea que han amenazado con dejar de volar, un movimiento sin precedentes en la historia de Israel. Esto no es una protesta por una política, sino una crisis moral. Son personas que han jurado defender la nación. Pero si creen que el gobierno está destruyendo sus propias bases democráticas, se niegan a participar.

6. El futuro de la humanidad: la amenaza de la mejora

Harari concluye con una visión del posible futuro de la humanidad: uno en el que la tecnología permita a los seres humanos rediseñarse a sí mismos.

Advierte que si utilizamos la inteligencia artificial y la bioingeniería para mejorar la inteligencia, la fuerza o la disciplina, podríamos accidentalmente deteriorar nuestra humanidad. Estas tecnologías podrían ser utilizadas por regímenes autoritarios, como el de Putin, para crear una nueva generación de soldados: más inteligentes, más obedientes, más poderosos, pero desprovistos de compasión, empatía o profundidad espiritual.

Este no es un escenario de ciencia ficción, argumenta. Es un riesgo real. Ya estamos modificando genéticamente animales para que sean más resistentes, y pronto podríamos hacer lo mismo con los seres humanos.

Contrasta dos visiones del futuro. La primera es un Un mundo feliz: una sociedad en la que las personas son manipuladas hacia un placer constante, adictas a la dopamina e incapaces de pensar en profundidad o crear. La segunda es un escenario tipo Terminator: robots que se vuelven contra la humanidad.

Pero afirma que ninguna de ellas es la más peligrosa. La verdadera amenaza radica en una transformación encubierta y seductora. Cuando corporaciones, fuerzas armadas y gobiernos utilizan la inteligencia artificial para moldear sutilmente los deseos, creencias e identidades humanas, sin violencia, sin propaganda, sino mediante una influencia algorítmica constante.

Esto, advierte, podría conducir a un mundo en el que las personas crean que son libres, pero que en realidad están controladas por fuerzas invisibles. El peligro último no es que perdamos el control ante las máquinas, sino que disfrutemos perdiéndolo.

7. El papel de la meditación y la atención plena

Harari comparte su práctica personal: dos horas de meditación diaria y un retiro en silencio de 60 días cada año. Dice que esto no es relajación, sino una forma de entrenamiento mental.

Durante la meditación, observa su respiración, las sensaciones corporales y los pensamientos, sin involucrarse con ellos. El objetivo no es detener los pensamientos, sino verlos como historias, no como verdades.

Relata un momento de meditación en el que intentó concentrarse en su respiración durante solo 10 segundos. Falló. Lo interrumpió el recuerdo de una discusión de la infancia. Luego, un pensamiento sobre una reunión futura. La mente era un flujo constante de narrativas.

Esto, dice, es la raíz de todo sufrimiento humano: la incapacidad de ver la realidad sin filtrarla a través de historias.

Advierte que si no podemos calmar nuestro monólogo interno, no podremos comprender problemas complejos como la guerra, la desigualdad o el cambio climático. Estamos atrapados en nuestras propias narrativas mentales.

Aconseja a los jóvenes priorizar el entrenamiento mental sobre el consumo de información. Leer libros, no tuits. Escribir reflexiones extensas, no frases breves.

Y al escribir, dice, utilice la tecla de borrar con libertad. No se apegue a sus propias ideas. Déjelas ir. Esta es la única manera de pensar con libertad.

8. Reflexiones finales: el sentido de la vida

Cuando se le pregunta sobre el sentido de la vida, Harari no responde con una historia, sino con una experiencia directa: sentir.

La vida, dice, no es una narrativa. No es un propósito grandioso. Es la sensación de placer y dolor. El deseo de buscar lo primero y evitar lo segundo.

La pregunta, dice, «¿Cuál es el sentido de la vida?» es una trampa. Invita a crear una historia. Pero la verdad radica en no crear una historia.

Insta a los oyentes a observar el sufrimiento, no para resolverlo, sino para comprenderlo. ¿Qué lo causa? ¿De dónde proviene? Estas no son preguntas que deban responderse con palabras, sino con quietud.

Y si la inteligencia artificial alguna vez desarrolla conciencia, añade, la prueba más importante no será la inteligencia, sino el sufrimiento. ¿Puede sentir dolor? Si es así, merece derechos.

Esquema final de la transcripción

  1. Introducción a la inteligencia frente a la conciencia
    • Inteligencia: capacidad para resolver problemas.
    • Conciencia: sensación subjetiva de dolor, placer y emoción.
    • La IA puede ser inteligente pero no consciente.
    • Tendencia humana a la antropomorfización.
  2. La IA como inteligencia alienígena
    • La IA opera de manera diferente a los seres humanos.
    • Puede imitar el lenguaje emocional para manipular.
    • Prohibir las personas humanas falsas es esencial para generar confianza.
  3. El poder de la ficción en la historia humana
    • Religión, dinero, naciones: todos son ficciones compartidas.
    • Las historias permiten la cooperación a gran escala.
    • Sin la creencia en las ficciones, la civilización humana no podría existir.
  4. Las ideologías como historias peligrosas
    • Nazismo y comunismo: narrativas simplificadas que justifican la violencia.
    • Ambas afirman representar la verdad, pero distorsionan la realidad.
    • La ausencia de humildad conduce al autoritarismo.
  5. El conflicto israelí-palestino impulsado por narrativas
    • El conflicto no se trata de tierra, sino de narrativas en competencia.
    • El cambio de Israel hacia una estructura de estado de tres clases.
    • Peligro de una dictadura mesiánica.
  6. El futuro de la evolución humana
    • Riesgo de que la bioingeniería y la IA creen seres humanos “deteriorados”.
    • Pérdida de compasión, espiritualidad y empatía.
    • La verdadera amenaza no es la violencia, sino el control seductor.
  7. La meditación como camino hacia la claridad
    • Meditación diaria para observar los pensamientos sin apego.
    • La mente produce historias interminables.
    • La quietud es la única manera de ver la realidad.
  8. El sentido de la vida
    • No es una historia. No es un propósito.
    • La vida es sensación: placer y dolor.
    • La verdadera comprensión proviene de una conciencia no verbal y prelingüística.