La masificación del texto sintético ha vuelto visible, con una nitidez que antes no tenía, el nacimiento de una nueva forma de “palabra artificial”, que carece de vulnerabilidad biológica y espiritual y de exposición al hecho dramático de la finitud. Frente a este fenómeno, el autor constata cómo los algoritmos que generan textos realizan canónicamente la operación más distintiva de la técnica moderna: el desocultamiento de lo real como magnitud calculable y manipulable.
Más allá de la técnica
Tendemos a pensar en los grandes modelos de lenguaje (Large Language Models, en adelante LLM) como un conjunto de herramientas sofisticadas: medios excepcionalmente potentes para fines humanos diversos. Tal perspectiva, en la medida en que se encuentra restringida a la lógica de medios y fines, mantiene la reflexión en el plano de la regulación, el control y el buen uso de estas herramientas. Sin restar importancia a esas reflexiones, lo que aquí me propongo es desplazar la mirada hacia un plano distinto y, en cierto sentido, previo: qué se nos revela y qué se nos oculta cuando la realidad pasa a manifestarse a través del lenguaje artificial.
Con la masificación de plataformas como Gemini, Claude y ChatGPT, el texto generado artificialmente se está convirtiendo poco a poco en la materia prima preponderante de la comunicación humana. Los LLM penetran cada vez más profundamente nuestra vida social, infiltrando la comunicación por doquier. Estos sistemas, que generan texto calculando estadísticamente la palabra más probable a partir de enormes corpus de entrenamiento, ya son figuras omnipresentes en nuestra cotidianidad.[1] Hoy, el uso de servicios de IA generativa de textos nos resulta tan habitual como usar correo electrónico.
En este escenario es imperativo preguntarnos con mayor agudeza acerca de qué tipo de mundo se nos abre cuando la realidad se manifiesta a través del lenguaje artificial; y qué novedades trae esto respecto de formas previas de comunicación. Siguiendo a Heidegger: ¿de qué modo los LLM develan nuestro existir? ¿Qué se muestra y qué queda velado? Esto implica, en la tradición del filósofo alemán, analizar los LLM desde el punto de vista de la metafísica de la técnica. En ese nivel, como veremos oportunamente, el problema no es si la IA alucina o qué sesgos reproduce, sino algo diferente.
Plantear así nuestro problema no es, por sí solo, novedoso. Ya en los setenta, autores como Dreyfus[2] aplicaron tempranamente esta lectura heideggeriana a lo que en aquella época se llamó “las primeras IA simbólicas”, sistemas que aspiraban a replicar la cognición humana mediante reglas lógicas explícitas y manipulación formal de símbolos. En sus análisis, Dreyfus ya anticipaba que la inteligencia humana excedía ampliamente la administración mecanizada de significados, haciendo patente el carácter encarnado y situado de la comprensión, que opera siempre desde un trasfondo de mundo que un sistema formal no puede imitar. Décadas después (aunque antes de la “era ChatGPT”), autores como Coeckelbergh[3] extendieron esa mirada heideggeriana al análisis de la evolución de las tecnologías del lenguaje, mostrando que ninguna de ellas –desde la escritura primitiva hasta los entornos digitales– funciona como un mero instrumento neutral de comunicación: cada una reconfigura ontológicamente la palabra y, con ella, el mundo que la palabra abre.
¿Qué es lo nuevo? La escala que han adquirido los LLM en términos sociales implica un fenómeno de alcance hasta ahora inédito. La masificación del texto sintético radicaliza el rol mediador de esta técnica sobre el lenguaje y vuelve visible, con una nitidez que antes no tenía, el nacimiento de una nueva forma de “palabra artificial”, estadísticamente plausible, pero ontológicamente vacía.
Frente a este fenómeno distintivo, lo que me propongo es constatar –retomando a Heidegger– cómo los algoritmos que generan textos realizan canónicamente la operación más distintiva de la técnica moderna: el desocultamiento de lo real como magnitud calculable y manipulable.[4] De este modo, según veremos, el gestell heideggeriano reaparece bajo la forma de un radical emplazamiento a la palabra. Lo que un LLM hace –sofisticación más, sofisticación menos– es, en efecto, calcular palabras. Y ese desocultamiento de la palabra como magnitud es, en el mismo acto, un ocultamiento. ¿Qué es lo que queda velado? Siguiendo la tradición fenomenológica, argumentaré que la palabra humana, que es ontológicamente diferente de la palabra artificial, no se forma en una mente desencarnada: brota de un organismo que recuerda, que ha sido afectado, que vive en el tiempo y en la dramaticidad de su finitud. Aquel sustrato del lenguaje es lo que en la fenomenología contemporánea se ha llamado, entre otras formas, inteligencia somática.[5] Tal inteligencia es, en su esencia, lo que las palabras artificiales están poniendo en peligro.
El emplazamiento de la palabra
Comencemos recordando la advertencia fundamental de Heidegger en La pregunta por la técnica[6], según la cual la esencia de esta no es nada técnico. No es meramente una herramienta, sino un modo de desocultamiento de lo real, una estructura de comprensión que prefigura cómo se nos presenta el mundo y qué estatus ontológico concedemos a las cosas. Para la técnica moderna, Heidegger condensó este modo de desocultamiento en el concepto de gestell (estructura de emplazamiento), que describe la manera en que la técnica “provoca” o interpela a la realidad, obligándola a manifestarse no como una presencia autónoma, para sí, sino como “existencias”: un “stock” (bestand) disponible para ser ordenado, calculado y consumido. Heidegger ilustra esta esencia de la técnica mediante la central hidroeléctrica en el Rin.[7]
El río es interpelado para que entregue su presión hidráulica; deja de ser un cauce natural o parte del paisaje para revelarse esencialmente como “abastecedor de fuerza hidráulica”, kilovatios-hora disponibles para su distribución. La tecnología no se adapta al río, sino que lo “provoca” a manifestarse como “existencias”, como fondo de reserva disponible y acumulable. Esta transformación ontológica es radical: el ente extravía su carácter de objeto –algo que se yergue frente a nosotros como realidad para sí– para disolverse en pura disponibilidad. De modo análogo, como veremos en la IA Generativa montada sobre interfaces de texto, la palabra solo “es” en la medida en que es procesable para generar una respuesta sintética. Lo que la desoculta es su disponibilidad como insumo probabilístico. En el mismo acto, sin embargo, su cualidad como objeto de reflexión o de belleza queda velado por su reducción a recurso.
Aunque los actuales chatbots (como ChatGPT, Gemini o Claude) parezcan lejanos a la maquinaria de una hidroeléctrica, ambas tecnologías se inscriben en el mismo proyecto moderno. Siguiendo a Gadamer, lo que impone la modernidad es la hegemonía de la ratio como proporción, medida y eficacia, desplazando aquella forma de comprensión que la tradición clásica cifraba en la phronesis: el logos[8] como lenguaje cargado de sentido y como ámbito en que se manifiesta la verdad de las cosas. Los LLM consuman ese mismo desplazamiento, solo que la realidad emplazada cambia: ya no es la naturaleza física (el río, el mineral), sino la palabra misma como soporte de la comunicación. El cálculo –forma elemental del emplazamiento– es lo que conecta la hidroeléctrica con el chatbot: en ambos casos, la realidad se desoculta como recurso disponible a ser optimizado.
La idea de una “reducción estadística” de la palabra no es una descripción metafórica sino literal de cómo operan los LLM. De hecho, corresponde a una operación numérica específica word embedding[9]. Mediante esta operación, la palabra es despojada de su resonancia semántica única para ser mapeada en un vector numérico de longitud fija. Por ejemplo, la palabra “auto” existe para la IA solo como una serie de coordenadas matemáticas. El significado se reduce a proximidad geométrica: palabras semánticamente cercanas se transforman en vectores matemáticamente similares.[10] Así, el sentido que vivifica las palabras es literalmente pulverizado en una matriz de vectores numéricos correlacionados y organizados de modo tal que resulten procesables.[11] Las arquitecturas más recientes –mecanismos de atención, representaciones contextuales– añaden capas de sofisticación que permiten al modelo modular el vector de cada palabra según las palabras que la rodean. Pero esta sofisticación no altera la lógica computacional de base: la palabra sigue siendo procesada como dato vectorial cuyas relaciones son magnitudes calculables.[12] El emplazamiento ontológico no se atenúa con la sofisticación; al contrario, se profundiza. Este lenguaje artificial, lejos de ser el medio por el cual la inteligencia se abre a lo real, queda confinado a un complejo conjunto de cómputos.
Los alcances comunicativos del word embedding pueden apreciarse a través de lo que la socióloga Elena Esposito denomina “comunicación artificial”. En lugar de discutir si los algoritmos de generación de texto son o no “inteligentes” –debate que considera mal planteado–, Esposito propone observar el lugar que ya ocupan en la comunicación humana. La cuestión no es si la máquina piensa, sino qué hace cuando interviene en nuestros intercambios: lo que ofrece no es inteligencia, sino una competencia puramente mecánica para producir outputs comunicativamente efectivos. Los algoritmos han logrado dicha eficacia y eficiencia precisamente porque han abandonado (más bien sus programadores lo han hecho) el intento y la ambición de imitar la inteligencia humana y el modo en que esta lidia con el lenguaje. No intentan entender el sentido de lo que dicen; se limitan a operar en el circuito de la comunicación utilizando el lenguaje como una realidad meramente formal. Al interactuar con un LLM, estamos ante un proceso matemático que imita eficazmente la exterioridad de la comunicación por medio de un lenguaje que se ha emancipado de la necesidad de comprensión.[13]
Esta distinción entre producir comunicación efectiva y comprender retoma, en clave sociológica, la objeción clásica de Searle:[14] un sistema puede producir respuestas lingüísticamente correctas manipulando símbolos según reglas, sin comprender en absoluto su significado; la sintaxis, por perfecta que sea, nunca se convierte en semántica. La paradoja, desde Esposito, es precisamente que la potencia de los LLM para simular comprensión es renunciar enteramente a ella. El algoritmo trata a la palabra no como portadora de sentido, sino como una “física” de signos a ser minada. Esta mecánica se inscribe en un régimen epistemológico caracterizado por la primacía absoluta de la predicción mecanizada. Como señala Esposito, “los algoritmos parecen inteligentes no porque puedan comprender, sino porque pueden predecir”.
En la tradición hermenéutica y científica clásica, el objetivo era la explicación (erklären) o la comprensión (verstehen), buscando las causas o el sentido profundo de los fenómenos. Un LLM, en cambio, opera en una superficie pura de correlaciones estadísticas. Para el algoritmo, “comprender” un texto no significa captar su referencia al mundo, sino simplemente maximizar la capacidad de predecir el siguiente token –la siguiente unidad de texto– en la secuencia. El modelo nunca pregunta “qué dice esto”; calcula “qué viene después”. Aquí radica la diferencia abismal con respecto al tipo de experiencia de sentido a la que accede la inteligencia humana al “procesar” palabras en la formulación de un pensamiento o idea. La máquina jamás accede a dicha experiencia hermenéutica.[15]
La operación descrita, mediante la cual la razón reduce las palabras a magnitudes, consuma un viejo gesto de la racionalidad instrumental[16]: su afán de control la vuelve contra su propia naturaleza lingüística, sacrificando la esencia apofántica[17] del lenguaje.
De la oralidad al algoritmo
Los LLM no son la primera tecnología que opera sobre la palabra. Situarlos en la genealogía de las técnicas que los anteceden –de la oralidad a la escritura– permite ver la antesala del emplazamiento computacional al lenguaje y a la vez aquello que en él resulta inédito dentro de la evolución de la comunicación.[18] Las tecnologías del alfabeto y la imprenta, a su modo, desataron un emplazamiento creciente de la palabra: un paso clave en su conversión de evento vivo en objeto disponible. Los LLM pueden ser vistos parcialmente como una consumación de este proceso previo y a la vez como un fenómeno inédito. Detengámonos un momento sobre esto.
Mucho antes de los algoritmos, en su origen la escritura emplazó a la oralidad –como expresión originaria y viva de la socialidad– para estabilizarla en un objeto. Lo característico de la palabra hablada es el encuentro: sus posibilidades de sentido están dadas por la contingencia limitada de la presencia de los hablantes. Esa forma de comunicación, que es evento y presencia, fue emplazada por la técnica de la escritura para convertirse en texto: algo separado del hablante, disponible para ser analizado, transportado y reinterpretado fuera de su contexto vital.
No toda escritura, sin embargo, opera con la misma radicalidad. Como observa Ong[19], los sistemas pictográficos e ideográficos que precedieron al alfabeto conservaban aún un vínculo de semejanza o referencia con aquello que representaban: el signo evocaba la cosa o la idea. El alfabeto fonético rompe ese vínculo, pues reduce el lenguaje a un puñado de signos visuales que no remiten a cosas ni a ideas, sino únicamente a sonidos. Así, el alfabeto profundiza la conversión de la palabra en cosa. Esa abstracción –del signo que se parece a la cosa al signo que solo cifra un sonido– es un peldaño del proceso de emplazamiento que se radicaliza hoy en la reducción de la palabra a vector numérico. En la oralidad primaria, la palabra es siempre un suceso, un evento que cobra vida solo cuando está dejando de existir. La escritura, en cambio, encierra la palabra en un campo visual, separándola del presente vivo y creando la ilusión de que las palabras son objetos estables que pueden ser manipulados, almacenados y, eventualmente, procesados estadísticamente.
La transición de la oralidad a la masificación del texto escrito coincide con el advenimiento de la modernidad y con aquel desplazamiento que Gadamer identifica entre el logos hermenéutico y la ratio instrumental. En clave latinoamericana, Pedro Morandé ha leído ese mismo desplazamiento como la marginalización de la “razón sapiencial” –el saber que se transmite en formas vitales, narrativas y rituales– en favor de una racionalidad que solo reconoce lo cuantificable.[20]
Lo que la escritura inició al fijar la palabra y separarla de su hablante, los LLM lo llevan a otra escala: ya no estamos ante un discurso separado de su autor –como ocurría con la escritura–, sino ante un discurso generado sin autor; pura sintaxis operando en el vacío. En esta interpretación de cambio y continuidad, la disección del mundo que permite el alfabeto es el antepasado de la tokenización digital, aunque esta última representa un salto cuántico. Al sacrificar la inmersión oral por la distancia analítica, dimos el primer paso hacia una inteligencia –y hacia una comunicación– que puede procesar todo el saber humano sin “experimentar” nada de él. La sabiduría popular capta esta distorsión profunda cuando reza que “el papel lo aguanta todo” (“la IA lo aguanta todo”, habría que decir hoy).
La irrupción del algoritmo no elimina la oralidad ni la escritura, sino que impone una reconfiguración ecológica de todo el sistema comunicativo. La comunicación artificial del algoritmo se superpone como una capa final sobre las anteriores, obligando a la razón sapiencial de la oralidad y a la razón analítica de la escritura a reacomodarse bajo la lógica imperante de la optimización. La palabra hablada persiste, pero ahora es crecientemente procesada, transcrita y minada por la inteligencia artificial; la escritura persiste, pero ahora es optimizada por algoritmos de engagement o generada por prompts. Los LLM no destruyen los medios previos, sino que los colonizan, convirtiéndose en la infraestructura invisible que filtra, ordena y administra el contenido de las demás formas anteriores de comunicación.[21] La palabra artificial, una suerte de residuo del lenguaje, va plagando todo el ecosistema comunicativo.
La voz que se delega
Matthew Crawford[22] relata haber conversado con un padre que, tras pedir a ChatGPT que redactara un brindis para la fiesta del matrimonio de su hija y recibir un borrador técnicamente impecable e incluso conmovedor, se debate internamente acerca de si usarlo o no. Finalmente decide no hacerlo: usarlo habría equivalido a ausentarse del evento. Este ejemplo ilustra que el valor del discurso no reside en la calidad final del texto (el output), sino en el esfuerzo interno del padre por articular la “elusiva verdad” de la relación con su hija desde su insustituible perspectiva. Al delegar esa lucha por encontrar las palabras justas, no se está optimizando una tarea, sino cometiendo un acto de “auto-borrado” (self-erasure), dice Crawford, retirando la propia subjetividad de un momento que exige presencia humana radical. Estas potenciales formas de implicación comunicativa con los LLM tienen consecuencias sociológicas y antropológicas profundas.
La eficacia técnica de los LLM para simular la comunicación nos está seduciendo a automatizar nuestro modo de participar en la vida de otros, delegando parcialmente nuestros vínculos al dominio de la comunicación artificial. El afán de optimización –o la inseguridad acerca de nuestra propia capacidad de comunicación– nos está persuadiendo de delegar nuestra propia voz a una simulación estadística, aceptando que un producto sintético ocupe el lugar de nuestra palabra. La inadecuación no es sólo semántica ni hermenéutica: es somática. Lo que un padre busca al componer el brindis no está en una base de datos, sino en una memoria encarnada, en un cuerpo que “lleva la cuenta” de los años vividos con su hija. Ese registro es estructuralmente inaccesible al cálculo.
Aunque los LLM no tienen intención comunicativa, son capaces de adoptar de manera convincente una apariencia comunicativa expresiva. El simulacro es seductor porque no parece mera repetición, sino generación de algo original. Este atributo de la comunicación artificial Esposito la define como “contingencia virtual”. Cuando la IA redacta el discurso del padre, no está siendo creativa en sentido humano, sino que opera de manera “parasitaria” sobre la contingencia real de millones de hablantes humanos previos. El algoritmo se alimenta de la imprevisibilidad, el ingenio y la emoción que millones de usuarios han vertido en la red, reelaborándolos para producir una respuesta que parece única y sorpresiva. La máquina nos devuelve un reflejo estadístico de nuestra propia humanidad colectiva, pero despojada de la experiencia vivida que le dio origen. El algoritmo genera palabras estadísticamente plausibles sobre el amor y el compromiso, pero esas palabras nacen muertas.
El discurso que un padre pronuncia en el matrimonio de su hija, como acto comunicativo, pertenece radicalmente al ámbito del logos sapiencial: es un acto de dar sentido, de testimoniar una historia compartida y de proyectar un deseo de bien. Es, digamos así, algo radicalmente incalculable e irreemplazable. Cuando delegamos esta tarea a un LLM, abdicamos radicalmente de nuestra subjetividad.[23]
El problema no es la alucinación
Si la inteligencia artificial continúa el proyecto metafísico de la técnica, las herramientas conceptuales con que intentamos regularla resultan insuficientes, porque comparten sin saberlo el marco que pretenden criticar. La reflexión dominante sobre la “ética de la IA” se fija en el ente producido –¿es discriminatorio este algoritmo?, ¿es veraz lo que afirma el chatbot?, ¿quién responde por el accidente del vehículo autónomo?– y, al hacerlo, supone que máquina y humano miran el mismo mundo, y que basta ajustar la primera para que sus juicios coincidan con nuestros valores. Son preguntas válidas, pero ónticas: se ocupan de los entes dentro de un mundo que se da por sentado. Su límite no es que sean falsas, sino que son apenas “correctas” en el sentido heideggeriano –se ajustan a lo que tenemos delante de los ojos– sin llegar a ser “verdaderas”.[24]
La tarea, en cambio, es interrogar el modo de desocultamiento que la IA pone en obra: qué mundo aparece cuando lo real se recorta de antemano como serie computable, y qué queda velado en ese mismo aparecer. Desde ahí se ve por qué la tan discutida “alucinación” no es el problema que más debería inquietarnos. Cuando un LLM alucina –cuando produce una afirmación plausible pero falsa– no fracasa: cumple su tarea a la perfección, generando la secuencia estadísticamente más coherente sin que la pregunta por la verdad de lo dicho esté siquiera presente. La alucinación es el revés exacto del éxito predictivo: ambos brotan del mismo régimen ontológico, aquel en que el lenguaje se ha desligado de toda obligación de mostrar el ente. Decir “alucinación” es ya un diagnóstico óntico –un error empírico– de lo que en verdad es una operación ontológica: un modo de desocultamiento que no incluye la referencia al mundo entre sus criterios. Por eso ningún parche técnico la erradicará; solo desplazará su distribución estadística. Antes de darnos una respuesta sesgada o falsa, el algoritmo ya ha cometido un acto más fundamental: ha establecido qué cuenta como real –lo computable– y qué se descarta como ruido. La palabra artificial no miente ni acierta: simplemente no abre mundo alguno. Y si no abre mundo alguno, es porque procede de quien no tiene mundo. ¿Qué es, entonces, lo que la palabra humana sí hace y la máquina no puede? Esa es la cuestión que resta.
La palabra indisponible de una inteligencia somática
El peligro supremo no es, siguiendo a Heidegger, que la técnica funcione mal y cause estragos físicos o informáticos (o desperfectos comunicacionales). El ejemplo del discurso de matrimonio lo ilumina con claridad: la amenaza no está en que un LLM escriba un discurso incoherente, sino que escriba uno que aceptemos como verdadero, bello o bueno. El riesgo es llegar a considerar que un texto generado de esta manera puede sustituir a la palabra nacida de la experiencia vital y del afecto. De hacerlo, habríamos aceptado que el sentido –único, histórico y frágil– es intercambiable por la información, que es genérica, atemporal y abundante.
La máquina puede gestionar volúmenes ingentes de datos y simular cualquier estilo, pero permanece exiliada del sentido: no habita el mundo, solo procesa sus residuos sintácticos. Y, sin embargo, como intuyó Heidegger citando a Hölderlin, “donde hay peligro, crece también lo salvador”: aquello que la máquina no puede hacer señala, en negativo, lo que debemos resguardar. Los griegos llamaban poiesis a un modo de traer-a-la-presencia que respeta el ritmo propio de lo que adviene –en este caso las palabras– opuesto a la extracción forzada e inmediata del gestell. La palabra humana, cuando es verdadera, pertenece a esa estirpe: no se fabrica ni está disponible, emerge. Y emerge de algo de lo que la máquina carece: un cuerpo y un mundo.
Esta dimensión somática constituye, acaso, el límite ontológico más radical del cálculo. La tradición de la cognición encarnada, desde el clásico The Embodied Mind de Varela (1991), Thompson y Rosch hasta los desarrollos de Gallagher en How the Body Shapes the Mind (2005), ha mostrado que la comprensión humana no ocurre “en” una mente desligada del cuerpo, sino que es una emergencia corporalizada de un organismo vulnerable, mortal y expuesto a un mundo que lo afecta.[25] El mismo padre que buscaba las palabras para el brindis no las extrae de un repertorio disponible: las deja venir desde un cuerpo que ha acompañado, año tras año, la vida de su hija. La palabra justa, en ese acto, no es la estadísticamente óptima, sino la que solo ese cuerpo y esa historia podían dar. La IA, al carecer de organismo, de vulnerabilidad biológica y espiritual y de exposición al hecho dramático de la finitud, está ontológicamente inhabilitada para acceder a ese registro.[26] No es una limitación contingente que mejores arquitecturas puedan superar: es la diferencia irreductible entre procesar información y ser afectado por el mundo.Esta inteligencia somática[27] es lo indisponible que, frente a la palabra artificial, debemos custodiar.
