Escuela de Frankfurt, giro lingüístico, tecnología e inteligencia artificial

Pregunta central

¿Cómo transforman el lenguaje y la técnica nuestras formas de razonar, comunicar y organizar la vida común, y qué responsabilidades surgen ante la inteligencia artificial?

Comprender

1. Una pregunta sobre las mediaciones de la vida contemporánea

Gran parte de la experiencia contemporánea está mediada por instituciones, lenguajes y sistemas técnicos. Trabajamos mediante plataformas; conocemos hechos a través de medios y buscadores; tomamos decisiones con formularios, métricas y modelos; y discutimos públicamente en espacios cuyas reglas son diseñadas por organizaciones. La filosofía no puede tratar estas mediaciones como instrumentos neutrales situados fuera de la sociedad. Debe preguntar qué capacidades abren, qué relaciones de poder consolidan, qué formas de racionalidad favorecen y quién responde por sus efectos.

Esta lección reúne tres itinerarios que no deben confundirse ni aislarse. La teoría crítica estudia las condiciones sociales que dificultan la libertad y examina las posibilidades de transformarlas. El llamado giro lingüístico mostró, de maneras plurales, que el significado, la justificación y la acción están ligados a prácticas de lenguaje. La filosofía de la técnica y de la inteligencia artificial analiza artefactos y sistemas que procesan signos, clasifican personas y participan en decisiones. El hilo conductor es la mediación: nuestra relación con el mundo no ocurre al margen de formas sociales, lingüísticas y técnicas.

No se propone una historia lineal en la que una escuela reemplace a otra, ni una sentencia final sobre si una máquina «piensa». El objetivo es construir criterios para distinguir rendimiento, comprensión, responsabilidad y poder.

2. La constelación histórica de la teoría crítica

El Instituto de Investigación Social se fundó en Frankfurt en 1923. Sus investigadores articularon filosofía, economía, sociología, psicología y estudios culturales para comprender sociedades en las que el progreso científico y productivo coexistía con explotación, autoritarismo y violencia. El ascenso del nazismo forzó el exilio; la experiencia del fascismo, la Shoá, el estalinismo, la guerra y la industria cultural modificó profundamente sus preguntas. Tras la guerra, algunos miembros regresaron a Alemania y otros continuaron su trabajo en Estados Unidos.

«Escuela de Frankfurt» designa una tradición heterogénea, no una doctrina única. Horkheimer, Adorno, Marcuse y Benjamin no sostuvieron lo mismo; Habermas reformuló varios problemas, y autoras y autores posteriores discutieron sus límites. Tampoco todos tuvieron la misma relación institucional con el Instituto. Conviene hablar de una constelación de problemas: capitalismo, dominación, antisemitismo, racionalización, cultura de masas, técnica, autoridad y posibilidades de emancipación.

El marco histórico evita dos reducciones. La primera consiste en leer estos textos como profecías abstractas aplicables sin mediaciones a cualquier presente. La segunda consiste en encerrarlos en su época. Sus categorías pueden orientar preguntas actuales siempre que se reconstruya el nuevo contexto y no se confundan radio, cine, televisión, plataformas digitales y modelos generativos.

Por qué se incluye esta imagen

Documenta continuidad y debate interno sin presentar a las cuatro personas como una imagen exhaustiva de la Escuela de Frankfurt.

3. Horkheimer: de la teoría tradicional a la teoría crítica

En «Teoría tradicional y teoría crítica» (1937), Max Horkheimer contrapone dos orientaciones. La teoría tradicional tiende a concebir el conocimiento como un sistema de proposiciones producido por un observador separado del proceso social. La teoría crítica examina también las condiciones históricas en las que surgen el investigador, sus categorías y sus instituciones. No renuncia a la verdad ni convierte toda ciencia en propaganda; pregunta por la inserción social del saber y por los intereses que estructuran su producción y uso.

Una teoría es crítica no porque formule objeciones a todo, sino porque vincula tres dimensiones: explica mecanismos de dominación; explicita criterios normativos para juzgarlos; y se orienta hacia posibilidades prácticas de emancipación. ¿Cómo fundamentar la crítica sin adoptar una posición exterior a la historia? ¿Cómo relacionar diagnóstico social y acción sin hablar en nombre de quienes padecen injusticias? La teoría crítica posterior ha discutido precisamente esas dificultades.

Aplicada a tecnologías digitales, esta orientación no pregunta solo si un modelo es preciso. También examina quién define el problema, de dónde provienen los datos, qué trabajos hacen posible el sistema, quién recibe sus beneficios, quién soporta sus errores y qué mecanismos de impugnación existen.

4. Horkheimer y Adorno: Ilustración y razón instrumental

En Dialéctica de la Ilustración, Horkheimer y Adorno estudian una paradoja: la razón que buscaba liberar a los seres humanos del miedo puede reducirse a cálculo, previsión y dominio. La crítica no afirma que toda razón sea opresiva ni que la Ilustración deba abandonarse. Señala una tendencia histórica por la cual la racionalidad se identifica con la selección eficiente de medios, mientras los fines quedan fuera de discusión.

La razón instrumental evalúa qué procedimiento permite alcanzar un objetivo dado. Es indispensable en muchas actividades, pero se vuelve problemática cuando ocupa todo el campo racional: personas, naturaleza y cultura aparecen entonces como recursos administrables. La crítica apunta a esa reducción, no a cada instrumento ni a la ciencia en cuanto tal.

El concepto ayuda a analizar sistemas de optimización. Una plataforma puede maximizar tiempo de permanencia; un hospital, velocidad de clasificación; un tribunal, uniformidad documental. Pero ninguna métrica responde por sí sola si esos fines son legítimos, qué valores desplazan o qué daños producen. La eficiencia es una consideración racional, no la totalidad de la razón.

5. Industria cultural, estandarización y recepción

Horkheimer y Adorno emplearon «industria cultural» para analizar la producción organizada de entretenimiento bajo condiciones capitalistas. La expresión destaca estandarización, repetición de fórmulas y una apariencia de elección individual —a veces descrita como pseudoindividualización— dentro de repertorios previamente configurados. La cultura no es un simple espejo: contribuye a formar expectativas, deseos y modos de interpretar el mundo.

Este diagnóstico no debe convertirse en la consigna «toda cultura popular manipula» ni en la imagen de audiencias completamente pasivas. Los públicos interpretan, negocian y resignifican; existen producciones comerciales críticas y prácticas creativas. Además, los ecosistemas actuales combinan empresas, creadores, comunidades, algoritmos de recomendación y usuarios productores. La categoría sigue siendo fértil si se la usa como pregunta: ¿cómo condicionan los modelos de negocio y los sistemas de distribución aquello que aparece, circula y obtiene visibilidad?

En plataformas digitales, la personalización no elimina necesariamente la estandarización. Un repertorio puede adaptarse a perfiles individuales y, a la vez, responder a objetivos comunes de retención y monetización. Esa hipótesis debe investigarse empíricamente, no asumirse como conclusión automática.

6. Benjamin: técnica, reproducibilidad y política de la percepción

Walter Benjamin estudió cómo la reproducción técnica transforma el estatuto de la obra de arte, su recepción y su función política. Su noción de aura alude a una forma de presencia singular ligada a la distancia, la tradición y la autenticidad. Fotografía y cine modifican esa experiencia al hacer que las obras sean reproducibles y circulen en nuevos contextos.

Benjamin no ofrece una condena simple de la técnica. La pérdida o transformación del aura puede debilitar usos rituales y abrir formas colectivas de percepción, experimentación y politización. Al mismo tiempo, los medios pueden incorporarse a proyectos autoritarios. La técnica reorganiza posibilidades; no decide por sí sola su sentido político.

Benjamin mantuvo una relación cercana pero no idéntica a la de los miembros institucionales del Instituto. Presentarlo como representante homogéneo de una «primera generación» borraría tensiones reales. Para pensar imágenes digitales y contenidos generados por IA, su aporte no consiste en proporcionar una respuesta anticipada, sino en enseñar a preguntar cómo cambian autoría, originalidad, circulación, atención y experiencia cuando varían las condiciones técnicas de reproducción.

7. Marcuse: racionalidad tecnológica y sociedad unidimensional

Herbert Marcuse analizó sociedades industriales avanzadas en las que producción, consumo, administración y comunicación integran a los individuos mediante necesidades y satisfacciones socialmente organizadas. «Unidimensionalidad» no significa que todas las personas piensen exactamente igual; nombra el debilitamiento de alternativas capaces de cuestionar el orden existente.

La racionalidad tecnológica describe un modo de coordinación social que presenta decisiones políticas como exigencias técnicas inevitables. No equivale a cada máquina ni a la tecnología como esencia maligna. Importa distinguir artefacto, diseño, propiedad, institución y finalidad. Una misma capacidad técnica puede organizarse de formas diferentes.

Esta distinción es central ante la IA. Decir que «el algoritmo decidió» oculta elecciones previas sobre objetivos, datos, umbrales y responsabilidades. La automatización puede transformar un procedimiento, pero no vuelve inevitable una única forma de trabajo ni convierte al sistema en agente moral. Las alternativas dependen de normas, recursos, organización y participación.

8. Habermas: acción comunicativa y pretensiones de validez

Jürgen Habermas reconstruye una racionalidad que no se reduce al éxito estratégico. En la acción comunicativa, participantes capaces de lenguaje coordinan sus acciones buscando entendimiento. Al hablar, elevan pretensiones que pueden ser aceptadas o discutidas: verdad respecto del mundo objetivo; rectitud respecto de normas compartidas; y sinceridad respecto de la expresión de la propia experiencia.

La comunicación real siempre está atravesada por desigualdades, intereses y malentendidos. Habermas no describe una conversación perfecta que ya exista; reconstruye condiciones implícitas que permiten criticar distorsiones y justificar normas mediante razones. Su ética del discurso pregunta qué decisiones podrían recibir el asentimiento de quienes resultan afectados bajo condiciones inclusivas de deliberación.

La distinción entre sistema y mundo de la vida analiza tensiones entre mecanismos coordinados por dinero o poder y contextos de significado compartido. Habermas habla de colonización cuando lógicas sistémicas sustituyen indebidamente procesos comunicativos. En sistemas automatizados, una clasificación administrativa puede desplazar el diálogo necesario para comprender una situación singular. La solución no es eliminar toda administración, sino preservar espacios de justificación, revisión y participación.

9. Críticas y renovaciones de la teoría crítica

La tradición fue cuestionada por sus supuestos eurocéntricos, por la insuficiente atención al género, la raza, el colonialismo y la experiencia de grupos subordinados. Nancy Fraser examinó la relación entre redistribución, reconocimiento y representación; Seyla Benhabib defendió una universalidad sensible a la diferencia; Amy Allen interrogó relatos de progreso; Axel Honneth desarrolló una teoría del reconocimiento; Rahel Jaeggi renovó la crítica de formas de vida.

Estas intervenciones no forman una lista decorativa. Modifican qué cuenta como dominación y quién puede formular los criterios de crítica. También impiden describir la historia de la Escuela de Frankfurt como una sucesión lineal de «generaciones» en la que cada etapa supera a la anterior.

Una teoría crítica de la IA debe incorporar voces de las comunidades afectadas, formas de injusticia epistémica y desigualdades transnacionales. Un sistema puede funcionar según su especificación y, sin embargo, reforzar una distribución injusta de visibilidad, riesgo o capacidad de decisión. La evaluación requiere escuchar conocimiento situado y no limitarse a indicadores definidos por el proveedor.

10. Los giros lingüísticos: una transformación plural

«Giro lingüístico» nombra diversos desplazamientos filosóficos del siglo XX hacia el análisis del lenguaje. No fue un acontecimiento único ni una escuela homogénea. En algunas tradiciones, el estudio lógico del lenguaje buscó aclarar la estructura de proposiciones y argumentos. En otras, el lenguaje se entendió como práctica situada, acción o condición de interpretación. El pragmatismo, la hermenéutica y la filosofía analítica siguieron itinerarios distintos y comunicantes.

El giro lingüístico no obliga a afirmar que fuera del lenguaje no existe realidad. Su aporte más prudente consiste en advertir que nuestras descripciones, razones y clasificaciones operan mediante conceptos y reglas públicas. Preguntar por el significado requiere examinar cómo una expresión funciona, qué inferencias autoriza y qué prácticas sostiene.

Este desplazamiento tiene consecuencias políticas. Nombrar una situación como «riesgo», «diagnóstico», «fraude» o «contenido inapropiado» no crea mágicamente el hecho, pero organiza procedimientos y distribuye cargas. Los sistemas informáticos formalizan categorías lingüísticas y las vuelven operativas a escala.

Profundizar

11. Frege, Russell y el primer Wittgenstein: forma lógica y representación

Gottlob Frege distinguió entre sentido y referencia para explicar cómo expresiones con el mismo referente pueden presentar modos diferentes de darse. Bertrand Russell desarrolló el análisis lógico para revelar estructuras que la gramática superficial puede ocultar. El primer Wittgenstein, en el Tractatus, examinó las condiciones bajo las cuales una proposición puede figurar un estado de cosas.

Estos proyectos no son intercambiables, pero comparten la convicción de que problemas filosóficos pueden aclararse atendiendo a la forma del lenguaje. El análisis lógico aportó instrumentos decisivos para la filosofía, la matemática y la computación. Sin embargo, no agota preguntas sobre uso, historia, poder o contexto.

Al estudiar sistemas de IA, la lección no debe trazar una línea causal simplista desde la lógica filosófica hasta los modelos contemporáneos. Existe una historia compleja de matemática, ingeniería, lingüística y ciencias cognitivas. La conexión filosófica es conceptual: representar información exige decidir unidades, relaciones e inferencias, y esas decisiones delimitan lo que el sistema puede procesar.

12. El Wittgenstein tardío: significado, uso y formas de vida

En Investigaciones filosóficas, Wittgenstein abandona la búsqueda de una única esencia común a todo lenguaje. Propone observar la variedad de juegos de lenguaje: preguntar, ordenar, prometer, calcular, narrar, bromear. El significado de una palabra se comprende atendiendo a su uso dentro de prácticas reguladas y formas de vida.

«Significado como uso» no significa que el significado sea la frecuencia estadística de aparición ni que cualquier uso sea correcto. Seguir una regla supone criterios públicos de corrección, aprendizaje y continuidad de una práctica. Tampoco implica un relativismo en el que toda interpretación valga igual.

Esta perspectiva permite preguntar qué aprende un modelo a partir de regularidades textuales y qué relación mantiene con prácticas, cuerpos e instituciones. La semejanza entre una respuesta generada y una intervención humana puede ser funcionalmente importante, pero no resuelve por sí sola si ambos participan del mismo modo en un juego de lenguaje. Esa cuestión requiere criterios explícitos y permanece discutida.

Por qué se incluye esta imagen

Sitúa al autor de las Investigaciones filosóficas sin identificar toda la filosofía del lenguaje con una sola figura.

13. Austin, Searle y Grice: decir es también hacer

J. L. Austin mostró que proferir una expresión puede realizar una acción. Al decir «prometo», en condiciones apropiadas, no solo describimos una promesa: la efectuamos. Distinguió el acto locutivo —producir una expresión con sentido—, el ilocutivo —afirmar, ordenar, advertir, prometer— y el perlocutivo —los efectos producidos en quienes escuchan—. Las acciones lingüísticas dependen de condiciones de felicidad: autoridad, procedimiento, contexto y cumplimiento.

John Searle sistematizó la teoría de los actos de habla, aunque sus clasificaciones y supuestos son discutidos. Paul Grice explicó cómo los interlocutores comunican más de lo dicho literalmente mediante inferencias o implicaturas apoyadas en expectativas de cooperación.

La diferencia es crucial para sistemas generativos. Una cadena de texto puede tener forma de diagnóstico o sentencia sin poseer autoridad para realizar ese acto institucional. Sin embargo, puede producir efectos perlocutivos reales: persuadir, alarmar o inducir una decisión. La responsabilidad no desaparece porque el emisor inmediato sea una interfaz; debe rastrearse el conjunto de personas e instituciones que diseñan, despliegan y usan el sistema.

14. Tradiciones analíticas y pragmatistas en Estados Unidos

No existe una sola «escuela lingüística americana». En el pragmatismo, Peirce y Dewey vincularon significado, investigación y consecuencias prácticas. Más tarde, W. V. O. Quine cuestionó una separación rígida entre verdades analíticas y sintéticas y propuso pensar nuestras creencias como una red revisable. Wilfrid Sellars criticó el «mito de lo dado»: la justificación no se reduce a recibir datos puros, porque conocer implica participar en un espacio de razones. Richard Rorty radicalizó el giro conversacional e historicista, en una dirección discutida por realistas y teóricos críticos.

Estas posiciones son diferentes. Reunirlas sirve para mostrar que lenguaje y conocimiento se estudian también como prácticas de inferencia, corrección e investigación colectiva. Ninguna percepción o salida computacional se convierte en conocimiento únicamente por estar disponible: debe situarse en relaciones de evidencia, conceptos y responsabilidades.

Para Medicina y Derecho, esto implica distinguir dato, interpretación y decisión justificada. Un valor de laboratorio o una puntuación de riesgo puede aportar evidencia; no reemplaza por sí solo el razonamiento clínico o jurídico, que debe integrar contexto, normas y posibilidad de revisión.

15. Lenguaje, ideología y esfera pública

La filosofía del lenguaje y la teoría crítica se encuentran cuando preguntan quién puede hablar, ser oído y cuestionar una definición. Habermas estudió la esfera pública como espacio de formación de opinión, pero su reconstrucción histórica y sus ideales han recibido críticas por exclusiones de género, clase y raza. Las esferas públicas reales son múltiples y desiguales.

Las plataformas actuales no son plazas neutrales. Sus arquitecturas ordenan visibilidad, moderan contenidos y recomiendan interlocutores. Los modelos generativos añaden nuevas capas: resumen discursos, producen respuestas y median acceso a información. El problema no se reduce a detectar mensajes falsos. Incluye las condiciones bajo las cuales una afirmación obtiene autoridad, se impugna y se corrige.

Una esfera pública democrática exige transparencia suficiente, pluralidad, protección frente a hostigamiento y vías de contestación. Ningún algoritmo puede determinar por sí mismo el equilibrio entre esos bienes. La deliberación sobre las reglas debe incluir a quienes son afectados por ellas.

16. Turing, computación y el argumento de la habitación china

En 1950, Alan Turing reemplazó la pregunta abstracta «¿pueden pensar las máquinas?» por un juego de imitación que evalúa desempeño conversacional bajo ciertas condiciones. El test no es una prueba de cociente intelectual ni demuestra conciencia. Su importancia reside en desplazar el debate hacia criterios observables y en cuestionar objeciones apresuradas.

Las teorías computacionales de la mente investigan si procesos cognitivos pueden describirse como operaciones sobre representaciones. No existe una única versión ni consenso sobre su alcance. En 1980, John Searle formuló la habitación china contra la tesis de que ejecutar un programa adecuado sea suficiente para comprender. El argumento apunta a una versión fuerte de la IA; no demuestra que ninguna máquina pueda comprender y ha recibido respuestas sistémicas, robóticas y conexionistas.

Por ello, Turing y Searle no deben presentarse como vencedor y vencido. Plantean criterios distintos: desempeño, implementación, semántica y comprensión. El debate obliga a declarar qué significa «pensar» en cada afirmación.

Por qué se incluye esta imagen

Acompaña el debate sobre criterios de desempeño sin presentar el retrato como imagen de la creación de la IA ni del test como prueba de conciencia.

17. De la IA simbólica a los modelos de lenguaje

«Inteligencia artificial» es un campo amplio. Los primeros programas simbólicos representaban reglas y objetos explícitos. El aprendizaje automático desarrolla modelos que ajustan parámetros a partir de datos para realizar predicciones o generar salidas. Las redes neuronales profundas ampliaron capacidades en percepción y lenguaje; la arquitectura Transformer, presentada en 2017, usa mecanismos de atención para relacionar elementos de una secuencia y permite paralelizar el entrenamiento.

Un modelo de lenguaje grande procesa texto en unidades llamadas tokens, aprende representaciones numéricas o embeddings y ajusta numerosos parámetros para estimar distribuciones probables sobre continuaciones. Durante la inferencia, el contexto de entrada condiciona la generación sucesiva de tokens. Esto no equivale a buscar y copiar una frase de una base de datos, aunque el entrenamiento puede producir memorización y plantea problemas de procedencia.

La descripción técnica tampoco autoriza metáforas psicológicas sin examen. «Atención» es el nombre de una operación matemática; no prueba atención consciente. El comportamiento del sistema surge de arquitectura, datos, objetivos, ajustes, interfaz y contexto de uso.

De nodos y enlaces: ARPANET en 1973

Ampliar mapaDescargar mapa

Leer descripción extensa del mapa

Documento histórico que representa la topología de ARPANET en 1973 mediante nodos identificados y enlaces. Permite observar una infraestructura de red concreta; no representa Internet actual, no contiene una genealogía completa de la inteligencia artificial y no autoriza a inferir que la evolución técnica fue lineal o inevitable.

ARPANET en 1973

×

18. Forma, significado y límites de la inferencia filosófica

Bender y Koller distinguieron el aprendizaje de regularidades de forma lingüística del aprendizaje de significado ligado a intenciones y mundo. Su argumento cuestiona la inferencia automática desde éxito formal hacia comprensión. Los modelos multimodales, herramientas y agentes amplían el panorama, pero no eliminan la necesidad de definir criterios de fundamentación o grounding.

Las respuestas fluidas pueden contener afirmaciones falsas, referencias inexistentes o combinaciones no respaldadas. «Alucinación» es el término técnico popular, aunque puede antropomorfizar; «confabulación» o «salida no fundamentada» también requieren definición. El problema práctico es verificable: una salida plausible no garantiza evidencia ni verdad.

No hay consenso filosófico ni científico que permita afirmar, basándose solo en conversación, que los modelos actuales son conscientes, poseen intenciones o carecen necesariamente de toda forma posible de comprensión. La posición académicamente prudente distingue capacidades observadas de interpretaciones ontológicas. En contextos profesionales, la responsabilidad debe basarse en riesgos y evidencia, no en una disputa metafísica aún abierta.

Del diagnóstico social a la inteligencia artificial

Ampliar infografíaDescargar infografía

Leer descripción extensa de la infografía

En el centro aparece la racionalidad mediada social, lingüística y técnicamente. La crítica social pregunta qué relaciones organiza; el lenguaje pregunta qué significa, hace y autoriza; el sistema técnico muestra datos, entrenamiento, inferencia y despliegue; y la evaluación democrática pregunta quién decide y responde. Una franja inferior recuerda que capacidad no equivale a comprensión, automatización no equivale a responsabilidad autónoma, innovación no equivale a inevitabilidad y eficiencia no equivale a justicia.

Racionalidad, lenguaje y técnica

×

Investigar

19. Una crítica sociotécnica de la inteligencia artificial

Los sistemas de IA dependen de conjuntos de datos, trabajo humano, centros de cómputo, cadenas de suministro, propiedad intelectual, plataformas y organizaciones usuarias. Por eso son sociotécnicos. Una evaluación crítica estudia tanto el modelo como la institución que lo inserta en un procedimiento.

Los riesgos incluyen discriminación, vigilancia, concentración de poder, extracción de datos, precarización laboral, desinformación y costos ambientales. El trabajo de Bender y colaboradoras sobre modelos lingüísticos de gran escala llamó la atención sobre costos ambientales y financieros, documentación de datos y daños por sesgos. No prueba por sí solo una tesis general sobre ausencia de comprensión; su fuerza principal está en la evaluación de riesgos y condiciones de producción.

Exposición ocupacional a IA tampoco equivale automáticamente a pérdida de empleo. Estudios de la OIT insisten en que muchas ocupaciones pueden transformarse y que los efectos dependen de decisiones sobre organización, cualificación y protección social. El determinismo tecnológico oculta esas decisiones. La pregunta crítica es qué futuro laboral se construye, por quién y con qué posibilidad de negociación.

20. Gobernanza, profesiones y responsabilidad compartida

La Recomendación de la UNESCO sobre ética de la IA sitúa dignidad, derechos humanos, diversidad, inclusión y ambiente como referencias normativas. Los Principios de IA de la OCDE y el marco de gestión de riesgos del NIST proponen enfoques para sistemas confiables y riesgos contextuales. Son instrumentos de naturaleza y alcance diferentes. El Reglamento de IA de la Unión Europea es legislación regional vinculante y, consultado el 08/08/2026, se encontraba vigente en versión consolidada al 27/07/2026, con aplicación escalonada: la mayor parte del reglamento comenzó a aplicarse el 02/08/2026, mientras varias obligaciones de alto riesgo conservan calendarios posteriores.

En Medicina, una herramienta puede asistir la detección o documentación, pero exige validación para la población y el entorno, vigilancia de fallos, consentimiento cuando corresponda y responsabilidad clínica clara. En Derecho, debe protegerse el debido proceso, la confidencialidad, la igualdad y el derecho a impugnar. En Educación, la IA puede apoyar explicaciones y retroalimentación, pero no debe sustituir sin examen la relación pedagógica ni convertir la evaluación en vigilancia opaca.

La supervisión humana no consiste en colocar una firma al final. Requiere competencia para comprender límites, autoridad real para detener o corregir, tiempo, información y vías de reparación. La responsabilidad es distribuida, pero no debe diluirse: proveedor, institución, profesional, regulador y usuario ocupan posiciones diferentes.

El cierre del curso no ofrece una fórmula final. Propone un hábito filosófico: reconstruir mediaciones, pedir razones, distinguir capacidades de atribuciones y mantener abiertas las decisiones colectivas. Una tecnología no es inevitable por ser posible; una salida no es conocimiento por ser elocuente; una decisión no es justa por ser eficiente.

Síntesis de la lección

La teoría crítica examina la racionalidad dentro de relaciones sociales; el giro lingüístico muestra que significado y justificación dependen de prácticas; la filosofía de la IA obliga a analizar sistemas que convierten lenguaje en infraestructura. Juntas, estas perspectivas permiten evaluar no solo qué puede hacer una herramienta, sino qué mundo organiza, qué voces reconoce y quién responde cuando falla.

Actividades

Actividad 1 — Anatomía crítica de una recomendación

Elige una plataforma de video, música o noticias y reconstruye un episodio concreto de recomendación. Identifica qué se mostró, a quién y cuándo; distingue el objetivo probable de optimización de la finalidad atribuida por el usuario; reconoce datos, actores, modelo de negocio e infraestructura; aplica con prudencia dos conceptos de la lección; propone una explicación alternativa que evite asumir manipulación total; y diseña una modificación de gobernanza. Entrega una matriz de una página y una conclusión de 250 palabras.

Actividad 2 — Laboratorio de actos de habla

Analiza el enunciado «El sistema indica un riesgo alto» en una consulta médica, un informe jurídico y un mensaje administrativo. Distingue locución, fuerza ilocutiva y efectos perlocutivos; determina quién habla institucionalmente; identifica autoridad y condiciones de felicidad; explicita una implicatura; y reescribe el mensaje para expresar evidencia, incertidumbre, alcance y posibilidad de impugnación. No atribuyas responsabilidad moral al modelo por producir una secuencia lingüística.

Actividad 3 — Auditoría epistémica de una respuesta generativa

Formula a un sistema generativo una pregunta académica vinculada con tu carrera. Conserva prompt, fecha, modelo declarado y salida completa; separa afirmaciones, interpretaciones, recomendaciones e incertidumbres; verifica al menos cinco afirmaciones con fuentes independientes; identifica citas inexistentes o silencios; y distingue fluidez, evidencia, fundamentación y adecuación contextual. Explica qué demuestra la tarea sobre rendimiento y qué no permite concluir sobre conciencia o comprensión. No introduzcas datos personales, clínicos, jurídicos ni confidenciales.

Actividad 4 — Evaluación sociotécnica de impacto

Elige triaje clínico, priorización de expedientes, detección de fraude educativo o selección laboral. Evalúa finalidad y alternativas no automatizadas; actores afectados; procedencia y límites de datos; beneficios y evidencia; riesgos técnicos, sociales, jurídicos y ambientales; distribución de errores; supervisión humana real; transparencia, auditoría y reparación; y condiciones para suspender el sistema. Entrega una ficha de dos páginas y recomienda adoptar, pilotar con condiciones, rediseñar o no adoptar.

Cronología prudente

Glosario — 44 términos

1. Teoría crítica: investigación social que vincula explicación, juicio normativo y posibilidades de emancipación.
2. Crítica inmanente: evaluación de prácticas a partir de tensiones y normas presentes en ellas.
3. Emancipación: ampliación de capacidades para superar dominaciones evitables y participar en la vida común.
4. Reificación: tratamiento de relaciones y personas como cosas fijas o meramente administrables.
5. Razón instrumental: racionalidad centrada en seleccionar medios eficientes para fines dados.
6. Industria cultural: producción y distribución organizada de cultura bajo estructuras industriales y mercantiles.
7. Pseudoindividualización: apariencia de singularidad dentro de elecciones ampliamente estandarizadas.
8. Aura: modalidad histórica de presencia singular, distancia y autenticidad de la obra en Benjamin.
9. Racionalidad tecnológica: organización que presenta arreglos sociales como necesidades técnicas.
10. Acción comunicativa: coordinación mediante lenguaje orientada al entendimiento y abierta a razones.
11. Pretensión de validez: compromiso discutible con verdad, rectitud o sinceridad.
12. Mundo de la vida: trasfondo compartido de significados, prácticas y competencias comunicativas.
13. Sistema: mecanismos sociales coordinados principalmente por dinero y poder.
14. Colonización del mundo de la vida: sustitución indebida de procesos comunicativos por lógicas sistémicas.
15. Esfera pública: espacios y prácticas donde se forma y disputa opinión sobre asuntos comunes.
16. Ética del discurso: propuesta que vincula validez normativa con deliberación inclusiva.
17. Giro lingüístico: conjunto plural de desplazamientos filosóficos hacia el análisis del lenguaje.
18. Sentido y referencia: distinción fregeana entre modo de presentación y aquello referido.
19. Forma lógica: estructura de relaciones e inferencias que puede diferir de la gramática superficial.
20. Proposición: contenido susceptible de afirmar o representar un estado de cosas, según la teoría adoptada.
21. Juego de lenguaje: práctica lingüística situada con reglas, propósitos y criterios de uso.
22. Forma de vida: entramado de actividades y acuerdos prácticos donde funcionan los juegos de lenguaje.
23. Seguimiento de reglas: práctica pública de continuar y corregir usos según criterios aprendidos.
24. Acto de habla: acción realizada mediante una expresión en condiciones determinadas.
25. Locución: producción de una expresión significativa.
26. Ilocución: acción convencional realizada al hablar, como afirmar, prometer o advertir.
27. Perlocución: efecto producido por una expresión, como persuadir, alarmar o consolar.
28. Condiciones de felicidad: requisitos contextuales y convencionales para que un acto de habla resulte logrado.
29. Implicatura: contenido inferido sin estar literalmente expresado.
30. Pragmática: estudio del significado y la acción lingüística en contexto.
31. Holismo: tesis según la cual creencias o significados se comprenden por sus relaciones dentro de un conjunto.
32. Sistema de IA: sistema basado en máquinas que infiere salidas capaces de influir en entornos.
33. Algoritmo: procedimiento especificado para transformar entradas en resultados; no equivale a todo el sistema sociotécnico.
34. IA simbólica: enfoques que representan explícitamente símbolos, reglas y relaciones.
35. Aprendizaje automático: métodos que ajustan modelos a partir de datos para realizar tareas.
36. Red neuronal: modelo computacional compuesto por unidades y parámetros organizados en capas.
37. Token: unidad de procesamiento textual: palabra, subpalabra, signo u otra segmentación.
38. Embedding: representación numérica aprendida que sitúa elementos en un espacio de relaciones.
39. Transformer: arquitectura neuronal basada en mecanismos de atención, introducida en 2017.
40. Autoatención: operación que pondera relaciones entre elementos de una secuencia.
41. Modelo de lenguaje grande (LLM): modelo con muchos parámetros entrenado para estimar y generar secuencias lingüísticas.
42. Fundamentación o grounding: relación por la que símbolos o salidas se conectan con mundo, percepción, acción o prácticas.
43. Salida no fundamentada: contenido plausible sin apoyo suficiente o con afirmaciones falsas; suele llamarse «alucinación».
44. Supervisión humana: intervención competente, informada y efectiva para revisar, corregir, detener y responder.

Autoevaluación razonada

1. ¿Qué hace que una teoría sea crítica y no solo una descripción negativa?

2. ¿En qué se diferencian razón instrumental y racionalidad comunicativa?

3. ¿Por qué «industria cultural» no equivale a afirmar que todo público es pasivo?

4. ¿Por qué conviene hablar de giros lingüísticos en plural?

5. ¿Qué significa que el significado dependa del uso y qué no significa?

6. ¿Cómo se distinguen locución, ilocución y perlocución al evaluar una salida de IA?

7. ¿Cómo produce texto un LLM y qué errores deben evitarse al describirlo?

8. ¿Qué permite concluir un buen rendimiento conversacional sobre comprensión y responsabilidad?

Fuentes y trazabilidad académica

Las formulaciones de la lección son paráfrasis propias. Para una cita breve debe fijarse edición y traducción. Se distinguen fuentes primarias, síntesis académicas, artículos técnicos y organismos oficiales; las analogías contemporáneas no se atribuyen retroactivamente a los autores.