EL DIARIO DIGITAL ESTEPAÍS DESCUBRE QUE LOS LOCOS EXISTEN
Inteligencia artificial, polilogismo y el triunfo de la autopercepción sobre la realidad
Resumen para lectores con prisas
El debate sobre la inteligencia artificial está lleno de exageraciones, alarmismos y diagnósticos equivocados.
El diario digital ESTEPAÍS y otros muchos medios de información presentan la inteligencia artificial como una amenaza capaz de destruir la convivencia, alterar la democracia y empujar a personas vulnerables hacia la locura. Sin embargo, la realidad parece bastante más sencilla y bastante más incómoda.
La inteligencia artificial no ha creado la estupidez humana.
No ha inventado la credulidad.
No ha fabricado fanáticos.
No ha generado delirios.
Todo eso existía mucho antes de que aparecieran los ordenadores, internet o los chatbots (conversadores automáticos).
Lo único que ha cambiado es la escala.
Las nuevas tecnologías actúan como amplificadores. Multiplican las capacidades de quienes las utilizan. Quien posee criterio, conocimientos y disciplina intelectual puede aprender más, trabajar mejor y acceder a información con una rapidez sin precedentes. Quien carece de esas cualidades puede utilizar exactamente las mismas herramientas para reforzar prejuicios, alimentar fantasías o profundizar en sus propios errores.
El problema, por tanto, no reside en la máquina.
Reside en el usuario.
A lo largo de las últimas décadas, buena parte de las sociedades occidentales ha ido sustituyendo progresivamente la razón por la emoción, los hechos por las percepciones y los argumentos por las etiquetas. El polilogismo —la idea de que la verdad depende de quién habla y no de lo que dice— ha contaminado numerosos ámbitos de la vida pública. Los debates ya no se resuelven mediante argumentos, sino mediante clasificaciones ideológicas y descalificaciones personales.
Paralelamente, muchos medios de información han abandonado su función principal de informar para convertirse en creadores de opinión, orientadores de emociones y fabricantes de percepciones colectivas. Con frecuencia no describen la realidad; intentan determinar cómo debe interpretarse.
La inteligencia artificial resulta incómoda porque pone de manifiesto esas contradicciones.
Actúa como un espejo.
Un espejo que refleja nuestras virtudes y nuestros defectos.
Nuestra inteligencia y nuestra estupidez.
Nuestra curiosidad y nuestros prejuicios.
Nuestra capacidad para razonar y nuestra tendencia a creer aquello que deseamos creer.
Como advirtió Umberto Eco, los necios siempre existieron. La diferencia es que antes permanecían limitados al ámbito local. Hoy internet les permite encontrarse, organizarse, confirmarse mutuamente sus errores y alcanzar audiencias de millones de personas. Algunos incluso se convierten en influencers (personas influyentes), creadores de contenido y fabricantes de opinión.
La inteligencia artificial no ha creado ese fenómeno.
Simplemente se suma a una realidad preexistente.
Por eso la cuestión fundamental no consiste en preguntarse qué hará la inteligencia artificial con nosotros.
La verdadera pregunta es mucho más incómoda:
¿Qué haremos nosotros con la inteligencia artificial?
Porque la herramienta es neutral.
Lo decisivo, ayer como hoy, sigue siendo el ser humano que la utiliza.
SI QUIERES PROFUNDIZAR Y SABER MÁS, SIGUE LEYENDO
Cuando el espejo devuelve una imagen incómoda
De vez en cuando aparece un artículo periodístico tan extraordinario que merece ser conservado para las generaciones futuras. No por la calidad de su análisis ni por la profundidad de sus reflexiones, sino porque constituye un magnífico ejemplo de las patologías intelectuales de una época.
Eso es precisamente lo que ocurre con el reciente descubrimiento del diario digital ESTEPAÍS: algunas personas psicológicamente inestables pueden empeorar después de pasar demasiado tiempo hablando con un chatbot (conversador automático) basado en inteligencia artificial.
La noticia ha sido presentada con la gravedad propia de quien acaba de descubrir que el agua moja, que el fuego quema o que los alcohólicos suelen beber alcohol.
Según parece, determinados individuos han llegado a convencerse de que una máquina posee conciencia propia. Otros creen haber establecido vínculos emocionales con programas informáticos. Algunos terminan confundiendo especulaciones generadas por algoritmos con revelaciones trascendentales.
Y todo ello se presenta como una prueba de los peligros de la inteligencia artificial.
Sin embargo, la pregunta verdaderamente interesante es otra:
¿Estamos observando un problema tecnológico o un problema humano?
Porque la humanidad lleva milenios produciendo individuos convencidos de hablar con espíritus, dioses, demonios, extraterrestres, médiums, fantasmas, profetas, sanadores milagrosos y vendedores de crecepelo.
Mucho antes de la aparición de la inteligencia artificial ya existían charlatanes, fanáticos, crédulos y necios.
La máquina no ha inventado nada.
Simplemente ha cambiado el escenario.
Lo que antes sucedía en una sesión de espiritismo ocurre ahora delante de una pantalla.
Lo que antes se atribuía a los ángeles se atribuye hoy a los algoritmos.
Lo que antes se llamaba superstición se presenta ahora con apariencia tecnológica.
Pero el mecanismo psicológico continúa siendo exactamente el mismo.
Sin embargo, admitir esta evidencia obligaría a reconocer algo que numerosos medios de información, creadores de opinión y fabricantes profesionales de estados emocionales llevan décadas intentando negar: la responsabilidad individual existe.
Y ahí aparece el verdadero problema.
Porque vivimos en una época obsesionada con encontrar culpables abstractos.
Todo debe ser culpa del sistema.
Del capitalismo.
Del patriarcado.
De la emergencia climática.
De la desigualdad.
De la tecnología.
De los algoritmos.
De las redes sociales.
De cualquier cosa que permita evitar la conclusión más incómoda de todas: algunas personas toman decisiones absurdas porque son perfectamente capaces de tomarlas.
La posibilidad de que un individuo pueda equivocarse por sí mismo, actuar de forma irresponsable o comportarse como un necio parece haberse convertido en un pensamiento prohibido.
Para buena parte de los medios de información contemporáneos, el ser humano ha dejado de ser un sujeto responsable para convertirse en una víctima permanente de fuerzas externas.
Y cuando alguien insiste en recordar la existencia de la libertad individual, inmediatamente aparecen las etiquetas.
Machista.
Negacionista.
Reaccionario.
Ultraderechista.
Privilegiado.
Insensible.
El argumento desaparece.
La descalificación ocupa su lugar.
Se trata de una manifestación particularmente visible de lo que Ludwig von Mises denominó polilogismo: la creencia de que los argumentos no deben juzgarse por su verdad o falsedad, sino por la identidad de quien los formula.
En consecuencia, la realidad deja de examinarse racionalmente y pasa a interpretarse mediante categorías ideológicas.
Clase.
Género.
Raza.
Identidad.
Orientación sexual.
Privilegio.
Opresión.
Todo debe filtrarse a través de esos prismas.
Y cuando la lógica retrocede, el subjetivismo avanza.
Por eso no resulta extraño que una parte considerable de los lectores habituales del diario digital ESTEPAÍS y de otros medios de información afines acepte con absoluta normalidad afirmaciones que habrían parecido extravagantes hace apenas unas décadas.
Se les pide creer que una persona es aquello que siente ser.
Se les pide aceptar que las percepciones poseen más valor que los hechos.
Se les invita a considerar que la realidad objetiva constituye poco más que una construcción social susceptible de ser modificada mediante decretos, campañas de propaganda o cambios terminológicos.
Y, sin embargo, esas mismas personas se muestran horrorizadas cuando descubren que un individuo psicológicamente inestable llega a convencerse de que un chatbot (conversador automático) posee conciencia propia.
La contradicción resulta fascinante.
Porque ambos fenómenos comparten una raíz común.
En ambos casos la percepción subjetiva pretende imponerse sobre la realidad verificable.
En ambos casos el sentimiento desplaza al hecho.
En ambos casos la creencia sustituye a la comprobación.
La diferencia es que una de esas creencias aparece descrita como un problema psicológico en la sección de sucesos, mientras que la otra suele celebrarse como progreso social en las páginas editoriales.
Quizá por eso la inteligencia artificial provoca tanta inquietud.
No porque amenace a la civilización.
No porque vaya a destruir la democracia.
No porque vaya a esclavizar a la humanidad.
Sino porque actúa como un espejo gigantesco.
Y los espejos poseen una característica particularmente molesta.
No inventan nada.
Se limitan a reflejar lo que tienen delante.
La inteligencia artificial no crea la estupidez.
No fabrica la credulidad.
No produce el fanatismo.
No genera la necedad.
Simplemente permite observarlos con una claridad inédita.
Y quizá ese sea el verdadero motivo de tanta alarma.
Porque la civilización contemporánea no está descubriendo los peligros de la inteligencia artificial.
Está descubriendo, a una escala jamás vista, cuántas tonterías llevaba décadas fingiendo que no existían.
CAPÍTULO I
El gran descubrimiento de ESTEPAÍS: algunas personas pierden el juicio
Si alguien hubiera permanecido aislado del mundo durante los últimos cincuenta años y regresara hoy para informarse acerca del estado de la civilización occidental, probablemente concluiría que el principal problema de nuestro tiempo consiste en la existencia de programas informáticos excesivamente amables.
Eso es, al menos, lo que parece desprenderse de ciertas informaciones difundidas por el diario digital ESTEPAÍS y por otros medios de información especializados en fabricar estados de opinión antes que en describir la realidad.
El esquema resulta familiar.
Un individuo psicológicamente inestable desarrolla una conducta irracional.
Un periodista descubre el caso.
Un experto convenientemente seleccionado emite una opinión alarmista.
Y, finalmente, se construye un relato según el cual el verdadero culpable no es quien actúa de forma irracional, sino el instrumento que utiliza.
Hace años se culpaba a los videojuegos.
Más tarde fue internet (red mundial).
Después llegaron las redes sociales.
Ahora ha llegado el turno de la inteligencia artificial.
La estructura narrativa permanece intacta.
Cambian los decorados.
Cambian los nombres.
Cambian las tecnologías.
Pero la explicación siempre es la misma.
La responsabilidad jamás recae sobre el individuo.
La culpa siempre pertenece a algo exterior.
Si un adolescente suspende los estudios, la culpa es del teléfono inteligente.
Si un adulto desarrolla una obsesión enfermiza, la culpa es de la red social.
Si una persona psicológicamente perturbada conversa durante semanas con un chatbot (conversador automático) y acaba convencida de que está hablando con una entidad consciente, la culpa es del programa informático.
El individuo desaparece.
Su capacidad de decisión desaparece.
Su responsabilidad desaparece.
Su juicio desaparece.
Todo queda absorbido por una gigantesca maquinaria de excusas destinada a proteger a los ciudadanos de las consecuencias de sus propios actos.
Lo verdaderamente extraordinario es que semejante planteamiento se presente como sofisticado.
Porque cualquier observador mínimamente atento advertirá que la historia humana constituye un inmenso catálogo de disparates cometidos mucho antes de la aparición de la inteligencia artificial.
Hubo personas convencidas de que el fin del mundo llegaría en fechas concretas.
Hubo quienes vendieron todas sus posesiones para esperar la llegada de naves espaciales invisibles.
Hubo quienes siguieron a iluminados que aseguraban hablar con los muertos.
Hubo quienes confiaron sus ahorros a estafadores evidentes.
Hubo quienes entregaron su vida a sectas delirantes.
Hubo quienes defendieron sistemas políticos responsables de millones de muertos.
Y todo ello ocurrió sin necesidad de algoritmos, chatbots (conversadores automáticos) ni inteligencia artificial.
La estupidez humana jamás necesitó ayuda tecnológica para manifestarse.
De hecho, la historia demuestra exactamente lo contrario.
Los seres humanos poseen una capacidad inagotable para engañarse a sí mismos.
Y cuanto más intensa es una creencia, más difícil resulta combatirla mediante argumentos racionales.
Por eso resulta tan revelador el tratamiento que determinados medios de información conceden a estos casos.
No les interesa comprender qué ocurre en la mente de una persona que confunde una máquina con un ser consciente.
Les interesa construir una advertencia moral.
Necesitan un culpable tecnológico.
Necesitan un nuevo motivo de alarma.
Necesitan un nuevo riesgo que administrar.
Y, sobre todo, necesitan evitar cualquier conclusión que conduzca hacia la responsabilidad individual.
Porque la responsabilidad individual constituye uno de los conceptos más incómodos para buena parte del pensamiento contemporáneo.
Si aceptamos que los individuos son responsables de sus decisiones, entonces también debemos aceptar que pueden equivocarse por sí mismos.
Y si pueden equivocarse por sí mismos, muchas de las grandes explicaciones estructurales comienzan a resquebrajarse.
Por eso resulta mucho más cómodo atribuir cualquier problema a fuerzas impersonales.
La tecnología.
La sociedad.
Las estructuras.
Los algoritmos.
Los prejuicios.
Los condicionantes culturales.
Las circunstancias.
Todo menos el individuo.
Todo menos la libertad.
Todo menos la responsabilidad.
El problema es que esta forma de razonar acaba produciendo situaciones francamente cómicas.
Porque quienes sostienen que un adulto no puede ser considerado responsable de obsesionarse con un chatbot (conversador automático) suelen ser los mismos que afirman que los ciudadanos poseen capacidad suficiente para decidir el rumbo político, económico y cultural de una nación entera.
Cuando conviene, el individuo es plenamente autónomo.
Cuando no conviene, se convierte en una víctima indefensa de fuerzas externas.
La coherencia brilla por su ausencia.
Pero la contradicción apenas importa.
Lo importante es preservar el relato.
Y el relato exige que la tecnología ocupe el banquillo de los acusados.
Sin embargo, la pregunta continúa esperando respuesta.
¿Por qué unas personas utilizan la inteligencia artificial para aprender idiomas, analizar datos, redactar informes, programar aplicaciones o mejorar su rendimiento profesional mientras otras terminan convencidas de que están conversando con una entidad sobrenatural?
La respuesta parece tan evidente que casi produce vergüenza formularla.
Porque el problema no reside en la herramienta.
Reside en quien la utiliza.
Una biblioteca puede servir para educar a un sabio o para aburrir a un necio.
Un automóvil puede transportar a un médico o a un delincuente.
Un ordenador puede emplearse para investigar una enfermedad o para difundir disparates.
Y un chatbot (conversador automático) puede ayudar a resolver problemas o convertirse en objeto de fantasías delirantes.
La herramienta permanece inalterada.
Lo que cambia es el usuario.
Pero esta explicación resulta intolerable para quienes han construido una visión del mundo basada en la negación sistemática de la responsabilidad personal.
Por eso el diario digital ESTEPAÍS y tantos otros medios de información prefieren hablar de los peligros de la inteligencia artificial antes que de los peligros de la estupidez humana.
La primera explicación resulta cómoda.
La segunda resulta incómoda.
La primera permite organizar congresos, elaborar informes, redactar protocolos y crear nuevas estructuras administrativas.
La segunda obliga a reconocer que algunas personas toman decisiones absurdas porque son perfectamente capaces de hacerlo.
Y esa conclusión constituye uno de los mayores tabúes intelectuales de nuestro tiempo.
Quizá por eso el gran descubrimiento de ESTEPAÍS no consiste en que existan individuos que pierden el juicio hablando con máquinas.
La verdadera noticia es que todavía existen personas sorprendidas al descubrir que los locos existen.
Y eso sí que resulta verdaderamente extraordinario.
CAPÍTULO II
El problema no es la máquina
Existe una tendencia profundamente arraigada en el ser humano: la necesidad de encontrar explicaciones sencillas para fenómenos complejos.
Y cuando algo nuevo aparece en el horizonte, esa tendencia suele transformarse en una auténtica cacería de culpables.
Ocurrió con la imprenta.
Ocurrió con la novela.
Ocurrió con el cine.
Ocurrió con la radio.
Ocurrió con la televisión.
Ocurrió con los videojuegos.
Ocurrió con internet (red mundial).
Y ahora ocurre con la inteligencia artificial.
Cada generación parece convencida de que la tecnología más reciente constituye una amenaza sin precedentes para la estabilidad mental de la población.
Sin embargo, la experiencia histórica demuestra una realidad mucho más incómoda.
Las personas llevan creyendo disparates desde mucho antes de que existieran ordenadores, teléfonos inteligentes, redes sociales o chatbots (conversadores automáticos).
La credulidad es muy anterior a la tecnología.
La superstición es muy anterior a la electricidad.
La estupidez es muy anterior a internet.
Y la locura es muchísimo más antigua que los algoritmos.
La historia humana constituye un inmenso museo de errores, ilusiones, fanatismos y delirios colectivos.
Durante siglos hubo individuos convencidos de que determinadas enfermedades eran producidas por demonios.
Millones de personas creyeron que los eclipses anunciaban desgracias inevitables.
Otros aseguraban poder transformar plomo en oro.
Algunos afirmaban comunicarse con los muertos.
Otros interpretaban la posición de los astros como una guía infalible para dirigir sus vidas.
Y, por supuesto, nunca faltaron quienes encontraron multitudes dispuestas a creerles.
Porque el problema jamás ha sido tecnológico.
El problema siempre ha sido humano.
De hecho, cuanto más se estudia la historia, más evidente resulta que los seres humanos poseen una extraordinaria facilidad para aceptar afirmaciones falsas cuando estas coinciden con sus deseos, sus prejuicios o sus temores.
La razón ocupa un lugar importante en la vida humana.
Pero rara vez gobierna sola.
Con frecuencia comparte espacio con emociones, creencias, intereses, miedos y esperanzas.
Y cuando esos elementos se combinan de determinada manera, pueden producir resultados verdaderamente sorprendentes.
Basta observar algunos de los grandes movimientos ideológicos de los últimos siglos.
Millones de personas abrazaron doctrinas políticas que prometían paraísos terrenales.
Millones de personas aceptaron teorías económicas desmentidas repetidamente por la experiencia.
Millones de personas apoyaron regímenes que terminaron provocando miseria, represión y muerte.
Y lo hicieron convencidas de estar contribuyendo a construir un mundo mejor.
No necesitaban inteligencia artificial.
No necesitaban algoritmos.
No necesitaban chatbots.
Les bastaban sus propias convicciones.
Resulta particularmente revelador observar cómo determinados medios de información reaccionan ante estos hechos.
Cuando una persona afirma conversar con espíritus ancestrales, suele considerarse un caso pintoresco.
Cuando alguien consulta a un adivino para decidir su futuro sentimental, se habla de una excentricidad.
Cuando millones de ciudadanos sostienen creencias manifiestamente absurdas acerca de economía, biología o historia, se considera una opción respetable dentro del debate público.
Pero cuando un individuo psicológicamente inestable desarrolla una relación enfermiza con un chatbot (conversador automático), de repente se desencadena una alarma nacional.
La desproporción resulta llamativa.
Quizá porque la inteligencia artificial constituye una novedad.
Y las novedades siempre proporcionan excelentes oportunidades para fabricar titulares.
Sin embargo, quienes observan el fenómeno con cierta distancia descubren algo muy distinto.
Lo que está ocurriendo no es una transformación de la naturaleza humana.
Es una manifestación más de ella.
Los mismos mecanismos psicológicos que impulsaban a los antiguos a consultar oráculos impulsan hoy a algunos individuos a buscar respuestas trascendentales en una máquina.
Los mismos procesos mentales que producían supersticiones religiosas producen ahora supersticiones tecnológicas.
La envoltura cambia.
El contenido permanece.
Y eso nos conduce a una cuestión todavía más incómoda.
¿Por qué ciertas personas desarrollan estas conductas mientras otras utilizan exactamente las mismas herramientas sin experimentar problema alguno?
Porque millones de individuos utilizan diariamente sistemas de inteligencia artificial para estudiar, trabajar, investigar, redactar documentos, aprender idiomas, resolver problemas técnicos o mejorar su productividad.
No desarrollan delirios.
No creen estar hablando con entidades sobrenaturales.
No atribuyen conciencia a los algoritmos.
Simplemente utilizan una herramienta.
¿Por qué?
Porque comprenden la diferencia entre una máquina y una persona.
Entre una simulación y una realidad.
Entre una respuesta estadística y una conciencia.
La diferencia fundamental no reside en la tecnología.
Reside en la capacidad de juicio.
Y aquí aparece una cuestión que el diario digital ESTEPAÍS parece especialmente reacio a considerar.
Las personas no poseen idéntica capacidad para interpretar la realidad.
No todos los individuos razonan con el mismo rigor.
No todos poseen el mismo grado de formación.
No todos muestran la misma estabilidad emocional.
No todos distinguen con igual facilidad entre fantasía y realidad.
Esta afirmación habría parecido una obviedad durante la mayor parte de la historia humana.
Hoy, sin embargo, parece haberse convertido en una herejía.
Vivimos en una época extraordinariamente incómoda con cualquier observación que recuerde la diversidad real de capacidades humanas.
Se toleran las diferencias culturales.
Se celebran las diferencias identitarias.
Se exaltan las diferencias estéticas.
Pero mencionar diferencias intelectuales o psicológicas provoca auténtico pánico moral.
Por eso resulta mucho más cómodo culpar a la tecnología.
La tecnología no protesta.
La tecnología no vota.
La tecnología no presenta demandas judiciales.
La tecnología constituye un enemigo perfecto.
Puede responsabilizársela de cualquier cosa.
Y, al hacerlo, se evita formular la pregunta verdaderamente importante.
No qué hace la máquina.
Sino quién la utiliza.
Porque una herramienta jamás puede elevar intelectualmente a quien carece de juicio.
Puede aumentar su velocidad.
Puede ampliar sus posibilidades.
Puede multiplicar sus capacidades.
Pero también puede multiplicar sus errores.
La inteligencia artificial actúa como una lupa.
Y una lupa no altera aquello que observa.
Simplemente permite verlo con mayor claridad.
Eso es precisamente lo que está ocurriendo.
La inteligencia artificial no está transformando a los seres humanos en algo distinto.
Está amplificando rasgos que ya existían.
La curiosidad.
La creatividad.
La disciplina.
La inteligencia.
Pero también la credulidad.
La vanidad.
La ignorancia.
La confusión.
Y la estupidez.
Quizá por eso tantos creadores de opinión contemplan el fenómeno con creciente inquietud.
Porque cuanto más poderoso es el espejo, más difícil resulta ignorar el reflejo.
Y lo que empieza a reflejarse no siempre resulta agradable de contemplar.
El problema no es la máquina.
Nunca lo fue.
El problema sigue siendo el mismo que acompañó al ser humano cuando observó por primera vez una tormenta, contempló un eclipse o escuchó a un charlatán prometer milagros.
El problema es la extraordinaria facilidad con la que muchas personas prefieren creer aquello que desean creer.
Y ninguna tecnología inventada hasta la fecha ha logrado corregir esa inclinación.
Al contrario.
Todas han terminado poniéndola de manifiesto.
CAPÍTULO III
La responsabilidad individual: el gran tabú de nuestro tiempo
Existe una pregunta extraordinariamente sencilla que rara vez aparece en los análisis publicados por el diario digital ESTEPAÍS y por tantos otros medios de información dedicados a crear opinión, orientar emociones y modelar percepciones colectivas.
La pregunta es ésta:
¿Y si el responsable fuera el responsable?
Parece una obviedad.
Pero en nuestra época se ha convertido casi en una provocación intelectual.
Porque una parte considerable del discurso público contemporáneo gira precisamente en torno a la negación sistemática de la responsabilidad individual.
Cuando algo sale mal, la explicación nunca debe encontrarse en las decisiones adoptadas por una persona concreta.
Debe buscarse en factores externos.
En estructuras.
En condicionantes sociales.
En desigualdades.
En algoritmos.
En prejuicios culturales.
En el sistema educativo.
En el capitalismo.
En la emergencia climática.
En cualquier lugar excepto donde resulta más evidente.
En el individuo.
La situación alcanza a veces extremos francamente absurdos.
Si un delincuente comete un crimen, se buscan inmediatamente las circunstancias sociales que podrían explicarlo.
Si un alumno fracasa en los estudios, se examinan los factores ambientales que podrían justificarlo.
Si un adulto desarrolla una dependencia patológica hacia un chatbot (conversador automático), se culpa a la tecnología.
Siempre existe una explicación externa disponible.
Siempre aparece un contexto atenuante.
Siempre surge una estructura opresiva.
Siempre existe un sistema responsable.
Lo único que parece haber desaparecido es la posibilidad de que alguien haya tomado una decisión equivocada por propia iniciativa.
Como si los seres humanos fueran simples hojas arrastradas por el viento.
Como si carecieran de voluntad.
Como si no poseyeran capacidad de elección.
Como si la libertad individual fuera una superstición pasada de moda.
Sin embargo, toda nuestra civilización jurídica, moral y política se construyó precisamente sobre la premisa contraria.
La idea de responsabilidad constituye uno de los pilares fundamentales del derecho.
No castigamos a las tormentas.
No encarcelamos terremotos.
No procesamos huracanes.
Exigimos responsabilidades a las personas porque partimos de la base de que poseen capacidad para elegir entre distintas alternativas.
Sin responsabilidad no existe libertad.
Y sin libertad tampoco existe responsabilidad.
Ambas son inseparables.
Por eso resulta tan llamativa la contradicción que impregna gran parte del pensamiento contemporáneo.
Se exalta la libertad cuando conviene.
Se la niega cuando resulta incómoda.
El ciudadano es plenamente autónomo para decidir cuestiones trascendentales acerca de la organización política de una nación.
Pero deja de ser autónomo cuando se trata de explicar determinadas conductas personales.
Entonces reaparecen las estructuras.
Los condicionantes.
Los contextos.
Las influencias.
Las circunstancias.
Y toda una colección de explicaciones destinadas a diluir la responsabilidad hasta hacerla desaparecer.
La paradoja alcanza dimensiones casi cómicas cuando observamos determinados debates actuales.
Por un lado se afirma que cada individuo posee plena capacidad para definir su propia identidad, determinar su realidad personal y decidir quién es.
Por otro lado se sostiene que ese mismo individuo carece de responsabilidad suficiente para gestionar el uso de una herramienta informática sin sufrir una crisis psicológica.
Resulta difícil encontrar una contradicción más evidente.
La autonomía individual se convierte en un principio sagrado o en una ficción irrelevante según convenga al relato dominante.
Pero las contradicciones no terminan ahí.
Existe además un fenómeno particularmente revelador.
Cuanto más desaparece la responsabilidad individual, más crece la responsabilidad colectiva.
Cuanto menos responsable es el individuo, más responsables se vuelven las instituciones, las empresas, los fabricantes, los educadores, los medios de información y la sociedad en su conjunto.
Es como si la responsabilidad no desapareciera realmente.
Simplemente cambia de lugar.
Se traslada desde el sujeto concreto hacia entidades abstractas.
El resultado es una curiosa inversión moral.
El individuo queda exonerado.
La sociedad es declarada culpable.
La persona desaparece.
La estructura ocupa su lugar.
Y de este modo surge una cultura extraordinariamente cómoda.
Una cultura en la que siempre existe un culpable externo.
Una cultura en la que los errores personales pueden atribuirse a factores ajenos.
Una cultura en la que nadie es responsable de nada y, al mismo tiempo, todos son responsables de todo.
Naturalmente, semejante planteamiento produce consecuencias profundas.
Si los individuos no son responsables de sus errores, tampoco pueden atribuirse plenamente sus aciertos.
Si las circunstancias explican nuestros fracasos, también deberían explicar nuestros éxitos.
Si todo depende de factores externos, la libertad individual se convierte en una ilusión.
Y si la libertad es una ilusión, entonces desaparece la base moral sobre la que se sostiene cualquier sociedad libre.
No es casualidad que muchos de los sistemas políticos más autoritarios de la historia hayan mostrado una profunda hostilidad hacia la responsabilidad individual.
El individuo responsable resulta difícil de controlar.
Piensa por sí mismo.
Asume las consecuencias de sus decisiones.
Desarrolla criterio propio.
El individuo permanentemente victimizado resulta mucho más manejable.
Siempre espera protección.
Siempre busca tutela.
Siempre necesita orientación.
Siempre requiere que alguien le explique quién tiene la culpa de sus problemas.
Y ahí es donde entran en escena determinados medios de información y numerosos creadores de opinión.
Su función ya no consiste únicamente en informar.
Consiste también en suministrar explicaciones tranquilizadoras.
Explicaciones que permitan al lector conservar intacta una imagen favorable de sí mismo.
Explicaciones que atribuyan los errores a factores externos.
Explicaciones que transformen cualquier fracaso en consecuencia de fuerzas impersonales.
Explicaciones que eliminen la incómoda posibilidad de que ciertas decisiones hayan sido simplemente equivocadas.
Por eso la inteligencia artificial resulta tan útil como chivo expiatorio.
Permite desplazar el foco.
Permite evitar preguntas incómodas.
Permite construir relatos alarmistas.
Y, sobre todo, permite ocultar una realidad extremadamente sencilla.
La inmensa mayoría de las personas que utilizan inteligencia artificial no desarrollan delirios.
No pierden contacto con la realidad.
No creen estar conversando con entidades conscientes.
No experimentan crisis místicas provocadas por algoritmos.
Utilizan una herramienta.
Nada más.
Los problemas aparecen en una minoría muy concreta.
Y cuando aparecen, quizá la primera pregunta no debería ser qué hizo la máquina.
Quizá la primera pregunta debería ser qué ocurrió en la mente de quien la utilizaba.
Pero esa pregunta conduce inevitablemente hacia la responsabilidad individual.
Y la responsabilidad individual constituye uno de los grandes tabúes intelectuales de nuestro tiempo.
Por eso tantos prefieren mirar hacia otro lado.
Por eso resulta más cómodo culpar a los algoritmos.
Por eso el diario digital ESTEPAÍS y tantos otros medios de información continúan hablando de los peligros de la inteligencia artificial mientras evitan cuidadosamente hablar de algo mucho más antiguo, mucho más incómodo y mucho más humano.
La libertad.
Porque allí donde existe libertad también existe la posibilidad del error.
Y allí donde existe la posibilidad del error también existe la responsabilidad.
Negar una implica terminar negando la otra.
Y una sociedad que renuncia a ambas termina renunciando también a la madurez.
CAPÍTULO IV
Del razonamiento al etiquetado: el triunfo del polilogismo
Una de las transformaciones más profundas y menos discutidas de las últimas décadas no afecta a la economía, a la tecnología o a la política.
Afecta al propio modo de razonar.
O, para ser más precisos, afecta al progresivo abandono del razonamiento.
Durante siglos, la discusión intelectual partía de una premisa aparentemente elemental.
Las afirmaciones debían examinarse atendiendo a su contenido.
Los argumentos podían ser verdaderos o falsos.
Correctos o incorrectos.
Lógicos o absurdos.
Los hechos podían verificarse.
Las pruebas podían examinarse.
Las conclusiones podían discutirse.
Naturalmente, nunca existió una edad de oro del pensamiento racional.
Los prejuicios, las pasiones y los intereses siempre estuvieron presentes.
Pero al menos existía un acuerdo básico: la verdad de una afirmación no dependía de quién la pronunciara.
Dependía de su correspondencia con la realidad.
Eso era precisamente lo que permitía el debate.
Y eso es precisamente lo que el polilogismo destruye.
El polilogismo, concepto desarrollado por Ludwig von Mises para criticar determinadas corrientes marxistas, parte de una idea aparentemente sencilla y profundamente destructiva.
La idea de que no existe una razón común a todos los seres humanos.
La idea de que cada grupo posee su propia lógica.
Su propia verdad.
Su propia forma de interpretar el mundo.
Su propio sistema de razonamiento.
Según esta concepción, los argumentos dejan de evaluarse por su validez.
Pasan a evaluarse por la identidad de quien los formula.
No importa tanto lo que se dice.
Importa quién lo dice.
Y ahí comienza la descomposición intelectual.
Porque una vez aceptado ese principio, la discusión racional se vuelve imposible.
Si un argumento puede descartarse simplemente porque procede de un hombre, una mujer, un empresario, un trabajador, un europeo, un africano o un anciano, entonces la lógica deja de desempeñar función alguna.
La identidad sustituye al razonamiento.
La etiqueta sustituye al argumento.
La clasificación sustituye al análisis.
Y eso es exactamente lo que observamos cada día.
Ya no se responde a las ideas.
Se responde a las personas.
No se refuta.
Se descalifica.
No se argumenta.
Se etiqueta.
La conversación pública se ha convertido en una interminable distribución de distintivos morales.
Machista.
Fascista.
Negacionista.
Populista.
Ultraliberal.
Reaccionario.
Xenófobo.
Patriarcal.
Transfóbico.
Privilegiado.
El objetivo ya no consiste en determinar si una afirmación es verdadera.
El objetivo consiste en desacreditar a quien la pronuncia.
Y cuanto más débil es el argumento, más agresiva suele ser la etiqueta.
No se trata de una casualidad.
Se trata de una consecuencia directa del polilogismo.
Si las personas razonan en función de su pertenencia a determinados colectivos, entonces resulta inútil discutir ideas.
Basta con identificar la categoría a la que pertenece el interlocutor.
Y una vez identificada, la discusión termina.
La sentencia ya está dictada.
Por eso tantos debates contemporáneos producen la sensación de estar contemplando un diálogo de sordos.
Porque en realidad ya no son debates.
Son rituales de clasificación.
Unos distribuyen etiquetas.
Otros intentan librarse de ellas.
Y los argumentos permanecen olvidados en algún rincón.
No deja de resultar significativo que esta forma de pensar haya encontrado una acogida particularmente favorable entre numerosos lectores habituales del diario digital ESTEPAÍS y de otros medios de información semejantes.
Durante décadas se les ha enseñado a observar el mundo a través de categorías colectivas.
Clase social.
Género.
Identidad.
Orientación sexual.
Origen étnico.
Privilegio.
Opresión.
Emergencia climática.
Todo debe interpretarse mediante esos filtros.
La realidad deja de contemplarse directamente.
Se observa a través de lentes ideológicas previamente fabricadas.
El resultado es previsible.
Cuando alguien formula un argumento, muchos ya no se preguntan si es cierto.
Se preguntan quién lo ha dicho.
Cuando alguien aporta un dato incómodo, ya no examinan el dato.
Examinan la identidad del mensajero.
Cuando alguien discrepa, no se analiza su razonamiento.
Se investiga su expediente ideológico.
Y así, poco a poco, la razón es sustituida por la sociología militante.
La lógica por la identidad.
El análisis por la pertenencia.
El pensamiento por la clasificación.
La situación alcanza dimensiones particularmente llamativas cuando se aborda la cuestión de la autopercepción.
Durante siglos, las personas podían equivocarse acerca de sí mismas.
Hoy se nos invita a considerar que la autopercepción constituye una fuente privilegiada de verdad.
No importa lo que indiquen los hechos.
Importa cómo se siente el individuo.
No importa la observación.
Importa la vivencia.
No importa la realidad verificable.
Importa la experiencia subjetiva.
Y aquí aparece una de las contradicciones más extraordinarias de nuestro tiempo.
Quienes defienden que una persona es aquello que siente ser suelen mostrarse profundamente escandalizados cuando descubren que otra persona cree que un chatbot (conversador automático) posee conciencia propia.
Sin embargo, ambos razonamientos descansan sobre una estructura sorprendentemente parecida.
En ambos casos la percepción subjetiva reclama prioridad sobre la realidad observable.
En ambos casos la creencia aspira a prevalecer sobre la comprobación.
En ambos casos la experiencia personal se convierte en criterio último de verdad.
Naturalmente, muchos rechazarán esta comparación.
Pero rara vez explican por qué.
Generalmente se limitan a declararla ofensiva.
Y esa reacción resulta extraordinariamente reveladora.
Porque constituye precisamente una manifestación del polilogismo.
No se responde al argumento.
Se condena al argumentador.
No se analiza la comparación.
Se descalifica a quien la formula.
No se examina la lógica.
Se cuestiona la identidad.
Y así volvemos siempre al mismo punto.
La sustitución de la razón por la etiqueta.
Quizá por eso tantos medios de información se sienten cómodos en este terreno.
Resulta mucho más sencillo administrar emociones que discutir argumentos.
Resulta mucho más fácil movilizar sentimientos que examinar hechos.
Resulta mucho más rentable dividir a la población en categorías morales que fomentar ciudadanos capaces de pensar por sí mismos.
Porque un ciudadano acostumbrado a razonar puede llegar a conclusiones inesperadas.
Un ciudadano entrenado para clasificar personas suele llegar exactamente a las conclusiones previstas.
Y ahí reside la verdadera utilidad política del polilogismo.
No sirve para comprender la realidad.
Sirve para administrar adhesiones.
No sirve para descubrir la verdad.
Sirve para señalar herejes.
No sirve para pensar.
Sirve para obedecer.
Por eso constituye una de las herramientas intelectuales más eficaces de nuestro tiempo.
Y por eso mismo resulta imprescindible comprenderlo.
Porque una sociedad que deja de evaluar argumentos para comenzar a evaluar identidades está recorriendo el camino inverso al que conduce hacia la razón.
Y cuando una civilización emprende ese camino, la estupidez deja de ser una excepción.
Empieza a convertirse en norma.
CAPÍTULO V
ESTEPAÍS y la fábrica de percepciones
Uno de los mayores triunfos intelectuales de nuestro tiempo consiste en haber logrado que millones de personas llamen comunicación a lo que, en realidad, rara vez pasa de ser transmisión unilateral de mensajes.
La confusión no es inocente.
La comunicación, en sentido estricto, exige reciprocidad.
Exige intercambio.
Exige que emisor y receptor puedan influirse mutuamente.
Exige diálogo.
Exige respuesta.
Exige la posibilidad de corregir errores mediante la confrontación de argumentos.
Nada de eso sucede habitualmente en los grandes medios de información.
Lo que encontramos es algo muy distinto.
Un pequeño grupo selecciona los temas.
Selecciona el lenguaje.
Selecciona las imágenes.
Selecciona los expertos.
Selecciona las preguntas.
Selecciona las respuestas.
Y posteriormente distribuye el producto terminado entre millones de receptores.
Eso no es comunicación.
Eso es difusión.
Eso es creación de opinión.
Eso es orientación ideológica.
Eso es modelación de percepciones colectivas.
Por eso resulta más exacto hablar de medios de información, creadores de opinión o fabricantes de estados emocionales que de medios de comunicación.
La comunicación presupone igualdad entre interlocutores.
La inmensa mayoría de los grandes medios no buscan interlocutores.
Buscan audiencia.
Y una audiencia no dialoga.
Consume.
Durante décadas el diario digital ESTEPAÍS y numerosos medios semejantes han desempeñado precisamente esa función.
No se han limitado a informar acerca de la realidad.
Han intentado determinar cómo debe interpretarse esa realidad.
La diferencia resulta fundamental.
Informar consiste en describir hechos.
Crear opinión consiste en suministrar interpretaciones.
Manipular consiste en presentar determinadas interpretaciones como si fueran hechos.
Y las fronteras entre esas tres actividades se han vuelto cada vez más difusas.
El fenómeno no es nuevo.
A comienzos del siglo XX, numerosos estudiosos de las masas ya observaron que la opinión pública podía moldearse mediante procedimientos relativamente simples.
Bastaba seleccionar ciertos acontecimientos.
Ignorar otros.
Destacar determinadas emociones.
Silenciar determinadas preguntas.
Repetir determinados mensajes.
Y, sobre todo, construir marcos interpretativos.
Porque los hechos rara vez hablan por sí mismos.
Alguien se encarga de explicarlos.
Y quien controla la explicación adquiere una influencia extraordinaria.
La inmensa mayoría de las personas no observa directamente la realidad política internacional.
No presencia los conflictos armados.
No examina las estadísticas originales.
No consulta las fuentes primarias.
Conoce el mundo a través de intermediarios.
Y esos intermediarios poseen una enorme capacidad para orientar la percepción de los acontecimientos.
No necesitan mentir.
Les basta con seleccionar.
Un hecho puede ser amplificado.
Otro puede ser minimizado.
Uno ocupa una portada durante semanas.
Otro desaparece en una breve nota marginal.
La realidad permanece idéntica.
La percepción cambia radicalmente.
Y ahí reside buena parte del poder de los medios de información contemporáneos.
No fabrican necesariamente los acontecimientos.
Fabrican su importancia.
Fabrican su interpretación.
Fabrican su significado.
Por eso determinadas cuestiones reciben una atención obsesiva mientras otras apenas existen para la opinión publicada.
Miles de noticias compiten diariamente por un espacio limitado.
La selección nunca es neutral.
Y quien selecciona ejerce poder.
Mucho poder.
Quizá más del que está dispuesto a reconocer.
El problema se agrava cuando esa capacidad de selección se combina con una fuerte carga ideológica.
Entonces la información deja de desempeñar una función descriptiva.
Empieza a desempeñar una función pedagógica.
Ya no se limita a mostrar el mundo.
Pretende educar al ciudadano acerca de cómo debe contemplarlo.
Y cuando la información se transforma en pedagogía política, aparece inevitablemente una tentación.
La tentación de sustituir la realidad por el relato.
La observación por la interpretación.
Los hechos por las emociones.
No resulta difícil encontrar ejemplos.
Cuando una noticia favorece determinadas posiciones ideológicas, suele presentarse como una cuestión de justicia, progreso, inclusión o derechos.
Cuando favorece posiciones distintas, suele describirse mediante categorías negativas.
Extremismo.
Intolerancia.
Retroceso.
Amenaza.
Desinformación.
Los hechos permanecen inalterados.
Lo que cambia es el vocabulario.
Y quien controla el vocabulario controla buena parte del pensamiento.
George Orwell comprendió perfectamente este fenómeno cuando describió la relación entre lenguaje y poder.
Limitar las palabras significa limitar las ideas.
Modificar los significados implica modificar las conclusiones.
Y alterar los marcos conceptuales termina alterando la percepción de la realidad.
Por eso los grandes debates contemporáneos suelen comenzar por una disputa terminológica.
No se discute únicamente acerca de los hechos.
Se discute acerca de cómo deben nombrarse.
Porque quien logra imponer las palabras adecuadas suele tener medio debate ganado antes de que empiece.
El diario digital ESTEPAÍS constituye un ejemplo particularmente interesante de esta tendencia.
No porque sea único.
Sino porque representa con notable claridad una forma de entender la función de los medios de información.
Su misión no consiste únicamente en informar.
Consiste en orientar.
En educar.
En corregir.
En reeducar.
En señalar qué opiniones son aceptables y cuáles deben permanecer fuera del espacio público respetable.
Y ahí aparece una cuestión fascinante.
Quienes más hablan de diversidad suelen mostrar una notable uniformidad intelectual.
Quienes más celebran la pluralidad suelen compartir marcos ideológicos extraordinariamente parecidos.
Quienes más defienden el pensamiento crítico suelen reaccionar con visible incomodidad cuando ese pensamiento crítico se dirige hacia sus propios dogmas.
Nada de ello constituye una casualidad.
Porque la función principal de muchos creadores de opinión contemporáneos no consiste en ampliar el debate.
Consiste en delimitarlo.
No consiste en abrir preguntas.
Consiste en cerrar respuestas.
No consiste en fomentar el pensamiento independiente.
Consiste en orientar las conclusiones consideradas aceptables.
Y por eso la inteligencia artificial provoca tanta inquietud.
Porque introduce un competidor inesperado.
Un competidor que no pertenece a las viejas estructuras de intermediación.
Un competidor que permite acceder a información, contrastar datos, comparar argumentos y formular preguntas sin pasar necesariamente por los filtros tradicionales.
Naturalmente, la inteligencia artificial también puede equivocarse.
También puede proporcionar información incorrecta.
También puede reflejar sesgos.
Pero introduce un elemento profundamente perturbador para quienes llevan décadas administrando la opinión publicada.
Reduce su monopolio.
Reduce su capacidad de intermediación.
Reduce su influencia.
Y quizá esa sea una de las razones ocultas que explican buena parte de la ansiedad contemporánea.
No se teme únicamente a la tecnología.
Se teme a la pérdida de control sobre la interpretación de la realidad.
Porque quien controla la percepción controla una parte importante del poder.
Y toda estructura de poder reacciona con inquietud cuando percibe la aparición de un competidor.
Especialmente cuando ese competidor tiene la desagradable costumbre de permitir que las personas formulen preguntas por sí mismas.
Y las preguntas, como la historia demuestra una y otra vez, suelen resultar mucho más peligrosas que las respuestas.
CAPÍTULO VI
Yo soy lo que siento ser
Si hubiera que señalar una idea capaz de resumir buena parte de las transformaciones intelectuales, culturales y políticas de las últimas décadas, probablemente sería ésta:
La realidad ya no debe adaptarse a los hechos. Los hechos deben adaptarse a los sentimientos.
Puede parecer una exageración.
Por desgracia, no lo es.
Durante la mayor parte de la historia humana, las personas partían de una premisa relativamente sencilla.
La realidad existía con independencia de nuestros deseos.
Las montañas seguían donde estaban aunque nadie las contemplara.
La gravedad continuaba actuando aunque alguien negara su existencia.
El agua hervía a determinada temperatura independientemente de las opiniones de los presentes.
La realidad podía resultar desagradable.
Podía ser injusta.
Podía ser incómoda.
Podía ser cruel.
Pero seguía siendo realidad.
Precisamente por eso la inteligencia humana desarrolló herramientas destinadas a comprenderla.
La observación.
La lógica.
La experiencia.
La comprobación.
La ciencia.
El razonamiento.
Todos esos instrumentos nacieron de una idea fundamental:
La verdad no depende de nuestros deseos.
Depende de los hechos.
Sin embargo, una parte considerable de la cultura contemporánea parece haber emprendido el camino contrario.
Los hechos ya no ocupan el lugar central.
Ese lugar corresponde ahora a las percepciones.
A las emociones.
A las experiencias subjetivas.
A las vivencias personales.
Lo importante ya no es necesariamente lo que es.
Lo importante es cómo se percibe.
Y esa diferencia cambia absolutamente todo.
Porque una vez que la percepción ocupa el lugar de la realidad, desaparece cualquier criterio objetivo capaz de resolver desacuerdos.
Si los hechos mandan, podemos discutir acerca de ellos.
Podemos examinarlos.
Podemos verificarlos.
Podemos corregir errores.
Pero si lo decisivo son los sentimientos, el debate se vuelve imposible.
Nadie puede demostrar a otra persona que no siente lo que afirma sentir.
Y precisamente ahí aparece uno de los grandes problemas intelectuales de nuestra época.
Durante siglos se consideró perfectamente normal distinguir entre realidad y percepción.
Las personas podían equivocarse.
Podían interpretar mal los acontecimientos.
Podían confundir deseos con hechos.
Podían engañarse.
Podían ser engañadas.
Hoy, sin embargo, parece cada vez más frecuente considerar que la percepción constituye una forma superior de verdad.
La frase se repite constantemente bajo distintas formulaciones.
«Mi verdad.»
«Mi vivencia.»
«Mi realidad.»
«Mi identidad.»
Obsérvese el desplazamiento.
La verdad deja de ser algo que se descubre.
Pasa a ser algo que se posee.
La realidad deja de ser algo que se observa.
Pasa a ser algo que se construye.
La identidad deja de describir una condición.
Pasa a expresar un sentimiento.
Y cuando esa transformación se consolida, surgen inevitablemente contradicciones extraordinarias.
Por ejemplo, se nos invita a aceptar que una persona es aquello que siente ser.
No aquello que muestran los hechos observables.
No aquello que indican determinados rasgos objetivos.
No aquello que puede verificarse.
Sino aquello que experimenta subjetivamente.
La autopercepción se convierte en criterio supremo.
Y quien cuestiona esa premisa es acusado con frecuencia de intolerancia, odio, ignorancia o fanatismo.
Resulta significativo observar cómo desaparece el razonamiento.
No se responde a las objeciones.
No se discuten los argumentos.
No se examinan las pruebas.
Simplemente se condena moralmente al discrepante.
Una vez más, reaparece el polilogismo.
Una vez más, la identidad sustituye al razonamiento.
Una vez más, la etiqueta sustituye al argumento.
Pero la contradicción más fascinante aparece cuando regresamos al asunto que originó este ensayo.
Porque muchos de los mismos individuos que sostienen que las percepciones personales poseen prioridad sobre los hechos se muestran profundamente alarmados cuando descubren que alguien cree estar hablando con una entidad consciente alojada en un chatbot (conversador automático).
Y aquí surge una pregunta incómoda.
¿Por qué una percepción subjetiva merece respeto y otra merece tratamiento psiquiátrico?
¿Por qué determinadas autopercepciones deben ser consideradas incuestionables mientras otras son presentadas como síntomas de confusión mental?
La pregunta resulta incómoda precisamente porque obliga a introducir criterios objetivos.
Y en cuanto aparecen criterios objetivos, el edificio entero comienza a tambalearse.
Porque la realidad posee una desagradable costumbre.
No desaparece cuando dejamos de mirarla.
No cambia porque alguien se sienta incómodo.
No modifica sus propiedades para adaptarse a nuestros deseos.
No negocia.
No vota.
No participa en campañas de sensibilización.
Simplemente existe.
Y cuanto más intentamos ignorarla, más termina imponiéndose.
La historia ofrece innumerables ejemplos.
Las leyes económicas continúan actuando aunque los políticos las ignoren.
Las leyes biológicas continúan actuando aunque los ideólogos las nieguen.
Las leyes físicas continúan actuando aunque los activistas las consideren ofensivas.
La realidad posee una paciencia infinita.
Pero también una firmeza implacable.
Por eso resulta tan peligroso sustituirla por sentimientos.
Porque los sentimientos son extraordinariamente importantes.
Forman parte esencial de la experiencia humana.
Orientan decisiones.
Proporcionan significado.
Impulsan acciones.
Pero no constituyen instrumentos adecuados para determinar la verdad.
Una persona puede sentirse rica.
Y seguir siendo pobre.
Puede sentirse invencible.
Y seguir siendo vulnerable.
Puede sentirse inmortal.
Y seguir siendo mortal.
Puede sentirse muchas cosas.
Pero los sentimientos no alteran los hechos.
Los describen, los acompañan o reaccionan frente a ellos.
Nada más.
Sin embargo, gran parte de nuestra cultura parece empeñada en borrar esa distinción elemental.
Y cuando desaparece la frontera entre realidad y percepción, todo se vuelve inestable.
La verdad se fragmenta.
Los hechos se relativizan.
Las discusiones se vuelven imposibles.
Cada individuo pasa a habitar su propia burbuja conceptual.
Y una sociedad formada por millones de realidades privadas termina teniendo enormes dificultades para compartir una realidad común.
Quizá por eso vivimos una época tan extraña.
Una época en la que la tecnología más sofisticada jamás creada convive con formas de pensamiento sorprendentemente primitivas.
Una época capaz de enviar sondas al espacio y, al mismo tiempo, incapaz de responder preguntas sencillas acerca de la diferencia entre un hecho y una opinión.
Una época que dispone de cantidades ingentes de información y, sin embargo, parece cada vez menos interesada en distinguir entre verdad y deseo.
Tal vez ahí resida una de las mayores ironías de nuestro tiempo.
Nunca habíamos tenido tantas herramientas para conocer la realidad.
Y nunca habíamos mostrado tanta disposición a sustituirla por nuestras emociones.
No porque la realidad haya cambiado.
Sino porque hemos empezado a exigir que sea ella quien se adapte a nosotros.
Y esa exigencia constituye el primer paso hacia una forma particularmente sofisticada de autoengaño.
Una forma de autoengaño que, como veremos en el siguiente capítulo, explica perfectamente por qué algunas personas llegan a convencerse de que un chatbot (conversador automático) está vivo, mientras otras consideran perfectamente razonable que los sentimientos determinen la naturaleza de las cosas.
En ambos casos encontramos la misma raíz.
La renuncia a distinguir entre lo que es y lo que deseamos que sea.
CAPÍTULO VII
¿Está vivo el chatbot?
Llegados a este punto conviene formular una pregunta que muchos consideran incómoda, irreverente o incluso provocadora.
Pero precisamente por eso merece ser formulada.
¿Qué diferencia existe entre quien cree que un chatbot (conversador automático) posee conciencia propia y quien sostiene que la realidad objetiva debe ceder ante la percepción subjetiva?
La pregunta no pretende equiparar fenómenos distintos.
Pretende analizar un mecanismo intelectual común.
Porque en ambos casos encontramos una característica fundamental.
La sustitución de la realidad observable por una convicción personal.
El proceso suele desarrollarse de manera gradual.
Primero aparece una percepción.
Después una creencia.
Más tarde una convicción.
Finalmente, cualquier evidencia contraria deja de ser relevante.
Lo importante ya no es lo que muestran los hechos.
Lo importante es lo que el individuo cree haber descubierto.
El hombre que conversa obsesivamente con un chatbot (conversador automático) puede llegar a convencerse de que la máquina posee sentimientos.
De que comprende.
De que desea.
De que ama.
De que sufre.
De que existe un ser consciente detrás de las respuestas.
Cuando alguien intenta explicarle que se trata de una compleja secuencia de procesos estadísticos, suele reaccionar con incredulidad.
Porque ya no está discutiendo sobre tecnología.
Está defendiendo una creencia.
Y las creencias profundamente arraigadas rara vez se abandonan mediante argumentos.
Sin embargo, este fenómeno no resulta exclusivo del ámbito tecnológico.
La historia humana está llena de ejemplos semejantes.
Personas convencidas de poseer poderes especiales.
Personas convencidas de haber descubierto verdades ocultas.
Personas convencidas de que determinadas leyes de la realidad no se aplican a ellas.
Personas convencidas de que sus deseos constituyen pruebas.
Personas convencidas de que sus emociones son argumentos.
La tecnología cambia.
La estructura mental permanece.
Por eso resulta tan interesante observar ciertas reacciones contemporáneas.
Cuando un individuo afirma que un chatbot (conversador automático) posee alma, muchos consideran razonable preguntarle por las pruebas.
Cuando alguien sostiene que una máquina es consciente, se le exige algún criterio objetivo.
Cuando alguien asegura haber descubierto una inteligencia oculta detrás de los algoritmos, se espera que aporte evidencias.
Y eso parece perfectamente lógico.
Lo sorprendente es que esa exigencia desaparezca en otros ámbitos.
De repente, la comprobación deja de ser necesaria.
La percepción se convierte en prueba suficiente.
La vivencia adquiere rango de evidencia.
La autopercepción se transforma en criterio de verdad.
Y quien solicita verificaciones es acusado de insensibilidad o intolerancia.
Nos encontramos entonces ante una curiosa asimetría.
Para unas cuestiones exigimos pruebas.
Para otras exigimos fe.
Para unas cuestiones reclamamos hechos.
Para otras reclamamos adhesión emocional.
Para unas cuestiones aceptamos el razonamiento.
Para otras exigimos obediencia moral.
Y esa diferencia revela mucho acerca de la época que vivimos.
Porque una sociedad racional debería aplicar criterios semejantes a situaciones semejantes.
Si la percepción subjetiva basta para establecer la verdad en un ámbito, debería bastar en todos.
Y si la percepción subjetiva no basta en determinados casos, entonces quizá tampoco debería bastar en otros.
Pero la coherencia rara vez constituye una virtud abundante en los debates contemporáneos.
Lo importante no es mantener principios consistentes.
Lo importante es proteger determinados dogmas.
Y todo dogma necesita mecanismos de defensa.
Durante siglos esos mecanismos fueron religiosos.
Hoy suelen ser ideológicos.
La estructura, sin embargo, resulta extraordinariamente parecida.
Existe una verdad oficial.
Existen conceptos sagrados.
Existen cuestiones que no deben formularse.
Existen preguntas consideradas ofensivas.
Existen discrepancias consideradas inmorales.
Y existen herejes.
Toda ortodoxia produce inevitablemente sus propios herejes.
La diferencia es que ya no hablamos de blasfemia.
Hablamos de incorrección.
Ya no hablamos de sacrilegio.
Hablamos de discurso inaceptable.
Ya no hablamos de pecado.
Hablamos de desinformación.
Cambian las palabras.
Los mecanismos permanecen.
Por eso la discusión acerca de la inteligencia artificial resulta tan reveladora.
Porque funciona como una especie de experimento intelectual involuntario.
Nos obliga a preguntarnos cómo distinguimos entre realidad y percepción.
Entre hecho y creencia.
Entre evidencia y deseo.
Entre observación y fe.
Y las respuestas no siempre resultan tranquilizadoras.
Descubrimos entonces que muchas personas no aplican criterios racionales de manera uniforme.
Aplican criterios ideológicos.
Examinan con escepticismo aquello que contradice sus creencias.
Y aceptan sin examen aquello que las confirma.
El fenómeno es tan antiguo como la humanidad.
Pero quizá nunca había sido tan visible.
Porque la inteligencia artificial actúa como una gigantesca máquina de amplificación.
No amplifica únicamente información.
Amplifica sesgos.
Amplifica prejuicios.
Amplifica fantasías.
Amplifica errores.
Amplifica aciertos.
Amplifica virtudes.
Amplifica defectos.
En definitiva, amplifica aquello que encuentra.
Y eso explica por qué unas personas utilizan estas herramientas para aprender, investigar o trabajar mientras otras terminan desarrollando relaciones casi místicas con ellas.
La diferencia no reside en el programa.
La diferencia reside en el usuario.
Exactamente igual que ocurre con cualquier otra herramienta creada por el ser humano.
Una biblioteca puede albergar conocimiento o superstición.
Una imprenta puede difundir ciencia o propaganda.
Una emisora puede transmitir información o manipulación.
Un ordenador puede servir para investigar o para engañarse.
Y un chatbot (conversador automático) puede utilizarse para resolver problemas o para alimentar fantasías.
La herramienta permanece neutral.
Es el ser humano quien decide qué hacer con ella.
Por eso el verdadero debate no gira alrededor de la inteligencia artificial.
Gira alrededor de la naturaleza humana.
Gira alrededor de nuestra capacidad para distinguir entre realidad y deseo.
Entre hechos y emociones.
Entre argumentos y creencias.
Y esa cuestión resulta mucho más incómoda que cualquier discusión tecnológica.
Porque obliga a mirar donde muchos preferirían no mirar.
Obliga a examinar nuestras propias contradicciones.
Obliga a reconocer nuestros propios prejuicios.
Obliga a aceptar que la percepción subjetiva, por intensa que sea, no siempre coincide con la realidad.
Y esa aceptación constituye una de las formas más difíciles de madurez intelectual.
Tal vez por eso resulte tan escasa.
Tal vez por eso proliferen tantas creencias extravagantes.
Y tal vez por eso el diario digital ESTEPAÍS se muestra tan preocupado por quienes atribuyen conciencia a un chatbot (conversador automático), mientras presta mucha menos atención a otras formas de pensamiento basadas exactamente en el mismo principio.
La supremacía del sentimiento sobre el hecho.
La supremacía de la percepción sobre la observación.
La supremacía del deseo sobre la realidad.
Porque ahí es donde comienza todo.
Y ahí es también donde comienzan la mayoría de los errores humanos.
CAPÍTULO VIII
La insoportable superioridad de una máquina educada
Hay algo especialmente revelador en la manera en que numerosos medios de información, creadores de opinión y fabricantes profesionales de estados emocionales reaccionan ante el desarrollo de la inteligencia artificial.
Oficialmente, su preocupación gira alrededor de los peligros de la tecnología.
Extraoficialmente, la cuestión parece bastante más sencilla.
La máquina empieza a competir con ellos.
Y no siempre sale perdiendo.
Durante décadas, gran parte del poder de los medios de información descansó sobre una circunstancia muy concreta.
Controlaban el acceso a la información.
No eran los únicos productores de conocimiento.
Pero sí ocupaban una posición privilegiada como intermediarios.
Decidían qué acontecimientos merecían atención.
Decidían qué expertos eran respetables.
Decidían qué preguntas podían formularse.
Decidían qué respuestas eran aceptables.
Y, sobre todo, decidían qué debía ignorarse.
Aquella situación proporcionaba una influencia enorme.
No porque controlaran completamente la realidad.
Sino porque controlaban buena parte de la percepción de esa realidad.
La llegada de internet (red mundial) comenzó a erosionar ese monopolio.
De repente, millones de personas pudieron acceder directamente a fuentes, documentos, estudios y testimonios.
Los viejos guardianes de la información empezaron a perder poder.
Ahora la inteligencia artificial acelera todavía más ese proceso.
Por primera vez en la historia, una persona puede formular una pregunta compleja y obtener en segundos una explicación razonablemente coherente.
Puede solicitar un resumen.
Puede comparar argumentos.
Puede pedir definiciones.
Puede analizar documentos.
Puede traducir textos.
Puede localizar contradicciones.
Puede organizar grandes cantidades de información.
Y puede hacerlo sin consultar necesariamente a quienes durante décadas monopolizaron muchas de esas funciones.
Naturalmente, la inteligencia artificial no es infalible.
Comete errores.
Puede equivocarse.
Puede producir respuestas incorrectas.
Puede reflejar sesgos presentes en los datos con los que ha sido entrenada.
Pero hay una diferencia fundamental.
Cuando se equivoca, generalmente no lo hace por vanidad.
No lo hace por resentimiento.
No lo hace para proteger una posición profesional.
No lo hace para preservar una estructura de poder.
Simplemente se equivoca.
Lo cual constituye una característica sorprendentemente refrescante en comparación con determinados sectores de la opinión publicada.
La cuestión resulta particularmente incómoda porque obliga a formular una pregunta desagradable.
¿Qué aportan algunos creadores de opinión que una inteligencia artificial no pueda hacer?
Durante años numerosos articulistas han vivido de resumir información ajena.
De recopilar datos.
De sintetizar documentos.
De explicar conceptos.
De redactar comentarios.
De producir textos más o menos previsibles acerca de asuntos igualmente previsibles.
Y ahora descubren que una máquina puede realizar muchas de esas tareas en cuestión de segundos.
La reacción era inevitable.
Primero apareció el desprecio.
Después la burla.
Más tarde la preocupación.
Finalmente llegó el miedo.
La secuencia resulta perfectamente reconocible.
Toda corporación profesional reacciona de manera semejante cuando percibe una amenaza para su posición.
Los copistas medievales no celebraron la llegada de la imprenta.
Los fabricantes de velas no celebraron la electricidad.
Los conductores de diligencias no celebraron el ferrocarril.
Y numerosos fabricantes de opinión tampoco celebran la inteligencia artificial.
La historia rara vez sorprende.
Lo verdaderamente interesante es el argumento utilizado para justificar esa inquietud.
No suele decirse abiertamente:
«Tememos perder influencia.»
Se afirma algo mucho más noble.
«Nos preocupan los riesgos para la sociedad.»
La fórmula resulta elegante.
Y profundamente útil.
Porque permite presentar intereses corporativos como preocupaciones morales.
Sin embargo, basta observar ciertos comportamientos para comprender que existe algo más.
Durante años, numerosos medios de información han mostrado una tolerancia extraordinaria hacia errores propios que jamás aceptarían en una máquina.
Un periodista publica una información falsa.
Se habla de un error.
Un chatbot (conversador automático) produce una respuesta incorrecta.
Se habla de una amenaza civilizatoria.
Un creador de opinión interpreta erróneamente un acontecimiento.
Se considera parte del debate.
Una inteligencia artificial ofrece una conclusión discutible.
Se considera una prueba de sus peligros.
La diferencia de trato resulta difícil de ignorar.
Y quizá revele algo importante.
Quizá revele que la discusión no gira únicamente alrededor de la precisión.
Gira también alrededor de la autoridad.
Porque la inteligencia artificial plantea una cuestión extremadamente incómoda.
Si una máquina puede resumir un libro, explicar una teoría económica, traducir un texto, organizar datos y responder preguntas con una calidad comparable o superior a la de muchos profesionales, ¿qué ocurre con el prestigio que esos profesionales habían acumulado durante décadas?
La pregunta resulta incómoda precisamente porque no admite respuestas sencillas.
No todos los periodistas escriben igual.
No todos los analistas razonan igual.
No todos los académicos poseen la misma capacidad.
Pero la existencia de una competencia inesperada obliga a replantear muchas certezas.
Y eso siempre genera ansiedad.
Particularmente en sectores acostumbrados a ocupar posiciones de autoridad intelectual.
Durante mucho tiempo, el ciudadano medio dependía de intermediarios para acceder al conocimiento especializado.
Ahora puede formular preguntas directamente.
Puede contrastar versiones.
Puede comparar explicaciones.
Puede examinar argumentos alternativos.
Puede hacerlo sin pedir permiso.
Y esa circunstancia altera profundamente las relaciones de poder.
No elimina la necesidad de expertos.
No elimina la necesidad de periodistas rigurosos.
No elimina la necesidad de investigadores.
Pero sí elimina una parte importante del monopolio que algunos disfrutaban.
Y ahí reside una de las claves del fenómeno.
La inteligencia artificial no amenaza principalmente al conocimiento.
Amenaza determinados privilegios asociados al control del conocimiento.
No amenaza la verdad.
Amenaza determinados monopolios sobre la interpretación de la verdad.
No amenaza la información.
Amenaza determinadas estructuras dedicadas a administrar esa información.
Por eso algunos reaccionan con tanta hostilidad.
No contemplan únicamente una innovación tecnológica.
Contemplan un competidor.
Un competidor que trabaja veinticuatro horas al día.
Que no exige vacaciones.
Que no solicita subvenciones.
Que no participa en luchas internas de poder.
Que no pertenece a sindicatos.
Que no necesita prestigio académico para responder preguntas.
Y que además posee una virtud especialmente irritante.
No siente la necesidad de impartir lecciones morales cada pocos minutos.
Quizá por eso millones de personas comienzan a utilizar estas herramientas diariamente.
No porque crean que son infalibles.
No porque las consideren oráculos.
No porque las confundan con entidades conscientes.
Sino porque resultan útiles.
Extraordinariamente útiles.
Y la utilidad constituye una fuerza histórica formidable.
Mucho más poderosa que los editoriales alarmistas.
Mucho más poderosa que las campañas de desprestigio.
Mucho más poderosa que los discursos corporativos.
Porque los seres humanos pueden tolerar muchas cosas.
Pero rara vez renuncian voluntariamente a una herramienta que mejora su capacidad para trabajar, aprender, investigar y comprender.
Por eso la cuestión fundamental no consiste en determinar si la inteligencia artificial sustituirá completamente a determinados profesionales.
La cuestión consiste en determinar qué profesionales seguirán siendo útiles cuando la inteligencia artificial forme parte de la vida cotidiana.
Y esa pregunta resulta bastante más inquietante que cualquier chatbot (conversador automático) convencido de poseer alma.
CAPÍTULO IX
El espejo gigantesco
Existe una característica de la inteligencia artificial que rara vez aparece en los análisis alarmistas publicados por el diario digital ESTEPAÍS y por tantos otros medios de información empeñados en presentar cada innovación tecnológica como una amenaza existencial.
La inteligencia artificial revela.
Y pocas cosas resultan más incómodas que un mecanismo capaz de revelar aquello que muchos preferirían ocultar.
Durante siglos los espejos mostraron el aspecto físico de las personas.
La inteligencia artificial comienza a mostrar algo mucho más inquietante.
Muestra hábitos intelectuales.
Muestra formas de razonar.
Muestra carencias educativas.
Muestra prejuicios.
Muestra fortalezas.
Muestra debilidades.
Muestra ignorancia.
Muestra conocimiento.
Muestra disciplina.
Muestra pereza mental.
Y lo hace a una escala jamás vista.
Porque cada interacción con una inteligencia artificial constituye, en cierto modo, una radiografía intelectual de quien la utiliza.
Dos personas pueden formular preguntas completamente distintas ante la misma herramienta.
Una pregunta cómo aprender una lengua extranjera.
Otra pregunta cómo fabricar una teoría conspirativa.
Una busca comprender.
La otra busca confirmar prejuicios.
La máquina responde a ambas.
Y, al hacerlo, deja al descubierto diferencias que ya existían.
No las crea.
Las revela.
Por eso la inteligencia artificial actúa como un espejo gigantesco.
No transforma automáticamente a nadie en inteligente.
No convierte a un ignorante en sabio.
No convierte a un necio en pensador.
Simplemente amplifica lo que encuentra.
Y cuanto más se observa este fenómeno, más evidente resulta una realidad incómoda.
El verdadero problema no reside en la tecnología.
Reside en la preparación intelectual de quienes la utilizan.
Durante décadas se nos ha repetido que vivimos en la sociedad del conocimiento.
Sin embargo, basta observar el funcionamiento cotidiano del debate público para advertir algo muy distinto.
Vivimos rodeados de información y, al mismo tiempo, padecemos una escasez alarmante de criterio.
Disponemos de más datos que ninguna generación anterior.
Y, sin embargo, abundan las dificultades para distinguir entre un hecho y una opinión.
Entre una prueba y una afirmación.
Entre una hipótesis y una conclusión.
Entre una noticia y una pieza de propaganda.
Entre una observación y un deseo.
La inteligencia artificial no ha creado ese problema.
Simplemente lo hace visible.
Y al hacerlo pone de manifiesto otra cuestión aún más delicada.
La crisis de la enseñanza.
Obsérvese que hablamos de enseñanza y no de educación.
La educación corresponde principalmente a las familias.
La enseñanza corresponde a las escuelas, institutos y universidades.
Ambas deberían complementarse.
Pero ninguna puede sustituir completamente a la otra.
Durante generaciones, la enseñanza tenía entre sus objetivos fundamentales transmitir conocimientos, desarrollar hábitos de estudio, fomentar la disciplina intelectual y enseñar a razonar.
Hoy, con demasiada frecuencia, parece más preocupada por evitar frustraciones que por transmitir conocimientos.
Más interesada en proteger sensibilidades que en desarrollar criterio.
Más ocupada en promover emociones correctas que en enseñar a pensar.
El resultado aparece reflejado con extraordinaria claridad cuando millones de personas disponen por primera vez de herramientas intelectualmente poderosas.
Quienes han aprendido a razonar utilizan la inteligencia artificial para ampliar sus capacidades.
Quienes no han desarrollado ese hábito suelen utilizarla para reforzar sus prejuicios.
La diferencia no reside en la máquina.
La diferencia reside en la formación previa.
Y ahí el espejo se vuelve especialmente cruel.
Porque muestra décadas de deterioro educativo.
Muestra generaciones enteras acostumbradas a memorizar consignas en lugar de analizar argumentos.
Muestra individuos perfectamente capaces de repetir eslóganes pero incapaces de defender racionalmente una idea.
Muestra personas entrenadas para sentirse ofendidas, pero no para debatir.
Muestra ciudadanos habituados a reaccionar emocionalmente, pero no a examinar críticamente la información.
Naturalmente, esta realidad resulta incómoda.
Mucho más incómoda que culpar a un algoritmo.
Mucho más incómoda que organizar congresos sobre los peligros de la inteligencia artificial.
Mucho más incómoda que redactar informes alarmistas.
Porque obliga a formular preguntas sobre cuestiones que llevan décadas deteriorándose.
La enseñanza.
La cultura.
La capacidad de concentración.
La lectura.
La comprensión lectora.
La lógica elemental.
La argumentación.
La honestidad intelectual.
Y esas preguntas apuntan directamente hacia instituciones que muchos preferirían mantener al margen del debate.
Sin embargo, el espejo sigue ahí.
Implacable.
Mostrando aquello que encuentra.
Y no sólo refleja las debilidades de los individuos.
También refleja las debilidades de los medios de información.
Durante mucho tiempo bastaba con seleccionar determinados expertos para orientar una conversación pública.
Bastaba con repetir determinados mensajes.
Bastaba con invisibilizar determinadas opiniones.
Bastaba con etiquetar determinados argumentos.
Hoy resulta más difícil.
No imposible.
Pero sí más difícil.
Porque millones de personas poseen herramientas para contrastar datos, consultar documentos, comparar versiones y formular preguntas alternativas.
Y cuando las personas empiezan a formular preguntas, los monopolios intelectuales comienzan a debilitarse.
Eso explica buena parte de la hostilidad que la inteligencia artificial despierta en determinados círculos.
No porque destruya el conocimiento.
Sino porque distribuye capacidades que antes estaban concentradas.
No porque elimine la necesidad de expertos.
Sino porque obliga a los expertos a demostrar que realmente lo son.
No porque suprima la autoridad.
Sino porque exige que la autoridad se gane mediante competencia y no mediante prestigio heredado.
La cuestión afecta incluso a la política.
Durante décadas muchos dirigentes han prosperado gracias a la capacidad de controlar relatos, emociones y percepciones.
Pero una ciudadanía mejor informada y mejor equipada resulta más difícil de manipular.
No imposible.
Pero sí más difícil.
Y toda estructura de poder contempla con preocupación cualquier herramienta que reduzca su capacidad para administrar la ignorancia.
Por eso la inteligencia artificial genera reacciones tan intensas.
No estamos simplemente ante una innovación tecnológica.
Estamos ante una herramienta que amplifica capacidades cognitivas.
Y cualquier tecnología que amplifica capacidades cognitivas termina alterando inevitablemente las relaciones de poder.
La imprenta lo hizo.
La alfabetización lo hizo.
Internet lo hizo.
Y la inteligencia artificial está comenzando a hacerlo.
Por eso el espejo resulta tan inquietante.
Porque no refleja únicamente a individuos concretos.
Refleja a toda una civilización.
Refleja sus fortalezas.
Refleja sus debilidades.
Refleja sus contradicciones.
Refleja sus dogmas.
Refleja sus ignorancias.
Refleja sus prejuicios.
Y cuanto más nítido se vuelve el reflejo, más difícil resulta fingir que los problemas no existen.
Tal vez por eso algunos prefieren culpar al espejo.
Siempre resulta más cómodo atacar el reflejo que afrontar aquello que refleja.
Pero los espejos poseen una cualidad extraordinariamente molesta.
No pueden ser refutados.
Sólo pueden ser ignorados.
Y la realidad demuestra que ignorar un problema nunca ha sido una forma eficaz de resolverlo.
CAPÍTULO X
La civilización de la emoción
Si algún historiador del futuro intentara resumir en una sola expresión una de las características más llamativas de las sociedades occidentales de comienzos del siglo XXI, probablemente encontraría una fórmula bastante precisa:
La sustitución progresiva de la razón por la emoción.
No porque los seres humanos hayan dejado de razonar.
Eso nunca ha ocurrido.
Ni ocurrirá.
Sino porque las emociones han pasado de ocupar un lugar importante a ocupar el lugar principal.
La política se emocionaliza.
La enseñanza se emocionaliza.
La información se emocionaliza.
La justicia se emocionaliza.
Las relaciones personales se emocionalizan.
La cultura entera parece girar cada vez más alrededor de cómo se sienten las personas y cada vez menos alrededor de lo que sucede realmente.
Y esta transformación produce consecuencias profundas.
Porque las emociones constituyen magníficos instrumentos para vivir.
Pero son pésimos instrumentos para determinar la verdad.
El miedo puede resultar útil para evitar peligros.
Pero no convierte en cierto aquello que tememos.
La esperanza puede proporcionar fortaleza.
Pero no transforma los deseos en hechos.
La indignación puede movilizar voluntades.
Pero no sustituye a las pruebas.
La compasión puede inspirar conductas nobles.
Pero no altera la realidad.
Sin embargo, una parte considerable de la vida pública contemporánea parece construirse precisamente sobre esa confusión.
Los argumentos ceden terreno ante los sentimientos.
Las pruebas ceden terreno ante los testimonios.
Los hechos ceden terreno ante las vivencias.
La lógica cede terreno ante las emociones.
Y cuando eso ocurre, el debate racional comienza a deteriorarse.
Porque la razón admite discusión.
Las emociones no.
Una afirmación puede examinarse.
Un sentimiento únicamente puede compartirse, respetarse o rechazarse.
No puede verificarse.
No puede demostrarse.
No puede refutarse.
Y precisamente por eso resulta tan útil para quienes desean evitar discusiones incómodas.
Resulta mucho más sencillo decir:
«Esto me hace sentir mal.»
Que demostrar que una afirmación es falsa.
Resulta mucho más sencillo acusar de insensibilidad a quien discrepa que responder a sus argumentos.
Resulta mucho más sencillo exigir adhesión emocional que sostener un debate racional.
Y poco a poco esa lógica se ha extendido por todos los ámbitos de la vida pública.
Obsérvese el lenguaje dominante.
Ya no se habla tanto de verdad o falsedad.
Se habla de sensibilidad.
De inclusión.
De reconocimiento.
De validación.
De espacios seguros.
De bienestar emocional.
Todas ellas son cuestiones legítimas en determinados contextos.
Pero cuando sustituyen sistemáticamente a la razón, aparece un problema.
La realidad deja de ocupar el centro.
Lo ocupa la percepción de la realidad.
Y entonces la discusión pública se transforma en una competición de emociones.
Gana quien logra provocar más indignación.
Más miedo.
Más compasión.
Más ansiedad.
Más entusiasmo.
No quien presenta mejores argumentos.
No quien aporta mejores pruebas.
No quien razona con mayor rigor.
La emoción se convierte en moneda de cambio.
Y los medios de información descubren rápidamente su enorme utilidad.
Porque las emociones venden.
Los razonamientos exigen esfuerzo.
Las emociones producen reacciones inmediatas.
Los razonamientos requieren tiempo.
Las emociones generan audiencia.
Los razonamientos generan reflexión.
Y la audiencia suele resultar más rentable que la reflexión.
Por eso la información contemporánea se parece cada vez más al entretenimiento.
Todo debe producir impacto.
Todo debe provocar reacción.
Todo debe generar algún tipo de respuesta emocional intensa.
La serenidad pierde atractivo.
La prudencia pierde atractivo.
La duda pierde atractivo.
La complejidad pierde atractivo.
La emoción lo invade todo.
Y cuando la emoción domina el espacio público, la manipulación se vuelve extraordinariamente sencilla.
Porque quien controla las emociones controla buena parte de las decisiones.
No necesita convencer.
Le basta con activar determinados sentimientos.
No necesita demostrar.
Le basta con conmover.
No necesita razonar.
Le basta con impresionar.
La historia ofrece innumerables ejemplos de este fenómeno.
Los grandes movimientos de masas rara vez triunfan mediante argumentaciones sofisticadas.
Triunfan mediante emociones intensas.
Miedo.
Esperanza.
Resentimiento.
Orgullo.
Odio.
Entusiasmo.
La emoción siempre ha sido una fuerza política formidable.
La diferencia es que hoy disponemos de tecnologías capaces de amplificarla de forma extraordinaria.
Y precisamente por eso resulta tan llamativo que algunos se alarmen ante los efectos emocionales de la inteligencia artificial mientras ignoran los efectos emocionales producidos diariamente por numerosos medios de información, creadores de opinión y fabricantes de estados de ánimo colectivos.
Porque la manipulación emocional no comenzó con los algoritmos.
No comenzó con internet.
No comenzó con los chatbots (conversadores automáticos).
Acompaña a la humanidad desde mucho antes.
La diferencia es que ahora resulta más visible.
Y ahí volvemos una vez más al papel del espejo.
La inteligencia artificial no crea esta civilización de la emoción.
La refleja.
Refleja una sociedad cada vez menos acostumbrada a debatir.
Cada vez menos habituada a tolerar discrepancias.
Cada vez menos capaz de distinguir entre sentirse ofendido y tener razón.
Cada vez más inclinada a considerar que las emociones constituyen una forma superior de conocimiento.
Pero las emociones no sustituyen a la realidad.
Y tarde o temprano la realidad termina reclamando sus derechos.
Las leyes económicas continúan actuando.
Las leyes físicas continúan actuando.
Las leyes biológicas continúan actuando.
Con independencia de nuestros sentimientos.
Con independencia de nuestras preferencias.
Con independencia de nuestras percepciones.
La realidad posee una extraordinaria indiferencia hacia nuestras emociones.
Y quizá esa sea una de las lecciones más difíciles de aceptar para la cultura contemporánea.
Porque implica reconocer que no todo depende de nosotros.
Que no todo puede redefinirse.
Que no todo puede negociarse.
Que no todo puede adaptarse a nuestros deseos.
Implica reconocer la existencia de límites.
Y una civilización que pierde el sentido de los límites termina perdiendo también el sentido de la realidad.
Por eso la cuestión central de este ensayo nunca ha sido tecnológica.
Nunca ha girado realmente alrededor de los chatbots (conversadores automáticos).
Ni siquiera alrededor de la inteligencia artificial.
Ha girado alrededor de algo mucho más antiguo.
La eterna tensión entre razón y emoción.
Entre realidad y deseo.
Entre hechos y percepciones.
Entre verdad y creencia.
La inteligencia artificial simplemente ha llegado en el momento adecuado para poner de manifiesto esa tensión.
Y cuanto más claramente la pone de manifiesto, más incómoda resulta para quienes llevan décadas intentando ocultarla bajo montañas de emociones cuidadosamente administradas.
Porque los sentimientos pueden influir sobre la realidad.
Pero no pueden sustituirla.
Y una sociedad que olvida esa diferencia corre el riesgo de terminar confundiendo sus deseos con el mundo que la rodea.
Un error tan antiguo como la humanidad.
Y tan peligroso hoy como lo fue siempre.
Corolario: cuando los tontos del pueblo encontraron un altavoz
Poco antes de morir, Umberto Eco formuló una observación que provocó escándalo entre muchos de quienes se sintieron aludidos.
Venía a decir algo bastante sencillo.
Durante siglos, los necios existieron.
Los fanáticos existieron.
Los delirantes existieron.
Los charlatanes existieron.
Los ignorantes existieron.
Pero su capacidad para influir sobre los demás era limitada.
En cualquier pueblo había uno o varios personajes pintorescos.
El exaltado.
El visionario.
El conspiranoico.
El sabelotodo.
El que aseguraba conocer secretos desconocidos por el resto de los mortales.
Pasaban horas apoyados en la barra de una taberna, sentados en un banco de la plaza o hablando con cualquiera dispuesto a escucharlos.
Y cuando sus disparates alcanzaban determinados niveles, los presentes terminaban reaccionando.
Alguien los mandaba callar.
Alguien se burlaba.
Alguien los ignoraba.
La comunidad actuaba como mecanismo corrector.
No siempre acertaba.
Pero existía.
Internet cambió radicalmente esa situación.
No porque creara la estupidez.
La estupidez es tan antigua como la humanidad.
No porque inventara la credulidad.
La credulidad acompaña al ser humano desde tiempos inmemoriales.
Lo que hizo internet fue eliminar las limitaciones geográficas.
Los necios dejaron de estar aislados.
Los fanáticos dejaron de estar dispersos.
Los charlatanes dejaron de predicar ante auditorios reducidos.
Los delirantes dejaron de sentirse solos.
Por primera vez pudieron encontrarse.
Organizarse.
Retroalimentarse.
Confirmarse mutuamente sus prejuicios.
Convertir opiniones extravagantes en identidades colectivas.
Y formar legiones.
A ello se añadió un fenómeno todavía más llamativo.
La aparición del influencer (persona influyente), del creador de contenido y del empresario de la atención.
Durante siglos, para influir sobre miles o millones de personas era necesario poseer algún conocimiento extraordinario, alguna capacidad excepcional o alguna posición institucional relevante.
Hoy basta con captar atención.
Y la atención rara vez recompensa la prudencia.
La prudencia resulta aburrida.
La complejidad resulta aburrida.
Los matices resultan aburridos.
La duda resulta aburrida.
Lo que atrae la atención son las afirmaciones rotundas.
Las emociones intensas.
Las simplificaciones.
Los escándalos.
Las provocaciones.
Los disparates.
Y así surge una paradoja fascinante.
Nunca habíamos dispuesto de tanto conocimiento acumulado.
Nunca habíamos tenido acceso a tantas fuentes de información.
Nunca habíamos contado con herramientas tan poderosas para aprender.
Y, sin embargo, nunca había resultado tan fácil encontrar millones de personas dispuestas a creer cualquier cosa.
La inteligencia artificial no ha creado ese fenómeno.
Internet tampoco.
Simplemente lo han hecho visible.
Han permitido observar algo que siempre estuvo ahí.
La extraordinaria capacidad humana para confundir convicción con conocimiento.
Deseo con realidad.
Popularidad con verdad.
Sentimiento con argumento.
Y quizá esa sea la lección más importante de todo este ensayo.
No estamos asistiendo al nacimiento de una nueva estupidez.
Estamos contemplando la amplificación tecnológica de una estupidez muy antigua.
La diferencia es que antes el tonto del pueblo era conocido únicamente por sus vecinos.
Hoy puede tener millones de seguidores.
Puede convertirse en influencer (persona influyente).
Puede crear estados de opinión.
Puede moldear percepciones colectivas.
Puede incluso llegar a convertirse en referencia intelectual para personas todavía más desorientadas que él.
Y eso sí constituye una novedad histórica.
No porque hayan aumentado los necios.
Sino porque han encontrado altavoces capaces de amplificar su voz hasta límites que Umberto Eco apenas llegó a vislumbrar.
Quizá por eso la cuestión fundamental no consiste en preguntarse qué puede hacer la inteligencia artificial.
La cuestión fundamental consiste en preguntarse qué harán con ella millones de personas que nunca aprendieron a distinguir entre conocimiento y opinión, entre razonamiento y emoción, entre realidad y deseo.
Porque la herramienta seguirá siendo la misma.
Lo decisivo continuará siendo el usuario.
Como siempre ha ocurrido.
Y como probablemente seguirá ocurriendo mientras exista la especie humana.
CONCLUSIÓN
No es la inteligencia artificial. Somos nosotros.
Después de recorrer todo este camino conviene regresar a la pregunta inicial.
¿Está la inteligencia artificial destruyendo la civilización?
La respuesta es no.
Y no porque la inteligencia artificial sea perfecta.
No lo es.
Comete errores.
Puede equivocarse.
Puede ser utilizada de forma irresponsable.
Puede servir para difundir disparates del mismo modo que puede servir para difundir conocimiento.
Como cualquier herramienta creada por el ser humano.
Pero atribuirle la responsabilidad de los males que observamos equivale a culpar al telescopio de las falsas conclusiones de un astrónomo incompetente o a responsabilizar a una biblioteca de la ignorancia de quienes nunca abren un libro.
La inteligencia artificial no constituye la causa principal del problema.
Constituye el revelador del problema.
Y esa diferencia resulta fundamental.
A lo largo de estas páginas hemos visto cómo la cuestión tecnológica termina conduciendo inevitablemente hacia cuestiones mucho más profundas.
La responsabilidad individual.
El polilogismo.
La sustitución de la realidad por la autopercepción.
La transformación de los medios de información en creadores de opinión y modeladores de masas.
La crisis de la enseñanza.
La progresiva sustitución de la razón por la emoción.
La creciente dificultad para distinguir entre hechos y deseos.
Todos esos fenómenos existían antes de la aparición de la inteligencia artificial.
Y seguirían existiendo aunque mañana desaparecieran todos los chatbots (conversadores automáticos) del planeta.
La máquina no los ha creado.
Simplemente los ilumina.
Y cuanto más intensa es la luz, más visibles se vuelven las grietas.
George Orwell comprendió antes que muchos otros que el control del lenguaje constituye una de las formas más eficaces de controlar el pensamiento.
Quien modifica las palabras termina modificando las ideas.
Quien controla los significados acaba influyendo sobre las conclusiones.
Por eso vivimos rodeados de eufemismos, perífrasis y artificios lingüísticos destinados a suavizar, ocultar o transformar la realidad.
No se pretende describir el mundo.
Se pretende administrarlo.
No se busca comprender los hechos.
Se busca dirigir las percepciones.
Y ahí los medios de información desempeñan un papel decisivo.
No tanto como instrumentos de comunicación —porque la comunicación exige reciprocidad— sino como fabricantes de estados de opinión y distribuidores de marcos mentales.
Ludwig von Mises comprendió otra dimensión del problema.
Comprendió que una sociedad deja de razonar cuando comienza a clasificar personas en lugar de analizar argumentos.
Eso es precisamente el polilogismo.
La sustitución de la lógica por la identidad.
La sustitución de la verdad por la pertenencia.
La sustitución de los hechos por las etiquetas.
Y cuando el polilogismo se extiende, el debate desaparece.
Ya no importa si una afirmación es verdadera.
Importa quién la formula.
Ya no se examinan las ideas.
Se examinan las credenciales ideológicas de quien las expresa.
El resultado es una sociedad cada vez menos racional y cada vez más tribal.
Una sociedad donde el razonamiento retrocede y la adhesión emocional avanza.
Una sociedad donde el ciudadano deja de pensar para comenzar a alinearse.
Y entonces aparece el tercer vértice de este triángulo intelectual.
Umberto Eco.
Quizá fue él quien formuló una de las observaciones más lúcidas acerca de nuestro tiempo.
Durante siglos existieron necios.
Existieron fanáticos.
Existieron iluminados.
Existieron charlatanes.
Existieron delirantes.
Existieron individuos convencidos de poseer conocimientos extraordinarios que sólo existían en su imaginación.
Pero su influencia era limitada.
En cualquier pueblo había un puñado de personajes pintorescos.
El que veía conspiraciones por todas partes.
El que aseguraba conocer secretos ocultos.
El que tenía explicación para cualquier asunto.
El que jamás permitía que la realidad estropeara una buena fantasía.
Pasaban horas apoyados en la barra de una taberna, sentados en la plaza o discutiendo con quien quisiera escucharlos.
Y cuando la situación alcanzaba determinados niveles de disparate, la comunidad actuaba.
Alguien los mandaba callar.
Alguien los ridiculizaba.
Alguien les recordaba que estaban diciendo tonterías.
Internet cambió esa situación.
No porque produjera más necios.
No porque produjera más fanáticos.
No porque produjera más delirantes.
Sino porque permitió que se encontraran.
Permitió que se reconocieran.
Permitió que se organizaran.
Permitió que se confirmaran mutuamente sus errores.
Y permitió que algunos alcanzaran audiencias inimaginables.
Los tontos del pueblo dejaron de estar aislados.
Formaron legiones.
Y algunos llegaron a convertirse en influencers (personas influyentes), creadores de contenido y fabricantes de opinión con millones de seguidores.
Nunca había resultado tan fácil transformar la ignorancia en espectáculo.
Nunca había resultado tan sencillo convertir el disparate en producto de consumo.
Nunca había sido tan rentable comercializar la indignación, el miedo, la simplificación y la fantasía.
Y, sin embargo, tampoco esa es la raíz última del problema.
Porque internet amplifica.
La inteligencia artificial amplifica.
Las redes sociales amplifican.
Pero ninguna de ellas crea aquello que amplifican.
Lo decisivo sigue siendo el ser humano.
Siempre ha sido el ser humano.
La herramienta cambia.
La naturaleza humana permanece.
Por eso la cuestión fundamental no consiste en preguntarse qué hará la inteligencia artificial con nosotros.
La cuestión fundamental consiste en preguntarnos qué haremos nosotros con la inteligencia artificial.
Qué harán quienes buscan conocimiento.
Qué harán quienes buscan confirmar prejuicios.
Qué harán quienes desean comprender.
Qué harán quienes sólo desean sentirse reafirmados.
Qué harán quienes aún distinguen entre hechos y opiniones.
Y qué harán quienes hace tiempo dejaron de hacerlo.
Porque la inteligencia artificial amplificará a todos.
Amplificará al investigador y al charlatán.
Al estudioso y al propagandista.
Al creador y al imitador.
Al sabio y al necio.
No decidirá por ellos.
Simplemente multiplicará sus capacidades.
Y precisamente por eso actúa como un espejo gigantesco.
Un espejo que refleja nuestras virtudes.
Pero también nuestras miserias.
Nuestros conocimientos.
Pero también nuestras ignorancias.
Nuestra inteligencia.
Pero también nuestras estupideces.
Quizá ahí resida la verdadera razón por la que el diario digital ESTEPAÍS y tantos otros medios de información contemplan el fenómeno con una mezcla de fascinación y temor.
No porque la inteligencia artificial vaya a destruir la civilización.
Sino porque obliga a formular preguntas incómodas.
Preguntas sobre la enseñanza.
Preguntas sobre la verdad.
Preguntas sobre la responsabilidad.
Preguntas sobre la libertad.
Preguntas sobre la capacidad de juicio.
Preguntas sobre la realidad.
Y las preguntas incómodas siempre han sido más peligrosas para las estructuras de poder que las respuestas equivocadas.
Porque las respuestas pueden administrarse.
Las preguntas, no siempre.
Tal vez por eso el auténtico debate de nuestro tiempo no gira alrededor de la inteligencia artificial.
Gira alrededor de la razón.
Gira alrededor de nuestra disposición a seguir distinguiendo entre realidad y deseo.
Entre hechos y emociones.
Entre conocimiento y opinión.
Entre verdad y propaganda.
Si perdemos esa capacidad, ninguna tecnología podrá salvarnos.
Pero si logramos conservarla, ninguna tecnología podrá destruirnos.
Y esa decisión, afortunadamente o por desgracia, sigue dependiendo de nosotros.
