Nadie cree algo falso

En abril de 1847, en la Primera Clínica Obstétrica del Hospital General de Viena, moría el 18,3 % de las mujeres que daban a luz. Casi una de cada cinco. En la Segunda Clínica, en el mismo edificio, con la misma población de pacientes, la cifra rondaba el 2 %. La única diferencia relevante entre ambas era quién atendía los partos: en la Primera, médicos y estudiantes que venían de la sala de autopsias; en la Segunda, comadronas, que no hacían autopsias.

Ignaz Semmelweis ordenó a mediados de mayo que todos se lavaran las manos con cal clorada antes de entrar. En junio la mortalidad de su clínica fue del 2,2 %. En julio y agosto se mantuvo igual de baja. No era una conjetura: era una intervención con un antes y un después, medida sobre miles de pacientes, con un grupo de control que estaba a treinta metros de distancia.

Lo rechazaron. Colegas suyos en Viena manipularon los datos de mortalidad para argumentar que el lavado no servía. Lo apartaron del puesto. Semmelweis pasó los siguientes años escribiendo cartas cada vez más furiosas a los obstetras de Europa, murió en 1865 en un manicomio, a los cuarenta y siete, de una sepsis contraída por una herida — que es la clase de ironía que no consuela a nadie. La teoría microbiana que habría explicado por qué funcionaba su medida llegó unos veinte años tarde.

Traigo esto porque llevo semanas dándole vueltas a una formulación que escribí y que sigue sin cerrarme del todo:

No hay claridad más peligrosa que la de quien cree entenderlo todo, porque quien dice «he visto la verdad» ya se ha alejado de ella. Por ello he de decirles algo al respecto: no es sabio el que sabe mucho, sino el que más sabe de lo correcto. Por lo tanto, uno de mis objetivos es entender, no creer. No debemos afirmar lo que no se logra demostrar, ni aceptar como cierto lo que solo apacigua nuestra ignorancia o nuestras ideas cómodas.

La línea del medio no es mía; la tomé prestada de una canción y sigue haciendo trabajo. El resto sí lo escribí yo, y por eso me toca auditarlo. Lo que sigue es el intento de separar lo que ahí se sostiene de lo que no, y adelanto que las dos partes son más grandes de lo que me gustaría.

La demostración no es el cuello de botella.

«No debemos afirmar lo que no se logra demostrar» supone, sin decirlo, que el recurso escaso es la demostración. Que el problema del error es que la gente afirma cosas sin haberlas probado, y que si se elevara el estándar de prueba, el error retrocedería.

Semmelweis demostró. Tenía la serie temporal, tenía el grupo de comparación, tenía la magnitud del efecto — no un margen dudoso, sino una caída de dieciocho puntos —, tenía la intervención aislada y reversible. Por cualquier criterio razonable de 1847 o de hoy, eso es una demostración. Y no alcanzó, y no alcanzó durante dos décadas, y en el intervalo murió gente que no tenía por qué morir.

No alcanzó por dos razones que conviene separar, porque son de naturalezas distintas.

La primera es que no tenía mecanismo. Podía mostrar que pasaba, no por qué. Y un resultado sin mecanismo es frágil de una manera muy concreta: no se puede extender, no se puede predecir dónde más aplica, y cualquiera puede proponer una explicación alternativa que lo disuelva. La comunidad médica no estaba siendo caprichosa al pedir un porqué; estaba pidiendo lo que convierte un hallazgo en conocimiento transportable. El problema es que ese porqué tardó veinte años en existir, y mientras tanto el hallazgo era correcto igual.

La segunda es más fea y es la que me importa. La conclusión de Semmelweis implicaba que los médicos estaban matando a sus pacientes con sus propias manos. Aceptarla no costaba un cambio de opinión: costaba una reinterpretación retroactiva de la propia biografía profesional. Cada obstetra que la aceptara tenía que aceptar simultáneamente que había causado muertes durante años. Ese precio no está en los datos. Está en quien los recibe.

Entonces el criterio está bien apuntado y mal ubicado. El cuello de botella no es producir la demostración: es que haya alguien dispuesto a pagar el costo de invalidar lo que ya tiene. Semmelweis demostró, y no alcanzó, y cualquier epistemología que no incluya el precio de la recepción está describiendo la mitad barata del problema.

Y además ese criterio, tomado en serio, no se puede ejecutar.

Hay una objeción formal que se hace sola: la frase «no debemos afirmar lo que no se logra demostrar» no se logra demostrar. Se muerde. Es la misma trampa en la que cayó el verificacionismo hace un siglo, y no la menciono para hacerme el ingenioso, porque una objeción puramente formal casi nunca cambia una práctica. La menciono porque señala hacia una objeción práctica que sí importa.

Nadie opera así. Nadie puede.

Toda decisión que importa se toma antes de que la evidencia cierre — eso es precisamente lo que la convierte en una decisión y no en una consulta. Un analista que solo afirme lo que puede demostrar no escala jamás un incidente, porque en el momento en que hay que escalar nunca está demostrado: hay tres indicadores débiles y un reloj corriendo. Un médico que solo afirme lo demostrable no trata a nadie. Un ingeniero que solo afirme lo demostrable no firma un diseño. La exigencia de prueba previa a la afirmación, aplicada literalmente, produce parálisis, y la parálisis no es neutral: es una decisión con víctimas, solo que difusas y sin nombre, lo que la vuelve cómoda.

Así que la corrección no es callarse. Es otra, y es específica: el defecto no está en afirmar sin demostrar, está en afirmar sin decir cuánto.

Los oficios que trabajan estructuralmente con incertidumbre resolvieron esto hace décadas, y lo resolvieron igual en sitios que no se hablan entre sí. La inteligencia tiene un vocabulario de probabilidad estimativa y una escala para graduar la fiabilidad de la fuente por separado de la credibilidad del dato. La medicina tiene niveles de evidencia. La meteorología no dice «va a llover», dice un número, y ese número se puede puntuar después contra lo que efectivamente pasó. En los tres casos la afirmación sigue existiendo; lo que se agrega es la etiqueta.

Y la etiqueta no es un adorno de cortesía: es lo que vuelve auditable a quien afirma. Si digo «probablemente» y ocurre lo contrario, no pasó nada. Si digo «con setenta por ciento de confianza, sobre esta base» y llevo registro, entonces al cabo de cien afirmaciones se puede calcular si mi setenta por ciento significa algo o es un ruido con forma de número. La confianza declarada convierte la opinión en algo que puede acumular historial.

Lo cual, de paso, explica por qué casi nadie lo hace.

La claridad peligrosa tiene datos, y el mecanismo es peor que la frase.

«No hay claridad más peligrosa que la de quien cree entenderlo todo» suena a advertencia moral. Resulta que es una descripción empírica y que alguien se tomó el trabajo de medirla.

Philip Tetlock siguió a 284 expertos —académicos, analistas, asesores, gente que vivía de opinar sobre política y economía— y les hizo emitir alrededor de veintiocho mil predicciones concretas y puntuables a lo largo de unos veinte años. El resultado agregado es conocido y sigue siendo incómodo: la precisión media apenas superaba la del azar, y en varios cortes quedaba por debajo de reglas de extrapolación triviales.

Pero el promedio es la parte aburrida. Hay dos hallazgos internos que son los que sirven.

El primero es la distinción que Tetlock tomó de Isaiah Berlin. Los erizos saben una cosa grande: tienen una teoría organizadora, un marco que explica el campo entero, y meten cada caso nuevo dentro de él. Los zorros saben muchas cosas pequeñas: manejan varios marcos parciales, ninguno completo, los combinan según el caso y corrigen sobre la marcha. Los zorros predijeron mejor. Bastante mejor, y la ventaja crecía con el horizonte temporal — es decir, justo donde la predicción es difícil.

El segundo hallazgo es el que me interesa de verdad. El predictor individual más fuerte de mala precisión fue la fama. Cuanto más conocido el experto, peores sus predicciones.

Eso no es una ironía cósmica ni un chiste sobre la televisión. Es un efecto de selección, y el mecanismo es completamente mecánico. El mercado de la atención no selecciona por calibración, porque la calibración no es observable en el momento del consumo: se mide después, contra resultados, y para entonces nadie está mirando. Selecciona por lo que se puede evaluar en el acto — seguridad, un relato limpio, coherencia con lo que se dijo la vez anterior, una tesis que se pueda repetir. Y esas propiedades no son neutras respecto de la precisión: la dañan activamente. Quien tiene una teoría que explica todo no puede permitirse que un caso no encaje, porque cada caso que no encaja es una grieta en el producto. El erizo no es un tonto con confianza. Es alguien cuyo incentivo es no actualizar.

De modo que la frase original se sostiene, pero por una razón menos noble de la que sugiere. La certeza no es un defecto de carácter del experto. Es el producto que se le premia. Y eso importa porque cambia la intervención: no se corrige apelando a la humildad de nadie. Se corrige llevando registro, que es lo único que reintroduce el resultado en el bucle.

Ahora la parte que me incomoda: la duda también se vuelve insignia.

«Quien dice “he visto la verdad” ya se ha alejado de ella» es, leída con rigor, una afirmación de haber visto una verdad. Se come a sí misma exactamente igual que la anterior. Podría dejarlo en la objeción formal y seguir, pero sería deshonesto, porque el problema práctico que esa frase esconde lo tengo yo y lo tengo escrito en varios sitios.

El modo de falla es este. La humildad epistémica empieza como una corrección y termina como una posición. Cerrar cada afirmación fuerte admitiendo que puedo estar equivocado es útil mientras esa admisión cueste algo — mientras venga acompañada de la condición concreta que me haría cambiar de opinión. En cuanto se vuelve una fórmula, deja de costar y empieza a rendir: me compra inmunidad. Si nunca afirmo nada en firme, nunca se me puede mostrar que estaba equivocado. Eso no es calibración. Es haber movido la certeza un nivel hacia arriba, a un lugar donde nadie puede auditarla, y quedarme con la reputación de calibrado sin haber pagado el precio.

El escéptico profesional tiene el mismo modelo cerrado que el dogmático. Le entra la misma cantidad de información nueva: ninguna. La diferencia es de prensa. Al dogmático se le nota; al que duda de todo se le aplaude, porque la duda tiene mejor reputación en las salas donde yo escribo y en las que ustedes leen. La duda tiene el mismo modo de falla que la certeza en cuanto deja de costar algo.

Y hay un detalle que lo vuelve difícil de detectar desde adentro: los dos síntomas son idénticos. Ni el dogmático ni el escéptico de oficio han cambiado de opinión sobre nada central en años. Uno porque su marco lo explica todo; el otro porque su marco no lo compromete con nada. En el registro de invalidaciones, ambos tienen la hoja en blanco. Ya escribí en El arcano cero que la incomprensión protege y que también es la mejor excusa para no escuchar; la duda administrada funciona igual, y protege mejor porque parece virtud.

«Lo correcto» hace demasiado trabajo escondido.

«No es sabio el que sabe mucho, sino el que más sabe de lo correcto.» El acierto de esa línea es negarse al relativismo de inventario, a la idea de que toda información vale lo mismo y de que jerarquizar es una arrogancia. Jerarquizar no es arrogancia: es lo único que convierte una acumulación en un criterio.

Pero «lo correcto» contrabandea la respuesta dentro de la pregunta. Si ya sé qué es lo correcto, no necesito la epistemología; la epistemología es exactamente el aparato que uso cuando no lo sé. Tal como está, la línea es un cheque contra una cuenta que todavía no abrí.

Se puede reparar dándole a «correcto» un criterio que no presuponga la conclusión, y el que uso es estructural en lugar de moral: correcto es lo que carga peso. Conocimiento del que depende otro conocimiento. Se puede ordenar un cuerpo de saber por su grafo de dependencias, igual que se ordena un sistema por qué se cae si un componente falla — no por cuál es más noble, sino por cuántas cosas dejan de funcionar si esa pieza está mal.

Bajo ese criterio, saber cómo se forma un enlace químico carga más que saber una alineación deportiva, y no porque la química sea más digna: porque de la primera cuelgan la farmacología, la metalurgia, la nutrición y la mitad de las decisiones que uno toma sin saber que las está tomando, y de la segunda no cuelga nada más que ella misma. Es un criterio aplicable sin conocer la respuesta de antemano, sobrevive a que dos personas tengan valores distintos, y tiene la ventaja de ser falsable: si de algo que declaré periférico resulta que cuelga medio edificio, me equivoqué y se puede ver.

La creencia no es el lugar del fallo.

Y acá está el giro, que es lo que hace falta para que todo lo anterior sirva de algo.

Todos los criterios de la formulación original vigilan el mismo instante: el momento de la adopción. No afirmes sin prueba. No aceptes lo que te consuela. Entiende, no creas. Los tres son guardias apostados en la puerta de entrada.

El problema es que en esa puerta no hay nada que detectar. Nadie adopta una creencia sabiendo que es falsa. Desde adentro, una creencia no se siente como una creencia: se siente como el mundo. Esa es literalmente la definición de creer algo. Cuando incorporé una idea equivocada no lo hice por negligencia ni por comodidad; lo hice porque en ese momento era el mejor ajuste disponible a la evidencia que tenía, y si volviera a ese momento con esa evidencia haría lo mismo. Vigilar la puerta de entrada es vigilar un instante que, desde adentro, siempre se ve correcto.

Por eso la pregunta «¿cómo evito creer algo falso?» no tiene respuesta operable. Está mal enunciada. Pide una garantía en el único punto donde no puede haberla.

La pregunta que sí se puede contestar está aguas abajo: ¿qué hace mi modelo cuando le llega evidencia en contra?

Ese es un comportamiento, no una intención. Es observable. Produce trazas. Y admite un criterio de éxito que la primera no admite.

Es el mismo mecanismo del que ya escribí en La confirmación es más barata, visto desde el otro lado. La inteligencia cotidiana es mucho menos cómputo que acceso a resultados precomputados. Llenar el caché es barato: se llena solo, con lo que uno va encontrando. Invalidar una entrada central es caro, porque obliga a recalcular todo lo que colgaba de ella — y si de esa entrada colgaba la propia biografía profesional, como en Viena en 1847, el costo deja de ser cognitivo y pasa a ser existencial. La gente no mantiene creencias falsas por estúpida. Las mantiene porque desalojar cuesta, y nadie desaloja gratis.

Entonces lo que hace falta no es un filtro de entrada mejor. Es una política de invalidación: bajo qué condiciones concretas saco algo del caché, y con qué frecuencia efectivamente lo hago.

Y esa política admite una prueba que no admite ninguna declaración de principios. La prueba es una fecha.

¿Cuándo fue la última vez que invalidé una entrada central? No un dato suelto, no una corrección de detalle, no cambiar de opinión sobre algo que no me comprometía: una pieza de la que colgaban otras, cuyo desalojo me obligó a rehacer cosas y a admitir en público o en privado que había estado operando mal. Si puedo dar la fecha y decir qué me costó, tengo una política. Si solo puedo enunciar el principio, tengo una consigna.

Escribí hace un tiempo en Ver no es corregir que todo sistema que aprende a observarse da por sentado que mirar y corregir son la misma capacidad, y que casi nunca lo son. Esto es el caso particular más doméstico de eso: una política que llega hasta «estoy dispuesto a mirar la evidencia contraria» se detiene justo un paso antes del único que importa. Mirar es barato. Casi todos miramos. La operación que cuesta es la de después.

Y también hay un caso particular en el oficio, que ya toqué en ¿Corazonada o paranoia? Leer al adversario: la diferencia entre el analista y el paranoico no está en la desconfianza, que ambos tienen, sino en que el analista sostiene un modelo falsable. Agrego ahora lo que ahí me faltó: falsable no basta. Casi todo el mundo puede enunciar, si se le pide, qué evidencia lo haría cambiar de opinión. Muchos menos han llegado a encontrarla y han ejecutado. Un criterio de falsación que nunca se disparó es indistinguible, desde afuera y desde adentro, de un adorno.

La comodidad como señal, y el reverso que casi nunca se nombra.

«Ni aceptar como cierto lo que solo apacigua nuestra ignorancia o nuestras ideas cómodas.» Como heurística está bien y la uso. Si una conclusión me deja exactamente donde ya estaba, con todo mi aparato intacto y además con la sensación de haber pensado, conviene revisarla, porque la probabilidad de que la haya construido hacia atrás es alta.

Pero la heurística está formulada de un solo lado, y la asimetría es una trampa en la que caigo con regularidad.

La incomodidad tampoco es evidencia. Existe una vanidad de la lectura sombría: elegir la conclusión más dura porque se siente más rigurosa, porque el pesimismo es la manera barata de parecer serio en ciertas salas, y porque «el que no se deja engañar» es una identidad extraordinariamente cómoda de habitar. Quien filtra sus conclusiones descartando las agradables tiene el mismo detector que quien descarta las desagradables, con el signo cambiado; los dos están usando el afecto como criterio y los dos van a fallar, solo que en direcciones distintas y con distinta reputación.

De modo que el criterio hay que generalizarlo: desconfiar de cualquier conclusión cuyo atractivo pueda rastrear hacia algo que no sea la evidencia — y ahí entra, en primer lugar, el atractivo de ser el que no se deja engañar. Este ensayo entero es un ejemplo del riesgo: la lectura dura es la que suena a mí, y sonar a uno mismo es la peor razón posible para sostener una tesis.

Hay además un caso que la formulación original directamente no admite: a veces una conclusión consuela porque es verdadera y la situación es mejor de lo que se temía. Eso pasa. Descartarla por agradable no es rigor, es superstición con vocabulario técnico.

Entender no es creer, y vale la pena decir exactamente en qué.

De las cinco cláusulas, esta es la que no tocaría, y quiero ser preciso sobre por qué funciona, porque dicha así suena a eslogan y no lo es.

Entender es tener un modelo que puedo correr hacia adelante. Genera predicciones sobre casos que todavía no vi; dice, sin que se lo pida, qué tendría que ocurrir para que fuera falso; y se puede entregar a otra persona, que al ejecutarlo obtiene la misma salida. Es transportable y es auditable, y las dos propiedades vienen de lo mismo: hay una derivación, no solo un veredicto.

Creer es tener un token guardado. Produce el veredicto sin producir la derivación. No se puede correr hacia adelante, porque no hay nada que correr; ante un caso nuevo, lo único que puede hacer es repetir el veredicto, y cuando el caso nuevo no encaja, la única jugada disponible es subir el volumen.

La prueba práctica de cuál de las dos cosas tengo es una sola pregunta, y se responde en diez segundos: ¿puedo decir qué predice esto en un caso que no vi? Si sí, entiendo. Si solo puedo repetir la conclusión, creo.

Y el añadido honesto, que la formulación original omite y que su ausencia vuelve el objetivo inalcanzable: la mayor parte de lo que sostengo es creencia, no comprensión, y tiene que serlo. Ningún sistema finito puede derivar todo lo que usa. Confío en la epidemiología sin haber corrido los estudios, en la metalurgia del puente que cruzo sin haber visto los ensayos, en la criptografía que me protege sin haber leído las demostraciones completas. Vivo, como todo el mundo, sobre conclusiones ajenas, y esa dependencia no es una falla de carácter: es la condición de posibilidad de saber algo en una vida.

Entonces «entender, no creer» no puede ser un programa de sustitución total, porque la sustitución total no está disponible. Es un programa de contabilidad: saber cuál de las dos columnas es cuál, y mantener en la columna que se puede correr hacia adelante aquello de lo que cuelga el resto. Lo que carga peso, derivado. Lo periférico, prestado y etiquetado como prestado.

Una última.

La posición que queda es incómoda, y lo es por una razón concreta: no ofrece un método que proteja. Semmelweis tenía la demostración y no le sirvió. Los expertos de Tetlock tenían la claridad y les empeoró el rendimiento. El escéptico tiene la duda y no le entra información nueva. Ninguna de las tres posiciones —probar, entender, dudar— funciona como salvaguarda, porque las tres describen un estado, y ningún estado protege.

Lo que sí queda es más pobre y más útil: una práctica de mantenimiento. Etiquetar la confianza en vez de afirmar en plano. Ordenar lo que sé por lo que carga peso y no por lo que me resulta interesante. Y sostener una política de invalidación que se pueda demostrar con fechas, porque una política que nunca se ejecutó no es una política, es una descripción favorable de uno mismo.

El mantenimiento tiene mala prensa. No hay épica en desalojar una entrada del caché, no se cuenta bien en una conversación, y a diferencia de la certeza no compra ninguna autoridad. Es, exactamente, la parte del trabajo que nadie ve y que decide si el resto sirve.

No sé si entiendo bien todo esto; en varios tramos estoy corriendo modelos que no derivé. Lo que sí puedo dar es la fecha de la última vez que saqué algo central del caché, y lo que me costó. Por ahora es la única evidencia que acepto de mí mismo de que el mecanismo sigue encendido.

Semmelweis, cuando finalmente le dieron la razón, llevaba veinte años muerto. Eso no dice nada sobre su método. Dice todo sobre el nuestro.