Dale permiso a Claude para decir «no lo sé»: las técnicas documentadas por Anthropic contra las alucinaciones, con el prompt exacto para código

El problema no desaparece, pero se puede acotar

Incluso los modelos más avanzados pueden generar texto que suena convincente y es, sencillamente, falso: un dato inventado, una cita que no existe, una conclusión que no se sostiene en el documento que se le dio. Anthropic llama a esto, sin rodeos, «alucinación», y en su documentación de prompting ofrece un conjunto de técnicas concretas para reducirlo, organizadas en dos niveles: estrategias básicas que casi cualquier prompt puede incorporar, y técnicas avanzadas pensadas para los casos donde el coste de un error es alto.

Lo básico: dar permiso para no saber, y anclar la respuesta al texto real

La primera estrategia que documenta Anthropic es, a la vez, la más simple y la más ignorada: dar permiso explícito a Claude para admitir que no sabe algo. Sin esa instrucción, un modelo tiende a rellenar un hueco de información con lo más plausible, en lugar de señalar el hueco; con ella, basta con añadir una frase del tipo «si no tienes información suficiente para responder con confianza, dilo explícitamente en lugar de adivinar» para que la tasa de datos inventados baje de forma notable. La segunda es la de anclar la respuesta con citas textuales: en tareas sobre documentos largos, de más de 20.000 tokens, pedirle a Claude que extraiga primero las frases exactas del texto en las que se va a apoyar, antes de redactar su respuesta, ancla esa respuesta en el texto real en lugar de dejar que dependa de lo que el modelo recuerda haber leído. La tercera es hacer la respuesta auditable pidiendo que cite la fuente de cada afirmación, y que verifique después cada una de esas afirmaciones localizando la cita que la respalda.

El prompt que Anthropic reserva específicamente para agentes de codificación

Aquí está la parte más específica, y la que menos circula fuera de la documentación técnica para desarrolladores. La guía de mejores prácticas de prompting de Anthropic dedica un apartado entero a minimizar las alucinaciones en sistemas agénticos, con una instrucción pensada para cuando Claude trabaja directamente sobre una base de código: nunca especular sobre código que no se ha abierto, leer siempre el archivo referenciado antes de responder sobre él, investigar antes de afirmar nada sobre la base de código y no hacer ninguna afirmación sobre el código sin haberlo comprobado primero, salvo certeza absoluta. Es una instrucción pensada para un problema muy concreto del trabajo con agentes de codificación: un modelo que razona sobre cómo cree que funciona un archivo que nunca ha llegado a leer, en lugar de comprobarlo, y construye una respuesta entera sobre esa suposición. Incluirla de forma explícita en el system prompt o en el archivo de instrucciones de un agente de codificación —o en el propio CLAUDE.md de un proyecto— refuerza un comportamiento que Anthropic dice que sus modelos más recientes ya tienden a seguir por defecto, pero que conviene no dar por garantizado sin reforzarlo.

Las técnicas avanzadas, para cuando el coste de un error es alto

Para decisiones de mayor riesgo, Anthropic documenta tres técnicas adicionales. La verificación mediante cadena de pensamiento pide a Claude que explique su razonamiento paso a paso antes de dar la respuesta final, lo que a menudo revela una suposición equivocada antes de que llegue a la conclusión. La verificación «best-of-N» consiste en lanzar el mismo prompt varias veces y comparar las respuestas: si coinciden, hay más confianza en el resultado; si varían de forma significativa entre sí, esa inconsistencia es en sí misma una señal de alerta. El refinamiento iterativo usa la propia respuesta de Claude como entrada de una pregunta de seguimiento, pidiéndole que verifique o amplíe lo que acaba de afirmar, lo que puede detectar y corregir una inconsistencia que pasó desapercibida en la primera pasada. Hay además una técnica de restricción de conocimiento externo, pensada para tareas sobre documentos concretos: instruir explícitamente a Claude para que use solo la información de los documentos proporcionados y no su conocimiento general, evitando que mezcle lo que dice el documento con lo que el modelo ya «sabe» del tema por su entrenamiento.

El matiz que Anthropic no esconde

Pocas veces una documentación de producto es tan directa sobre los límites de su propia recomendación: Anthropic cierra esta guía advirtiendo explícitamente de que, aunque estas técnicas reducen de forma significativa las alucinaciones, no las eliminan por completo. Es un recordatorio útil frente a la tentación de tratar cualquiera de estas técnicas como una garantía definitiva: siguen siendo mitigaciones, no una solución cerrada, y el nivel de verificación humana que se aplique después debería ser proporcional a lo que cuesta un error en cada caso concreto. La verificación best-of-N, en particular, multiplica el coste por el número de repeticiones, así que conviene reservarla para decisiones donde ese gasto adicional se justifica, no aplicarla de forma indiscriminada a cualquier prompt.

Por qué importa hoy

Para cualquier flujo de trabajo donde una respuesta inventada tenga consecuencias reales —un informe que alguien va a firmar, un agente que modifica código en producción, un resumen legal o financiero—, añadir estas técnicas al prompt es un cambio de minutos con un efecto medible. El ejercicio práctico de hoy es revisar el prompt o el system prompt de cualquier agente que ya esté en producción y comprobar si incluye, como mínimo, el permiso explícito para decir «no lo sé» y, si se trata de un agente de codificación, la instrucción de leer antes de afirmar.