Glosario de IA
Nivel de esfuerzo (effort)
Ajuste que indica a un modelo de razonamiento cuánto pensar: más esfuerzo da mejores respuestas en problemas difíciles, pero es más lento y caro.
Los modelos de razonamiento pueden gastar más o menos tokens pensando. En lugar de un presupuesto fijo, muchas API ofrecen ya niveles como bajo, medio y alto, y el modelo adapta cuánto razona. Anthropic, por ejemplo, usa el nivel medio por defecto en Opus 5.5 y el alto en Fable 5.1.
Empieza con el valor por defecto. Bájalo en tareas sencillas y de mucho volumen; súbelo solo donde tus pruebas muestren que ayuda.
Ejemplo: Para clasificar 10.000 correos usas esfuerzo bajo: la tarea es sencilla y el modelo responde rápido y barato. Para revisar un contrato complejo lo subes a alto y aceptas esperar más.
En la práctica
- Compara los resultados de varios niveles con unos cuantos casos reales antes de fijar uno.
- En tareas sencillas, más esfuerzo no siempre es mejor: puede tardar más sin mejorar nada.
- Puedes usar un nivel distinto en cada petición según lo que pidas.
Los cambios de nivel por defecto de Opus 5.5 salen en la noticia de Opus 5.5 y Sonnet 5.5.