What a Model Actually Does

La palabra «modelo» hace mucho trabajo callado, y merece la pena desarmarla, porque casi todas las discusiones sobre tecnología son en realidad discusiones sobre qué es un modelo.

Un modelo es una descripción comprimida de un patrón. Le das un gran número de ejemplos, encuentra regularidades en ellos, y lo que conserva no son los ejemplos sino un resumen lo bastante compacto para ser útil y lo bastante general para aplicarse a algo que no ha visto.

Esa última propiedad es todo el sentido, y es también todo el peligro. Un sistema que solo pudiera repetir sus ejemplos sería un archivador. Un sistema que generaliza puede responder preguntas nuevas — y puede generalizar a partir de un patrón que era cierto de los ejemplos pero no es cierto del mundo.

Por eso la pregunta «¿es preciso?» suele ser la equivocada. ¿Preciso en qué? Un modelo es preciso sobre la distribución de la que aprendió, y los fallos interesantes ocurren todos en los bordes de esa distribución: el caso inusual, la situación nueva, la población que los ejemplos representaban poco.

Así que la manera honesta de describir cualquiera de estos sistemas es condicional. Es fiable aquí, en estas condiciones, para este tipo de pregunta, y su confianza te dice cuán familiar parecía la entrada, no cuán correcta es la respuesta. Esas dos cosas se confunden con facilidad, y casi todos los errores graves cometidos con un modelo vienen de confundirlas.