What a Model Actually Does

La parola «modello» fa molto lavoro silenzioso, e vale la pena aprirla, perché quasi tutte le discussioni sulla tecnologia sono in realtà discussioni su che cosa sia un modello.

Un modello è una descrizione compressa di uno schema. Gli si dà un gran numero di esempi, vi trova delle regolarità, e quello che conserva non sono gli esempi ma una sintesi abbastanza compatta da essere utile e abbastanza generale da valere per qualcosa che non ha visto.

Quest'ultima proprietà è tutto il senso, ed è anche tutto il pericolo. Un sistema che potesse solo ripetere i propri esempi sarebbe uno schedario. Un sistema che generalizza può rispondere a domande nuove — e può generalizzare da uno schema che era vero degli esempi ma non è vero del mondo.

Ecco perché la domanda «è accurato?» è quasi sempre quella sbagliata. Accurato su cosa? Un modello è accurato sulla distribuzione da cui ha imparato, e i fallimenti interessanti avvengono tutti ai margini di quella distribuzione: il caso insolito, la situazione nuova, la popolazione che gli esempi rappresentavano poco.

Il modo onesto di descrivere uno di questi sistemi è dunque condizionale. È affidabile qui, in queste condizioni, per questo tipo di domanda, e la sua sicurezza vi dice quanto l'input sembrasse familiare, non quanto la risposta sia giusta. Queste due cose si confondono facilmente, e quasi ogni errore grave commesso con un modello nasce dal confonderle.