What a Model Actually Does

Le mot « modèle » fait beaucoup de travail discret, et il vaut la peine de le déplier, car la plupart des débats sur la technologie sont en réalité des débats sur ce qu'est un modèle.

Un modèle est une description compressée d'un motif. Vous lui donnez un grand nombre d'exemples, il y trouve des régularités, et ce qu'il garde n'est pas les exemples mais un résumé assez compact pour être utile et assez général pour s'appliquer à quelque chose qu'il n'a pas vu.

Cette dernière propriété est tout l'intérêt, et elle est aussi tout le danger. Un système qui ne pourrait que répéter ses exemples serait un classeur. Un système qui généralise peut répondre à des questions nouvelles — et peut généraliser à partir d'un motif qui était vrai des exemples mais qui n'est pas vrai du monde.

C'est pourquoi la question « est-ce exact ? » est le plus souvent la mauvaise. Exact sur quoi ? Un modèle est exact sur la distribution dont il a appris, et les défaillances intéressantes se produisent toutes aux bords de cette distribution : le cas inhabituel, la situation nouvelle, la population que les exemples sous-représentaient.

La façon honnête de décrire l'un de ces systèmes est donc conditionnelle. Il est fiable ici, dans ces conditions, pour ce type de question, et sa confiance vous dit à quel point l'entrée avait l'air familière, pas à quel point la réponse est juste. Ces deux choses sont faciles à confondre, et presque toutes les erreurs graves commises avec un modèle viennent de cette confusion.