ID3 (Dichotomiser iterativo 3) es un algoritmo usado para generar un árbol de decisión .
El algoritmo se basa en la maquinilla de afeitar de Occam: prefiere árboles de decisión más pequeños (teorías más simples) sobre las más grandes. Sin embargo, no produce siempre el árbol más pequeño, y es por lo tanto un heurístico. La maquinilla de afeitar de Occam se formaliza usar el concepto de la entropía de información :
El algoritmo ID3 puede ser resumido como sigue:
toma todas las cualidades inusitadas y cuenta su entropía referente a
Una explicación de la puesta en práctica de ID3 se puede encontrar en el algoritmo C4.5, que es una versión extendida de ID3.
Algoritmo
El algoritmo real es como sigue: (Ejemplos, Target_Attribute, cualidades)
ID3 Crear un nodo de raíz para el árbol
Si todos los ejemplos son positivos, volver la raíz del árbol del solo-nodo, con la etiqueta = +.
Si todos los ejemplos son negativos, volver la raíz del árbol del solo-nodo, con la etiqueta = -.
Si el número de cualidades que predicen es vacío, después volver la raíz del árbol del solo nodo, con la etiqueta = la mayoría del valor común de la cualidad de la blanco en los ejemplos.
Si no comenzar
Cualidad del árbol de decisión para la raíz = el A.
Para cada valor posible, , de A, Agregar una nueva rama de árbol debajo de la raíz, correspondiendo a la prueba A = .
Dejar los ejemplos (), ser el subconjunto de ejemplos que tengan el valor para A
Si los ejemplos () son vacíos Entonces debajo de esta nueva rama agregar un nodo de hoja con la etiqueta = la mayoría del valor de blanco común en los ejemplos
Debajo de esta nueva rama agregar la sub-estructura ID3 (ejemplos (), Target_Attribute, cualidades - {A})
Raíz de vuelta
.
| Random links: | Lagos miami, la Florida | la armada del HMS (D14) | Grupo 47 | Jamshoro |