Universidad La Salle Facultad de Ingeniería Ingeniería en Cibernética y Sistemas Computacionales “Reconocimiento de Patrones” Andrade Hernández José Alejandro Díaz Arcos César Eduardo Hernández Hernández Karla Paola Peña Butrón Jorge Rodolfo Solís Magallanes Alan Francisco Contenido Objetivo.......................................................................................................................................................... 3 Definiciones y Conceptos Básicos................................................................................................ 3 Patrones.................................................................................................................................................... 3 Reconocimiento o Clasificación ................................................................................................. 3 Clase ........................................................................................................................................................... 4 Clase de Rechazo .............................................................................................................................. 4 Extractor de Características......................................................................................................... 4 Clasificador ............................................................................................................................................. 4 Falso rechazo (falso negativo) y falsa aceptación (falso positivo) ................... 4 Antecedentes y Desarrollo Histórico .......................................................................................... 4 Fundamento Matemático..................................................................................................................... 5 Reconocimiento mediante funciones discriminantes .................................................... 5 Elementos ................................................................................................................................................ 5 Aprendizaje ............................................................................................................................................. 6 Técnicas ........................................................................................................................................................ 6 Adaptación (Pattern Matching) ................................................................................................... 6 Clasificadores estadísticamente óptimos ............................................................................. 6 Redes Neuronales............................................................................................................................... 6 Estado del Arte ........................................................................................................................................ 7 Desarrollos Actuales .............................................................................................................................. 8 En el mundo .......................................................................................................................................... 8 Ejemplo ........................................................................................................................................................... 9 Reconocimiento de Caracteres por medio de la técnica “Clasificador de Media Distancia”.................................................................................................................................. 9 Bibliografía ................................................................................................................................................ 12 Cuestionario ............................................................................................................................................. 12 Objetivo Conocer el proceso, métodos y aplicaciones del reconocimiento de patrones. Así como también, los problemas que se pueden resolver con ésta disciplina. Definiciones y Conceptos Básicos El Reconocimiento multidisciplinario de cuyo Patrones objetivo es de una estudio disciplina de son procesos los carácter de identificación, caracterización, clasificación y pronóstico sobre objetos, físicos o abstractos con el propósito de extraer información que permita establecer propiedades de o entre conjuntos de dichos objetos, así como las metodologías y técnicas relacionadas con dichos procesos. Patrones Tras los procesos descripción, (posiblemente cada de segmentación, objeto ordenada y queda extracción representado estructurada) de de por características una descriptores, y colección denominada patrón. En los problemas de reconocimiento, cada patrón se supone perteneciente a una categoría o clase. El sistema de reconocimiento debe asignar cada objeto (de interés) a su categoría. Reconocimiento o Clasificación Proceso en el cual se asigna un alias (que representa una clase) a un patrón concreto. Clase Conjunto de entidades que comparten alguna característica que las diferencia de otras. Clase de Rechazo Conjunto de entidades que no se pueden etiquetar como ninguna de las clases del problema. Extractor de Características Subsistema que extrae información relevante para la clasificación a partir de las entidades cuantificables. Clasificador Subsistema que utiliza un vector de características de la entidad cuantificable y lo asigna a una de N clases. Falso rechazo (falso negativo) y falsa aceptación (falso positivo) Para problemas de 2 clases estas definiciones reflejan la importancia de una decisión contra la opuesta. El sistema de clasificación se puede “sintonizar” para que trabaje ponderando un tipo de error sobre el otro. Antecedentes y Desarrollo Histórico Es en los años 50 cuando se logra realizar un sistema que tuvo cierto éxito, se llamó el Perceptrón de Rossenblatt. Éste era un sistema visual de reconocimiento de patrones en el cual se asociaron esfuerzos para que se pudieran resolver una gama amplia de problemas, pero estas energías se diluyeron enseguida. En 1966, el reconocimiento de patrones se convirtió en un objeto de estudio más serio gracias al trabajo de Zhuravliov que habla de la Teoría de Testores y el Reconocimiento de Patrones. En 1972, en Washington, se lleva a cabo la primera conferencia sobre reconocimiento de patrones. En 1978, se funda la IAPR (International Association for Pattern Recognition). En 1980, el reconocimiento de patrones llega a México a través de maestros cubanos. Fundamento Matemático Reconocimiento mediante funciones discriminantes Es una técnica estadística multivariante cuya finalidad es analizar si existen diferencias significativas entre grupos de objetos respecto a un conjunto de variables medidas sobre los mismos para, en el caso de que existan, explicar en qué sentido se dan y proporcionar procedimientos de clasificación sistemática de nuevas observaciones de origen desconocido en uno de los grupos analizados. Elementos Función Discriminante, d(x): Mide la relevancia de la clase c para el patrón x. Región de Decisión, R: El conjunto de todos los puntos del espacio que el reconocedor asigna a la clase c. Frontera de Decisión: Separa regiones de decisión. Decisor: Típicamente (aunque no siempre), seleccionan la clase de mayor (o menor) valor de la función discriminante d(x). Aprendizaje Conjunto de entrenamiento: Conjunto de patrones etiquetados (con un alias). {x(k), c(k), k = 1, … , k} Algoritmo de entrenamiento: Es un conjunto de reglas de ajuste de los parámetros de las funciones discriminantes di(x,wi). Conjunto de prueba (test): - Conjunto de patrones etiquetados NO utilizados durante el entrenamiento. - Sirven para evaluar el rendimiento del clasificador. - Generalización: capacidad para clasificar correctamente patrones no utilizados durante el entrenamiento. Técnicas Adaptación (Pattern Matching) Representan cada clase mediante un patrón prototipo. - Clasificador de mínima distancia. - Adaptación por correlación. Clasificadores estadísticamente óptimos Se fundamentan en la Teoría de la Decisión Estadística. - Clasificador bayesiano para clases gausianas. Redes Neuronales Se fundamentan en la teoría del aprendizaje estadístico. - Perceptrón para dos clases. - Perceptrón multicapa. Estado del Arte Refiriéndose a la definición del reconocimiento de patrones, los objetos físicos pueden ser espaciales como: caracteres, imágenes, entre otros y temporales como: formas de onda (voz), series, entre otros y los abstractos como: razonamiento, soluciones a problemas, etc. Así tenemos, por ejemplo, patrones visuales basados en imágenes aéreas o satelitales, de problemas de clasificación y diagnóstico en algunos campos (como la medicina o la balística). También se puede aplicar a problemas relacionados con el campo del control inteligente, en el cual los sistemas complejos neuronales suministran la capacidad de aprendizaje y la lógica borrosa permite la extracción de las reglas de clasificación o diagnóstico. A través del tiempo el Reconocimiento de Patrones ha ido evolucionando y tomando distintos nombres como Machine Learning (Aprendizaje Automático) o el más reciente como Data Mining (Minería de Datos) o Knowledge Discovery of Data (KDD, Descubimiento de Conocimiento en bases de datos) a medida que se han ido incorporando algunos otros métodos y/o técnicas al reconocimiento de patrones Desarrollos Actuales En el mundo España: Método para identificar el sexo de una persona con una imagen de 25x25 pixeles. Un equipo español del Grupo de Inteligencia Artificial con sede en la Universidad Politécnica de Madrid, ha desarrollado un sistema que puede analizar una señal de vídeo en tiempo real y calcula el género de los rostros representados en las imágenes. El dispositivo consiste en una cámara de vídeo que mediante un detector facial captura imágenes recortadas de 25×25 píxeles. Después se aplica una máscara a la imagen para eliminar el fondo y se pasa a un clasificador que determina el sexo de la persona. Lo interesante es de algoritmo, es que solo utiliza 625 píxeles para determinar el sexo una vez que identifica el rostro. Para ello emplea el “Análisis Discriminante Lineal”, técnica de reconocimiento de patrones, que si una se usa vieja correctamente resulta tan buena como las modernas máquinas de vectores de soporte. Algunos rostros son difíciles de clasificar, pero el grupo de investigación está trabajando para ampliar el algoritmo y reconocer expresiones faciales. Este sistema serviría para la medición de audiencias de televisión o publicidad, así como la realización de estudios de mercado en los centros comerciales, tiendas, bancos o cualquier otro negocio donde se puedan utilizar cámaras para contar personas y obtener información demográfica. Ejemplo Reconocimiento de Caracteres por medio de la técnica “Clasificador de Media Distancia” Clases: Ck: {A,B,…a,b,…,0,1,2,…a,b,…a,b,…a,b,…a,b,…a,b,…} Clase de rechazo: Cr:{!,”,$,%,&,/,(,),=,?,¿,~…} Extractor de características: El reconocedor de caracteres asigna el vector “v” a la clase que más se “parece”. Medidas de Similitud Distancia Euclidea Distancia de Hamming Distancia de Mahalanobis Correlación cruzada Ventajas del Clasificador de Mínima Distancia Simplicidad Facilidad de Ajuste Inconvenientes Sólo funciona cuando las clases forman nubes poco dispersas y bien separadas - Ejemplo: fuente de caracteres E-13B de la American Bankers Association, especialmente diseñada para facilitar el reconocimiento automático. - La signatura refleja la derivada de la cantidad de negro en dirección vertical, al mover un scanner de izquierda a derecha - El muestreo en lo puntos de la cuadrícula proporciona información con suficiente capacidad discriminante. Bibliografía http://www.comunidad.cic.ipn.mx/sitioCIC/images/sources/cic/tesis/A040212 .pdf http://ciberconta.unizar.es/leccion/discri/inicio.html http://www.gts.tsc.uvigo.es/pi/Reconocimiento.pdf http://ccc.inaoep.mx/~ariel/recpat.pdf http://lindagaxiola.blogspot.com/2010/12/reconocimiento-de-patrones.html Cuestionario 1. ¿Qué es un patrón? a) Encargado de manipular a sus empleados b) Vector que almacena las características propias del objeto analizado. c) Conjunto de características almacenadas en un objeto llamado Clase. d) Elección de un objeto a partir de la segmentación de una imagen. 2. ¿Qué es una clase? a) Conjunto de características almacenadas en un vector llamado clase. b) Elección de un objeto a partir de una imagen dada en la entrada del sistema de reconocimiento. c) Conjunto de entidades que comparten alguna característica que las diferencia de otras. d) Es la base del conocimiento con el cual se eligen los objetos parecidos. 3. ¿Qué es clasificación? a) Proceso en el cual se asigna un alias (que representa una clase) a un patrón concreto. b) Separar los objetos que se parecen entre sí. c) Ordena las características de un patrón para hacerlo semejante a otro patrón. d) Elegir un conjunto de patrones con características similares. 4. ¿Qué es Pattern Matching? a) Representa cada clase mediante un patrón prototipo. b) Buscar similitudes entre patrones. c) Agrupar las clases que tienen características parecidas. d) Buscar sólo una coincidencia de entre un conjunto de patrones. 5. ¿Cuáles son las técnicas que identifican a las Redes Neuronales? a) Clasificador de mínima distancia y Perceptrón multicapa b) Clasificador bayesiano para clases gausianas y Perceptrón para dos clases. c) Adaptación por Correlación y Clasificador de mínima distancia. d) Perceptrón para dos clases y Perceptrón multicapa. 6. ¿A qué se refiere la Clase de Rechazo? a) Conjunto de entidades que no se pueden etiquetar como ninguna de las clases del problema. b) Clase que no tiene alguna característica entre ningún patrón c) Es una clase que tiene demasiadas coincidencias entre las características de varios patrones, por lo tanto, se rechazan porque no serían una clase medible d) Clase que define el análisis de otras clases. 7. ¿Cuáles son los conceptos básicos del reconocimiento de patrones? a) Patrones, Reconocimiento o Clasificación, Clase, Clase de Rechazo, Extractor de Características, Clasificador, Falso rechazo y Falsa Aceptación b) Adaptación, Clasificadores estadísticamente óptimos, Redes Neuronales c) Función Discriminante, Región de Decisión, Frontera de Decisión, Decisor. d) Ninguna de las anteriores 8.- ¿Qué función realiza el extractor de características? a) Conjunto de entidades que no se pueden etiquetar como ninguna de las clases del problema. b) Subsistema que extrae información relevante para la clasificación a partir de las entidades cuantificables. c) Proceso en el cual se asigna un alias (que representa una clase) a un patrón concreto. d) Para problemas de 2 clases estas definiciones reflejan la importancia de una decisión contra la opuesta. El sistema de clasificación se puede “sintonizar” para que trabaje ponderando un tipo de error sobre el otro. 9. ¿Cuál es el objetivo del Reconocimiento de Patrones? a) Análisis sobre objetos, físicos o abstractos con el propósito de extraer información que permita agrupar las características en vectores b) Objetivo de estudio son los procesos de identificación, caracterización, clasificación y pronóstico sobre objetos, físicos o abstractos con el propósito de extraer información que permita establecer propiedades de o entre conjuntos de dichos objetos, así como las metodologías y técnicas relacionadas con dichos procesos. c) Objetivo de estudio son los procesos de recepción, procesamiento, agrupación y reconocimiento sobre objetos, físicos o abstractos con el propósito de extraer información que permita establecer propiedades de o entre conjuntos de dichos objetos, así como las metodologías y técnicas relacionadas con dichos procesos d) Analizar objetos para saber a qué clase pertenecen. 10. ¿Qué es el reconocimiento mediante funciones discriminantes? a) Utilizar ecuaciones diferenciales para generar un función discriminante y así obtener el patrón correspondiente a un conjunto de objetos. b) Es una técnica estadística multivariante cuya finalidad es analizar si existen diferencias significativas entre grupos de objetos respecto a un conjunto de variables medidas sobre los mismos para, en el caso de que existan, explicar en qué sentido se dan y proporcionar procedimientos de clasificación sistemática de nuevas observaciones de origen desconocido en uno de los grupos analizados. c) Es una técnica de métodos numéricos multivariante cuya finalidad es analizar si existen diferencias significativas entre grupos de objetos respecto a un conjunto de variables medidas sobre los mismos para, en el caso de que existan, explicar en qué sentido se dan y proporcionar procedimientos de clasificación sistemática de nuevas observaciones de origen desconocido en uno de los grupos analizados. d) Es una técnica de la Inteligencia Artificial multivariante cuya finalidad es analizar si existen diferencias significativas entre grupos de objetos respecto a un conjunto de variables medidas sobre los mismos para, en el caso de que existan, explicar en qué sentido se dan y proporcionar procedimientos de clasificación sistemática de nuevas observaciones de origen desconocido en uno de los grupos analizados.