Introducción al Procesamiento de Lenguaje Natural - Educación Continua de la Pontificia Universidad Javeriana
Curso
Introducción al Procesamiento de Lenguaje Natural
SOMOS
EDUCACIÓN
CONTINUA
El procesamiento de lenguaje natural es un campo de la inteligencia artificial que actualmente se ha puesto de moda gracias a los modelos grandes de lenguaje, específicamente modelos como chatGPT. Se ha visto que estos modelos tienen el potencial de transformar muchos trabajos y generar un cambio en la forma como vivimos. Sin embargo, existen muchos mitos alrededor de estos modelos. Con este curso, se busca entregar una base sólida sobre el cómo trabajan estos modelos y el alcance que tienen. Al finalizar se realizará un hackathon donde se podrán a prueba los conocimientos adquiridos por los participantes durante este curso de verano.
Objetivos
Introducir los conceptos básicos del procesamiento de lenguaje natural con una base teórica fuerte, confrontando con ejercicios prácticos.
-
Comprender los principios básicos de los modelos de procesamiento de lenguaje natural.
-
Entender lo que son los modelos de atención y los Transformers.
-
Conocer el alcance de los LLMs, sus ventajas y sus desventajas.
-
Introducir conceptos generales sobre sistemas RGA.
Dirigido a
-
Educación Continua: Ingenieros o profesionales que quieran introducirse en temas propios del procesamiento de lenguaje natural.
-
Estudiantes de Pre y Post Grado de la Pontificia Universidad Javeriana y de otras instituciones Universitarias (NO SE DARAN CREDITOS)
-
Público General con interés en LLMs.
Metodología
El curso de verano se realiza con una metodología teórico-práctica las jornadas se dividirán en clases magistrales durante las mañanas y talleres prácticos en la jornada de la tarde. En las secciones se abordarán:
-
Ejemplos de aplicación reales.
-
Exposición de la teoría fundamental.
-
Talleres guiados aplicados para solucionar de forma individual y/o grupal. Aplicaciones de conceptos a proyectos o casos de estudio.
Contenidos académicos
Temarios generales trabajados por materia:
Conferencias: Prof. PhD Santiago Alférez; Prof. PhD Alexander Caicedo
-
Introducción al procesamiento de lenguaje natural. (lunes-mañana)
-
Desarrollo histórico, aproximaciones clásicas y tendencias actuales.
-
Preprocesamiento de texto (lunes-mañana)
-
Técnicas de procesamiento de texto y tokenización.
-
Embeddings de palabras.
-
Procesamiento de texto usando embeddings
-
Taller sobre preprocesamiento de texto y embeddings (lunes-tarde)
-
Redes Neuronales clásicas para NLP (Martes-mañana)
-
Redes neuronales.
-
Redes recurrentes.
-
Aplicaciones
-
Taller de Redes Neuronales clásicas para NLP (Martes-tarde)
-
Modelos de Atención y Transformers (miércoles-mañana)
-
Modelos de Lenguaje y Self-suppervised learning.
-
Atención
-
Transformers
-
Prompt Engineering
-
Aplicaciones: LLMs, ChatGPT, BERT, ….
-
Taller sobre Modelos de Atención y Transformers (miércoles-tarde)
-
Evaluación de modelos de lenguaje (jueves-mañana)
-
Metricas de Evalaucion de modelos.
-
Consideraciones a tener en cuenta
-
Taller sobre evaluación de modelos de lenguaje (jueves-tarde)
-
Hackathon (Todo el día, las últimas dos horas jornada de evaluación y selección de ganadores de la Hackathon)
Conferencistas
Edwin Santiago Alférez Baquero
Experienced Postdoctoral Researcher with a demonstrated history of working in the research industry. Skilled in Research, Machine learning, Deep learning, Computer Vision, Natural Language Processing and Prompt Engineering. Strong research professional graduated from Universitat Politècnica de Catalunya.
Alexander Caicedo Dorado
I am an engineer with a genuine interest in artificial intelligence, machine learning and data mining. My main focus lies in the development of advance machine learning techniques and its applications. Recently, I have been working on the development of algorithms to properly initialize the parameters, and hyper-parameters, for different machine learning models in order to minimize their training time. I am also interested in the development of algorithms that can retrieve the interpretability to data driven models, here interpretability can be understood as identifying the functional nonlinear relationship between each input variable, as well as their interaction effects, and the output. In addition, I have interest in the development of collaborations with the industrial and public sector in the form of consultancy in topics related to applications of Artificial Intelligence, specifically in Natural Language Processing, Computer Vision, applications in medicine and Fintech.
4% por pronto pago: Este descuento es el único acumulable y aplica si pago es realizado un mes antes de iniciar el programa.
10% por ser egresado o estudiante (activo) en pregrado o posgrado de la Universidad Javeriana o hijos (as) egresados.
10% por afiliación a la caja de compensación Cafam.
15% para grupos de 3 a 5 participantes en el mismo programa.
20% para grupos de 6 participantes en el mismo programa y en el tercer diplomado realizado consecutivamente.
Apertura y fecha de inicio: la apertura y la fecha de inicio del
programa dependerá del mínimo número de inscritos,
establecido por la Universidad.
Certificación: se otorgará certificación a quien haya
cumplido como mínimo con el 80% de las actividades
programadas en el aula.
Forma de pago: efectivo, cheque de gerencia, tarjeta de
crédito (recibimos todas las tarjetas, cuenta de cobro).
Válido para Colombia:
**Art. 92 Ley 30 de 1992 - Las Instituciones de
Educación Superior no son responsables del
I.V.A.
**Numeral 6 del Art. 476 Estatuto Tributario
(ET) - Servicios excluidos del impuesto sobre
las ventas.