Please enable JavaScript.
Coggle requires JavaScript to display documents.
Mapa Mental #4 - (LLM's) - Coggle Diagram
Mapa Mental #4 - (LLM's)
Son modelos de inteligencia artificial diseñados para comprender, generar y manipular texto en lenguaje natural utilizando técnicas avanzadas de procesamiento de lenguaje natural.
Arquitectura
Componentes clave de los transformers,
- Self-Attention mechanism
- Positional encoding
- Capas de atención multi - cabeza y feed - forward
-
Entrenamiento del modelo
Datos de entrenamiento, enormes cantidades de datos de diferentes fuentes
-
Recursos computacionales, requiere grandes cantidades de poder computacional
Características
Escalabilidad, entrenados en vastas cantidades de datos textuales, permitiendo la comprensión y generación de texto en múltiples contextos
Capacidad, Puede utilizar múltiples tareas relacionados en el lenguaje natural.
Tipos de modelos
GPT (Generative pre-trained transformer), creado por OpenAI, para generación de tecto coherente, asistencia de escritura,, chatbots
BERT (Bidirectional Encoder Representation from transformers), Desarrollado por Google, para clasificación de texto y comprensión de lenguaje.
T5 (Text to text trnsfer transformer), convierte todas las tareas de NLP en un problema de traducción de texto a texto.
Aplicaciones de modelos
Generación de texto
Asistentes virtuales y chatbots
Traducción automática
Análisis de sentimientos
Resumir texto
Entre muchos otros...
Desafíos y limitaciones
Bias y Fairness, reflejan sesgos presentes en los datos
Consumo de recursos, alto consumo de energía y recursos computacionales
Seguridad y uso indebido, potencial para generar desinformación propaganda o uso indebido