Qué son los benchmarks
Un benchmark es un conjunto de datos o una evaluación diseñada para medir el rendimiento de un modelo en una tarea concreta. Si ejecutamos varios modelos con el mismo conjunto de datos, podemos medir sus fortalezas y debilidades relativas. Algunos ejemplos comunes:- 🧠MMLU (Massive Multitask Language Understanding) — evalúa los conocimientos generales y el razonamiento.
- 🔢 GSM8K — evalúa el razonamiento matemático y la resolución de problemas.
- 💬 HellaSwag — evalúa el sentido común y la comprensión contextual.
- 🧮 ARC-Challenge — mide el razonamiento cientÃfico y la lógica.
- 💡 HumanEval — evalúa las habilidades de programación y generación de código.
Cómo gestiona Phaseo los benchmarks
Phaseo recopila datos de benchmarks de varias fuentes públicas e informes oficiales, y después los estandariza en un formato coherente. La sección de benchmarks de cada modelo incluye:- Valor de la puntuación — suele expresarse como porcentaje o en una escala normalizada.
- Fuente del conjunto de datos — por ejemplo, MMLU, GSM8K, etc.
- Método de evaluación — indica cómo se obtuvo la puntuación (informe oficial, evaluación de terceros o contribución de la comunidad).
- Última actualización — indica cuándo se actualizaron por última vez los datos del benchmark.
Ejemplo de página de benchmark
CategorÃas de benchmarks
Los benchmarks se agrupan en categorÃas que representan la habilidad evaluada:Cómo interpretar las puntuaciones
Ten en cuenta que algunos benchmarks usan sistemas de puntuación diferentes.
Phaseo los normaliza cuando es posible para que las comparaciones sean más útiles.
Visualizar benchmarks en Phaseo
Los resultados de los benchmarks se visualizan mediante:- 📊 Gráficos de barras para comparar modelos dentro del mismo conjunto de datos.
- 📈 Gráficos de tendencias que muestran las mejoras de los modelos con el tiempo.
- 🧮 Puntuaciones agregadas para resumir el rendimiento en varios conjuntos de datos.
- Tipo de modelo (chat, código, embeddings, etc.)
- Proveedor
- Año de lanzamiento
- CategorÃa del conjunto de datos
Fuentes de datos y metodologÃa
Phaseo reúne datos de benchmarks procedentes de:- ArtÃculos de investigación e informes de modelos oficiales.
- Páginas de evaluación de proveedores (OpenAI Evals, Anthropic Reports, etc.).
- Conjuntos de datos abiertos de la comunidad (por ejemplo, tablas de clasificación de Hugging Face).
- EnvÃos directos de usuarios a través de GitHub.
Ejemplos de uso
Contribuir con datos de benchmarks
Abre una incidencia en GitHub con pruebas de resultados de benchmarks nuevos o corregidos. Cada envÃo se revisa antes de incluirlo para garantizar la coherencia y la precisión.Contribuir con datos de benchmarks
Consulta qué pruebas incluir en una incidencia de benchmarks.
Siguientes pasos
Cuando comprendas cómo funcionan los datos de benchmarks, podrás explorar los proveedores de API que permiten acceder a estos modelos mediante programación.Explorar proveedores de API
Consulta dónde se alojan los modelos, cuánto cuestan y cómo se accede a ellos.