НАБОР ЗАДАЧ
Знания на русском языке
Отличие от оригинала: русскоязычный оригинал · подмножество
Знания на русском языке
Набор изначально русскоязычный и запускается как есть, без перевода. Оценку ставит модель-судья строго по критериям набора; провенанс судьи (модель, версия, промпт) фиксируется на прогоне. Сколько задач вошло в прогон — указано в версии набора; пока опубликованных версий нет, чисел нет.
Прогоняется подмножество оригинала, а не весь набор: число задач указано рядом с результатом, и сравнивать наши числа с публикуемыми авторами напрямую нельзя. Приватного холдаута у адаптации нет. Набор — русская версия MMLU, поэтому наследует и её недостатки: часть вопросов спорна или устарела.
Русская версия MMLU опубликована, а английский оригинал заведомо входит в обучающие корпуса, поэтому знание может переноситься между языками. Число трактуется как оценка сверху.
Hugging Face — MERA-evaluation/MERA (конфигурация rummlu)
MERA-evaluation · mit · дата обращения 3 сентября 2026 г.