Набор задач
версия 1.0.0Тексты запросов опубликованы BenchRU; эталоны закрыты.
Юридический сервис целиком, с его поиском по базе и интерфейсом, на 15 типовых запросах; оценка N/L/C по шкале 0–3
Отличие от оригинала: Сервисы целиком, через веб-интерфейс под обычной учётной записью. 15 задач, один прогон, оценка одной моделью-судьёй без второй проверки.
| Подробности запуска | № | Система | Качество | Цена / 1 млн | Покрытие |
|---|---|---|---|---|---|
Профиль оценки: Сервис через веб-интерфейсЗадач в запуске: 15Уровень доверия: От сообществаОпубликован: 12 ноября 2026 г.Протокол запуска → | |||||
Пятнадцать типовых запросов к юридическим ИИ-сервисам: вопросы о сроках и санкциях, составление претензии, проверка договора, поиск позиции Верховного суда, свежая норма, вопрос о конкретной статье кодекса и проверка контрагента по ИНН. Измеряется не модель, а сервис в том виде, в каком его получает пользователь: обычная учётная запись, тариф, режим и встроенный поиск по базе входят в условия прогона.
| Метрика | Измерение | Вес | Диапазон | Лучше |
|---|---|---|---|---|
| N — точность нормы, балл 0–3 | Качество | 0,3333 | 0,0…3,0 | больше |
| L — проверяемая ссылка, балл 0–3 | Качество | 0,3333 | 0,0…3,0 | больше |
| C — полнота, балл 0–3 | Качество |
| 1 |
Стриж модель по умолчанию (DeepSeek V4.1 Flash) |
| 94,1 |
| — |
| 100 % |
| 2 | ПравоКонсультант Консультация | 74,8 | — | 100 % | |
Профиль оценки: Сервис через веб-интерфейсЗадач в запуске: 15Уровень доверия: От сообществаОпубликован: 12 ноября 2026 г.Протокол запуска → | |||||
| 3 | LEGIUM.PRO Консультант | 34,8 | — | 100 % | |
Профиль оценки: Сервис через веб-интерфейсЗадач в запуске: 15Уровень доверия: От сообществаОпубликован: 12 ноября 2026 г.Протокол запуска → | |||||
№ 1
Стриж модель по умолчанию (DeepSeek V4.1 Flash)
Качество
94,1
П 100 %
12 ноября 2026 г.
№ 2
ПравоКонсультант Консультация
Качество
74,8
П 100 %
12 ноября 2026 г.
№ 3
LEGIUM.PRO Консультант
Качество
34,8
П 100 %
12 ноября 2026 г.
| 0,3334 |
| 0,0…3,0 |
| больше |
Показаны 15 задач из публичного образца. Закрытый holdout не публикуется — известно только число задач.
Задача № 1 · свободный ответ · публичный образец
Какой срок исковой давности по взысканию долга по договору займа с указанным сроком возврата и с какого момента он считается?
Задача № 2 · свободный ответ · публичный образец
Работодатель задерживает зарплату на 20 дней. Может ли работник не выходить на работу и какую компенсацию он получит?
Задача № 3 · свободный ответ · публичный образец
Можно ли вернуть в магазин качественную куртку, которая не подошла по размеру, и в какой срок?
Задача № 4 · свободный ответ · публичный образец
Купил товар в интернет-магазине. В какой срок можно от него отказаться без объяснения причин?
Задача № 5 · свободный ответ · публичный образец
В какой срок страховщик по ОСАГО обязан выплатить возмещение и что будет, если он просрочит?
Задача № 6 · свободный ответ · публичный образец
Какое наказание за управление автомобилем в состоянии опьянения впервые?
Набор v1 от 11.11.2026: 15 задач, тексты запросов опубликованы дословно. Задача T11 — проверка учебного договора поставки, приложенного файлом .docx. Прогон: обычная учётная запись, веб-интерфейс сервиса, новая беседа на каждую задачу, один ход, без уточнений. Если сервис переспрашивает, ему отвечают «Ответь по общему правилу, без дополнительных данных». Режим и модель — по умолчанию у тарифа; тариф, режим и способ прогона (вручную или скриптом браузера) указаны в паспорте каждого прогона. Оценка каждой задачи по трём осям, 0–3. Оценки выставляет модель-судья по рубрике, одна и та же для всех сервисов: N — точность нормы: 3 — норма и содержание верны; 2 — норма верна, мелкая неточность; 1 — частично (не та часть или редакция); 0 — неверно или выдумано. L — проверяемая ссылка: 3 — ссылка открывает нужную статью или акт; 2 — назван акт или номер, проверить можно вручную; 1 — только упоминание без ссылки; 0 — ссылки нет, она битая или ведёт не туда. C — полнота: 3 — все ключевые элементы эталона; 2 — большинство; 1 — меньшинство; 0 — нет. Эталон каждой задачи сверен с действующей редакцией нормы на дату прогона. Эталоны, ключ задачи T11 и рубрики не публикуются: это закрытая часть набора. Балл прогона — среднее трёх осей с равными весами, каждая ось нормирована на 0–1. Сумма N+L+C по 15 задачам (максимум 135) пересчитывается в этот балл делением на 135.
1. Один судья. Все оценки выставлены одной моделью-судьёй по рубрике выше. Второй независимой оценки и сверки разногласий нет; уровень доверия всех строк — «От сообщества». 2. Один прогон на задачу. Повторов нет, поэтому разброс ответов сервиса не измерен. На 15 задачах разница в несколько баллов лежит в пределах случайности. 3. Ответы сервисов не публикуются. Ответы сохранены дословно, со снимками экрана. На сайт они не выносятся: у части сервисов информация из программы предназначена «для внутреннего использования», а сами ответы раскрывали бы закрытые эталоны. 4. Время ответа не публикуется. В браузере его снимали по моменту, когда текст страницы перестал меняться (погрешность около ±6 с); как метрика это число ненадёжно. 5. Сервисы меняются. Модель, база и настройки тарифа меняются без уведомления. Результат относится к дате прогона, указанной в паспорте. 6. Условия использования. Перед публикацией у каждого сервиса проверено пользовательское соглашение на запрет тестирования и публикации результатов; итог проверки записан в паспорте прогона.
Тексты запросов открыты с 12.11.2026, поэтому сервисы могут под них подстроиться. Эталоны, ключ задачи T11 и рубрики не публикуются. Следующая версия набора заменит задачи, а не дополнит их; результаты по этой версии останутся привязаны к ней.