Что такое размеченные данные?
Размеченные данные — это данные, к каждому примеру которых добавлена метка, понятная модели машинного обучения: класс объекта, граница на изображении, транскрипт аудиозаписи, тег категории текста. Метка играет роль «правильного ответа», на который модель равняется во время обучения.
Пара «пример плюс метка» называется размеченным примером или обучающим наблюдением. Тысячи и десятки тысяч таких пар складываются в размеченный датасет — именно на нём модель ищет закономерность, связывающую вход (фото, звук, текст) с ответом (класс, транскрипт, оценка). Без разметки у модели нет источника, откуда брать «правильный ответ» для сравнения.
Термин встречается в двух формах — «размеченные данные» и «размеченный датасет», и на практике их используют как синонимы. Разница в масштабе: размеченными данными называют любой объём (от одного примера до миллиона), а размеченным датасетом — уже оформленный, версионированный набор, готовый к загрузке в пайплайн обучения. Оба термина предполагают одно и то же: наличие меток, понятных модели.
Чем размеченные данные отличаются от неразмеченных?
Неразмеченные данные — это сырьё без меток: фотографии, аудиозаписи или тексты, собранные, но не размеченные для конкретной задачи. Они дешевле в сборе, но по ним модель не может учиться напрямую в обучении с учителем — ей не на чем сверять предсказание с правильным ответом.
| Критерий | Размеченные данные | Неразмеченные данные |
|---|---|---|
| Что содержат | Пример + метка (класс, граница, транскрипт) | Только сырой пример, без меток |
| Стоимость получения | Выше — требуется труд разметчиков и контроль качества | Ниже — достаточно собрать или спарсить |
| Где используются | Обучение с учителем: классификация, детекция, распознавание речи и текста | Обучение без учителя, кластеризация, предобучение (self-supervised) |
| Пример | Фото с рамкой вокруг машины и меткой класса | То же фото без рамок и меток |
| Готовность к обучению модели | Готовы сразу | Нужна доразметка или другая парадигма обучения |
На практике проекты редко на 100% состоят из одного типа: часть данных размечают полностью вручную для критичных классов, часть — предразмечают моделью и лишь проверяют, а действительно неразмеченный массив используют для предобучения или последующего дообучения.
Разница в стоимости объясняет, почему компании часто начинают с малого размеченного датасета и постепенно его расширяют, а не размечают весь накопленный архив сразу. Небольшая, но качественно размеченная выборка для пилотной модели обычно даёт больше пользы, чем огромный, но неразмеченный массив данных, который пока нечем обучать.
Какие есть примеры размеченных данных по типам?
В изображениях это фото с рамками или масками вокруг объектов и подписанным классом; в аудио — запись с построчным транскриптом и меткой спикера; в тексте — предложение с выделенными сущностями или меткой тональности; в LiDAR-сцене — облако точек с 3D-рамками вокруг объектов.
Несколько конкретных примеров размеченных данных по типам:
- Изображения. Фотография улицы, где вокруг каждого пешехода и автомобиля нарисован bounding box с меткой класса — это обучающий пример для модели детекции объектов.
- Видео. Ролик, в котором один и тот же объект помечен одинаковым идентификатором на всех кадрах, где он появляется, — так модель учится трекингу объекта во времени.
- Аудио. Запись телефонного звонка с построчным текстом и указанием, какая реплика кому принадлежит, — обучающий пример для модели транскрибации и диаризации.
- Текст. Отзыв покупателя с меткой «негативная тональность» и выделенной сущностью «долгая доставка» — обучающий пример для моделей анализа тональности и NER.
- LiDAR. Облако точек с 3D bounding box вокруг машин и пешеходов — обучающий пример для систем восприятия беспилотного транспорта.
- Медицинские снимки (DICOM). КТ или МРТ с контуром, который врач-эксперт обвёл вокруг новообразования, — обучающий пример для модели сегментации патологий.
Общее у всех примеров одно: рядом с исходными данными всегда есть явная, структурированная метка, которую модель может использовать как цель для предсказания. Формат метки отличается — рамка, маска, текст, число, — но принцип «пример плюс ожидаемый ответ» остаётся неизменным для любого типа данных.
Важно, что метка должна быть машиночитаемой, а не просто понятной человеку. Комментарий «здесь плохое качество звука» бесполезен для обучения модели, а вот структурированная метка «уровень шума: высокий» или числовая оценка разборчивости речи — уже полноценный обучающий сигнал, который можно подать в модель наравне с остальными признаками.
Как размеченные данные используются в обучении с учителем?
В обучении с учителем модель на каждом шаге сравнивает своё предсказание с меткой из размеченных данных и корректирует внутренние параметры так, чтобы ошибка уменьшалась. Чем больше качественных размеченных примеров, тем точнее модель находит закономерность и тем лучше работает на новых данных.
Размеченный датасет обычно делят на три части: обучающую выборку (на ней модель настраивает параметры), валидационную (на ней проверяют качество в процессе обучения и подбирают настройки) и тестовую (финальная, независимая проверка перед запуском модели в работу). Метки нужны для всех трёх частей — иначе невозможно ни обучить модель, ни объективно измерить её точность.
Пропорции разбиения зависят от объёма данных и задачи, но общий принцип один: тестовая выборка должна оставаться «незнакомой» модели до самого конца — иначе итоговая оценка точности окажется завышенной и не будет отражать, как модель поведёт себя на действительно новых, ещё не размеченных данных после запуска в продакшене.
Как проверить качество размеченных данных?
Качество проверяют на контрольной выборке, сверенной экспертом: считают точность (accuracy) относительно эталонных меток и согласованность между разметчиками (IAA) — насколько разные люди дают одинаковый ответ на одном и том же примере. Низкое согласие сигнализирует о нечётком гайдлайне разметки.
Дополнительно применяют выборочный аудит уже сданной партии и консенсус — когда спорные примеры размечают несколько человек и берут согласованный ответ. Эти же принципы использует команда DataMarkup при подготовке размеченных данных под ключ: гайдлайн, пилот на тестовой партии, многоуровневый контроль и отчёт по метрикам качества на выходе заказчику.
Отдельно стоит проверять баланс классов в готовом датасете: если одна метка встречается в разметке в сотни раз чаще других, модель рискует выучить именно её и хуже распознавать редкие, но важные случаи. Такой перекос выявляют ещё на этапе аудита размеченных данных — до того, как он превратится в системную ошибку уже обученной модели.
Итог простой: чем внимательнее контролируется качество на этапе разметки, тем меньше сюрпризов возникнет позже, при проверке готовой модели на реальных, ещё не размеченных данных из продакшена.