Лёгкий способ подготовить модель к университетскому экзамену
Почитав разные источники я узнал, что иногда модель лучше обучить на школьных задачках, чем на сложных магистерских работах.
Почему? Рассмотрим на примере модели исследовательского института AllenAI:
Ребята пришли к выводу, что, обучая свою модель на уровне младшей школы, у них получалось развить ее до такого уровня, что она смогла сдать университетские экзамены по техническим специальностям.
Эта модель совсем немного уступила другой модели, которая сразу обучалась на более сложных данных уровня бакалавриата.
Как так вышло?
— Сложные тренировочные данные трудно правильно маркировать: обычно оценки за сложные экзамены ставят люди, и тут человеческий фактор очень важен. Не всегда оценка объективна и все ошибки указаны верно.
Этот "феномен" называют шумом — слишком много субъективных данных влияют на оценку.
А в "школьных" задачках достаточно просто указать верно/неверно, так как там используются линейные классификаторы.
Даже если приоритетнее производительность модели на сложных данных, может быть лучше собирать и обучать ее на простых данных, поскольку сложные обычно более шумные и дорогие в сборе.
Получается, обучаем модели с уровня начальной школы!)
Подписывайтесь на наш VC и другие ресурсы, чтобы быть в курсе важных и интересных новостей про AI:
Лёгкий способ подготовить модель к университетскому экзаменуСамый простой способ это хорошей модели нужно пару часов по общаться с профессором.