Проблема качества данных для обучения LLM

Оскар Хартман считает, что ИИ сделает интеллектуальный труд бесплатным. Весьма дискуссионная тема. По личному опыту - почти ни одна интеллектуальная задача, которую я пытался сделать с помощью ИИ - не была сделана с удовлетворительным результатом.

Механические задачи, вроде сбора данных - вроде да, делает нормально. Но что-то более сложное, или аналитическое - просто ужас. Это как посты инфлюенсеров, написанные ИИ: нравятся всем, кроме тех, кто разбирается в теме. Ведь часто пользователям кажется, что «результат нормальный», т.к. они просто не способны оценить качество выдачи ИИ.

Но ключевая проблема, которую вижу на практике - это качество данных, на которых обучаются модели. ИИ подгоняет результаты запроса под стандартные наборы наших когнитивных искажений. Подгоняет выдачу под стандартные эпистемологические ошибки. Подгоняет выдачу под наборы стандартных заблуждений о мире, о коммуникации, о контингенции отношений и т.д.

В теории, можно обучить модель более верной (на мой взгляд) эпистемологии. Но это будет только часть решения. Вторая часть - принципиальная способность или не способность модели брать начало своей архитектуры в «различии» как бите данных. А не брать бит данных как «объективную вещь».