Мы бы рекомендовали создавать атомарные пайплайны, которые решают одну задачу и объединять их между собой. Такие пайплайны просты и понятны, не требуют документации, в них сложно совершить ошибку, но, при этом, универсальны. Их можно объединять между собой для решения разных задач.