Что такое weak supervision и synthetic data: Snorkel labeling functions, distillation от LLM, GAN-generated training data?

Weak supervision заменяет ручную разметку программными labeling functions (правила, регексы, существующие модели), а Snorkel учит generative LabelModel комбинировать их с учётом точности и корреляций. Synthetic data добавляет данные через augmentation, GAN/diffusion, LLM distillation (GPT-4 → Llama 3) и programmatic synthesis. Всегда валидируй итог на real test set, иначе получишь model collapse и unsupported bias.