小训练集的多标签文本分类

我将简短的客户反馈消息分为 10 个类别。这些消息的词汇量相当有限，但仍然足够广泛，需要机器学习方法。大多数类别都由 2-3 个带有变化的显着表达方式表示（例如“新帐户”、“开设帐户”等）。

训练集非常小，大约有 500 条消息用于训练和测试（每个类别 50 条）。我正在尝试 BERT，但它似乎必然会过拟合如此小的训练数据集。对于这种情况，您会推荐哪些模型方法？