AAAI 2025（The 39th Annual AAAI Conference on Artificial Intelligence Conference）将于2025年2月25日至3月4日在美国宾夕法尼亚州费城召开。AAAI是人工智能领域的顶级国际会议之一，涵盖的研究方向包括但不限于机器学习、自然语言处理、计算机视觉、机器人学、智能系统、规划与推理、多智能体系统等。

论文题目：Leveraging First and Zeroth-Order Gradient to Address Imbalanced Black-box Prompt Tuning via Minimax Optimization

第一作者：张浩桢（2023级必赢766net手机版）

收录会议：AAAI 2025（CCF-A类）

指导教师：顾彬、常毅

论文概述：黑盒提示调优已成为一种将大语言模型（LLM）适应于下游任务的高效范式。在实际场景中，下游任务经常涉及严重不平衡的数据分布。这种不平衡往往会损害提示性能，导致在少数类别上的性能严重下降。如何进行有效的不平衡黑盒提示调优，以减轻不平衡数据分布对提示性能的不利影响，仍然是一个重大挑战。在本文中，我们提出了处理不平衡数据的黑盒提示调优方法BPT-FZG。具体来说，BPT-FZG 将 AUC 最大化作为提示调优的目标，并将其等价地表述为一个非凸-凹鞍点问题（nonconvex-concave saddle point problem），以避免构建来自不同类别的样本对。BPT-FZG 以 AUC 损失优化了连续提示在其低维子空间中的潜在表示，并交替利用零阶和一阶梯度来更新参数。此外，我们还在常见假设条件下建立了 BPT-FZG 的理论收敛保证。实验表明BPT-FZG 在人为构建的和真实世界的不平衡数据集上都取得了较优的性能。