常用的基本非线性优化算法测试函数（持续更新）
为了之后优化问题的研究，我在此留一些日后自己写算法需要的测试函数（Benchmark），有简单到可以手算的，也有相对复杂的，根据实际情况我将持续更新本文.
约束优化 ADMM 算法：对偶上升算法、ADMM 算法
为了做论文当中的优化问题，特地学了一下约束优化相关的教材之外的方法，最近才有精力研读了一下 ADMM 算法相关的内容，发现很适合目前正在做的问题. 本文章的主要内容来源于 Stephen Boyd 的 ADMM 小册子 1 .
如果你需要求解非光滑的等式约束优化问题：
$$ \begin{aligned} & \min \quad f(\boldsymbol{x}) \\ & \mathrm{s.t.} \quad \boldsymbol{Ax} = \boldsymbol{b} \end{aligned} $$
或许本文有所帮助。
【PDF】组会论文分享：CoCaBO
组会找了一篇 ICML 的贝叶斯优化相关论文，主要集中探究的主题是：对于 GP-BO ，输入数据集既有分类变量又有连续变量的时候，应该如何处理？这也是 Mixed Search Space 方向，也算是 BO 当中目前仍在解决的领域。希望自己能有朝一日也在 ICML 这种顶会上发论文。💪
多臂老虎机：随机老虎机的概念、非结构化老虎机、环境类、Bernoulli 老虎机的代码实现
本文先介绍多臂老虎机的符号规范与基本定义，将其建模为含动作集、奖励集与概率分布的三元组，说明其在推荐、广告、投资等领域的应用。接着区分非结构化与结构化老虎机，定义伪遗憾、期望遗憾与遗憾界，指出探索‑利用权衡是核心问题。文末给出相关引理证明，并提供 Bernoulli 老虎机的 Python 实现与 Follow‑The‑Leader 算法示例，通过实验说明该算法遗憾呈线性增长，为后续更优算法作了铺垫。
【PDF】多臂老虎机：随机老虎机、对抗老虎机、上下文老虎机的简单入门
本页面用于存档自己在讨论班制作的 PDF Slides ，使用 Typst 制作，由于内容涉及到众多参考文献且国内相关资料较少，在此留作存档。