2025-2-26 第一周 #

汇报内容： #

• GSPC 修改：Introduction 后面基本实现修改（加分组描述，步骤间逻辑解释，评估指标解释，分类依据等），主要问题集中在Introduction 怎么改。
• DSDE 修改：实验数据还没有，只有小调整，没有大进展。
• 自己看的论文进度：在了解 conformal perdiction一些理论，老师给的 UC 也在看。边看论文也一边在构思，自己置信区间这个事情能为神经网络做些什么，目前还没有具体想法。

讨论结果： #

• shift 的分类
• 围绕 robust 问题，寻找 distribution shift 的设置展开，会有什么挑战
• set-up 设计什么问题，OOD detection，估计问题，检验问题
• 横向问题：Robust，差分隐私，公平性
• 纵向问题：DRO
• 研究问题：问题的设计DRO，设计检验的地方（因果推断）
• Online Data
• 发展脉络
  • 往前：之前做了什么
  • 往后：之后做了什么 （paper connection 软件）

2025-3-3 第二周 #

汇报内容： #

1. 主题

• Duchi： Robust Validation: Confident Predictions Even When Distributions Shift。
  • Key Words：Distribution Shift；Roubst；Validation；Confident Predictions
  • Core Explanations：Distribution Shift Problem；Distribution Robust Optimization (DRO)； Conformal Inference；

2. 前期准备

• Distributions Shift 与 DRO 的关系

• Distributions Shift 与 Conformal Inference 的关系

• Conformal Inference 与 DRO 的关系

• Conformal Inference 研究路程

  • Algorithmic Learning in a Random World
  • Conformal Prediction: a Unified Review of Theory and New Challenges
  • Conformal Inference 与 fairness 的关系

• DRO 研究路程

3. 主要内容

• A standard conformal infernece
• A robust conformal inference

4. 不成熟提案

• 应用

  • 医疗图片数据，监测胃癌的可能性，分组：年轻组、老年组

  • 浮游生物图片数据，监测分布外数据的可能性，分组：生物组、非生物组

• 理论

  • 将DRO约束纳入经验似然的估计方程，分布偏移情形下覆盖率效果如何

5. 下一步研究计划

• Fairness
• UC
• Privacy
• Duchi 指导的毕业论文：RELIABILITY AND STABILITY IN STATISTICAL AND MACHINE LEARNING PROBLEMS

讨论结果： #

• EL 结合 DRO 在分布偏移上的相关论文有哪些

  • 按时间发展已有成果
  • 按类型分类已有成果

• Duchi 在 EL 上做过哪些内容。

• Domian

• Optimazation 改进

• RKHS

• VC

• induce

2025-3-12 第三周 #

汇报内容： #

1. 主题

• Duchi： Statistics of Robust Optimization: A Generalized Empirical Likelihood Approach
• Related Works：
  • [49] H. Lam. Robust sensitivity analysis for stochastic systems. Mathematics of Operations Research, 41(4):1248–1275, 2016.
  • [50] H. Lam. Recovering best statistical guarantees via the empirical divergencebased distributionally robust optimization. Operations Research, 2018. URL arXiv.org/abs/1605.09349.
  • [51] H. Lam and E. Zhou. The empirical likelihood approach to quantifying uncertainty in sample average approximation. Operations Research Letters, 45(4): 301–307, 2017.

2. 提案

• 将DRO约束纳入经验似然的估计方程，分布偏移情形下覆盖率效果如何

  • 借鉴 EMPIRICAL LIKELIHOOD FOR FAIR CLASSIFICATION 思路，对同样的设置，使用修改的EL方法，看看效果是否有所改进。

  • PCEL 是否有修改的必要。

3. 下一步研究计划

• 看文献[49]-[51]

• Duchi 指导的毕业论文

• Fairness

• UC

• Privacy

讨论结果： #

• EL 结合 Fairness 在上的相关论文有哪些
  • 按时间发展已有成果

2025-3-24 第五周 第四次 #

汇报内容： #

1. 主题

• 介绍经验似然方法
• Related Works：
  • 经验似然在fairness/UQ上的工作
  • 经验似然在Lam下的工作
    • [49] H. Lam. Robust sensitivity analysis for stochastic systems. Mathematics of Operations Research, 41(4):1248–1275, 2016.
    • [50] H. Lam. Recovering best statistical guarantees via the empirical divergencebased distributionally robust optimization. Operations Research, 2018. URL arXiv.org/abs/1605.09349.
    • [51] H. Lam and E. Zhou. The empirical likelihood approach to quantifying uncertainty in sample average approximation. Operations Research Letters, 45(4): 301–307, 2017.

2. 提案

• 借鉴 EMPIRICAL LIKELIHOOD FOR FAIR CLASSIFICATION 思路，对同样的设置，使用修改的EL方法，看看效果是否有所改进。

讨论结果： #

• 剩余10 : 30 时刻：EL是否可以变到对已经训练好的模型做检验
  • [50] H. Lam. Recovering best statistical guarantees via the empirical divergencebased distributionally robust optimization. Operations Research, 2018. URL arXiv.org/abs/1605.09349.
  • [51] H. Lam and E. Zhou. The empirical likelihood approach to quantifying uncertainty in sample average approximation. Operations Research Letters, 45(4): 301–307, 2017.
  • 用上述两篇文献导出fairness指标
• 剩余9 : 36 时刻：连续的敏感属性和表现的结果
• 剩余7 : 25 时刻：连续的敏感属性的公平性检验
  • 连续的敏感属性的公平性定义
  • 连续的敏感属性的公平性检验方法
• EL在统计上会被argue的点
  • 收敛速度问题
  • 自身方法存在哪些问题
• 与EL等价的方法结合 Fairness 的相关论文有哪些
  • CP在Fairness已有成果
• 连续型公平性分类的处理
• EL方法是否与模型无关