YT舒适区

《SDDObench: A Benchmark for Streaming Data-Driven Optimization with Concept Drift》 作者：Yuan-Ting Zhong, Xin-Can Wang, Yu-Hong Sun, Yue-Jiao Gong* 会议：GECCO 2024 文章指路：SDDObench 辅助材料–SDDObench_supply.pdf 开源代码库：LabGong/SDDObench 动机 数据驱动的优化限制在静态环境下，针对动态变化环境下的相关算法研究却寥寥无几 当前缺乏统一的测试基准和比较指标来对不同的算法做比较。 创新点 本文提出了一个统一的测试基准来针对动态环境下的数据流驱动优化问题的算法进行评估 该测试基准由两类不同的目标函数和五类不同的概念漂移函数通过设计的变换函数组合而成，最终得到一个适用于测试动态数据流环境下的优化算法测试基准。 本文提出的测试基准参数允许用户自定义进行调节，具有高度自定义化。 测试基准实例速览 在SDDObench中，一个优化问题定义如下： F=f(g(ϕ,δ(t)))(1)F=f(g ...

经过了一年的科研学习，现在总算是小有成果，有两篇文章，还算不赖，终于想起了这个放下了很久的博客，所以决定回归，写一篇小文章。 最近放慢了脚步，还在前期调研阅读阶段，并不容易，需要自己独立找到一个选题和任务去做。最近实验室，老师因为产假原因，所以步调比较慢，因此更需要靠自己的self-drive做事情，而我们这个方向，基本上我算开山之弟子，课题组里其他人也都是还无成果，甚至还在入门。不容易。 经历了response和review的多重考验，对科研有了更多的一些思考。 paper is preferred. 文章一定是优先的，所以polish非常重要，如果说前期工作是6成，那么后期paper一定是会占满剩下部分的。 chase for the hot point. 科研大部分是功利的，新出现的事物一定会有很多人去占坑的，永远追逐热点，永远抢占发文，这些现象永远不会停止。比如最近的LLM，后面有机会再单开文章讲述这个热点。 Balance life and work. 科研是一项虽紧急却又漫长的工作，不能总是时时刻刻保持紧绷，所以适当的休息和放松是被允许的。 后面的想到再继续写，先这样。 ...

前言： 在有关数据处理中经常会使用到numpy来进行对应矩阵的计算，而numpy的维度，广播机制还有axis等一直懵懵懂懂，所以就在此做一个小整理，搞清楚这个问题，并方便后续查阅 1、numpy中维度的表示 1）一维 1234>>> import numpy as np>>> a=np.array([1,2,3])>>> a.shape(3,) 2）二维 12345>>> import numpy as np>>> b=np.array([[1,2,3],... [3,4,5]])>>> b.shape(2, 3) 3）三维 123456789>>> import numpy as np>>> c=np.array([[[5,8,0,1],... [3,5,5,3],... [2,3,4,0]],... [[1,2,3,2],... [ ...

基于分解的(decomposition-based MOEA)多目标进化算法总结 啰嗦一下： 这一类方法的和核心思想其实是将多目标优化的问题通过参考向量这一方式将其分解为多个单目标的问题，然后对于每个目标，计算对应的解，其解以某种准则进行判断是否对于多目标问题来说是一个优解 一、MOEA/D 参考文献：Q. Zhang and H. Li, “MOEA/D: A Multiobjective Evolutionary Algorithm Based on Decomposition,” in IEEE Transactions on Evolutionary Computation, vol. 11, no. 6, pp. 712-731, Dec. 2007, doi: 10.1109/TEVC.2007.892759. 1、生成参考/权重向量(reference vector/weight vector) 将多目标优化以某种方式分解成多个单目标问题，每个单目标问题的形式如下： f(x)=∑i=1mλifi(x)f(\mathbf {x})=\sum _{i=1} ^m {\lam ...

Kriging模型小结 啰嗦一下 最近看很多文章，在使用回归模型时无外乎以下几种，Kriging、RBFN、高斯过程模型、低阶多项式多重回归模型，其中Kriging被提及最多，以及它有个性质，关于Kriging的不确定性信息似乎有很多故事…所以看来已经到了不得不弄懂的时候了。 Kriging模型是啥 kriging模型是一个插值方法，啥意思呢？就是假设我们已知有一群样本点，它们的分布符合高斯分布，通过这个模型，可以向这些已知点中插入一些预测点，这些点也是和原始的点服从同样的分布的。 为什么它可以作为回归模型？ 我们看这样一个式子 y=∑i=0nβixi+b(1)y=\sum _{i=0}^{n} \beta _{i}x_{i}+b\tag{1} y=i=0∑n​βi​xi​+b(1) 我们并不知道上式中的每一项的系数βi\beta_iβi​和常数项b的具体值，但是我们有一些已知的点(x,y)(\mathbf {x},y)(x,y)，我们希望通过这些已知的点来求出这些未知的参数，将式（1）变成一个确定的关系式，这样，我们在得到一个陌生的点xj时\mathbf {x_j}时xj​时，可以根 ...

基于指标的多目标进化算法（IBEA）简介 参考文献： [1]Zitzler, Eckart and Simon Künzli. “Indicator-Based Selection in Multiobjective Search.” PPSN (2004). [2]Jesús Guillermo Falcón-Cardona and Carlos A. Coello Coello. 2020. Indicator-based Multi-objective Evolutionary Algorithms: A Comprehensive Survey. ACM Comput. Surv. 53, 2, Article 29 (March 2021), 35 pages. https://doi.org/10.1145/3376916 [3]E. Zitzler, L. Thiele, M. Laumanns, C. M. Fonseca and V. G. da Fonseca, “Performance assessment of multiobjective optimizers ...

《Performance Indicator-Based Adaptive Model Selection for Offline Data-Driven Multiobjective Evolutionary Optimization》 Z. Liu, H. Wang and Y. Jin, “Performance Indicator-Based Adaptive Model Selection for Offline Data-Driven Multiobjective Evolutionary Optimization,” TCY 2022 abstract 本文主要是想要着眼于离线的数据驱动多目标优化中模型的误差会导致的不准确的进化方向这个问题，提出了基于指标的进化算法和使用自适应选择kriging或是rbfn回归作为代理模型进行预测。 introduction 对比起单目标问题来说， 1、大数据量的多目标问题更需要一个multifidelity surrogates来平衡计算真实适应度函数的复杂度和模型的质量 2、对于少量的数据集，增强模型的准确性和鲁棒性 Kriging模 ...

多目标测试问题小结 参考文献 [1]S. Huband, P. Hingston, L. Barone and L. While, “A review of multiobjective test problems and a scalable test problem toolkit,” TEC 2005 原文问题定义和公式比较详细，详情原文查阅~~ 测试问题 “工欲善其事，必先利其器”，既然想要实现一个比较好的多目标优化算法，那就要找到能够比较公平判断该算法的问题，而如果需要比较多个算法，也应该公平地在同一个问题上去实验。 我们通常把这类问题称为基准问题（benchmark）或者测试问题(test problem) 一般来说，作为一个测试问题，包含以下几个方面的特性。 下面一条条讲一下。 R1–R7：是作为一个比较好的基准问题的建议具备的特征 F1–F5：是一些进阶特征 R1、No Extremal Parameters 一个基准问题中，不应该让这个问题的最优解在其决策变量的边界被取到。 理解一下，这样特别容易在进化算法某代某次突然的变异偶然得到问题的最优解，在使用例如截断选择策 ...

从今年6月开始，到这个学期9月半正式进入研究生的阶段。直到一个月前真正开始我的第一个研究项目，算是第一次真正意义上的踏入研究的领域。从开始获得一个直观的idea到了解问题背景付诸行动写代码做实验跑结果之间的也经历了一段，总结一下这段时间的一些感悟和思考。 当然最基础的读文献，做实验这样的事情就不说了，因为没有那些基础，根本谈不上研有所成啊~ 参考了一篇布朗大学数学博士的知乎文章，觉得也很有启发。 1、关于一个新的领域 新的领域基本来说，做的时间不长，大概起始于近10年内，发表的文章不多，很多实验走的是这样的路子：提一个方法–>跑模型–>效果好–>回过头来解释这个模型为什么效果好。而不是像比较旧的领域一般是：有一套成熟且理论推导详尽细致的方案之后再做实验进行对比。一般很多研究方向的提出，都是来源于实际应用的工业问题。比如我现在做的这个方向：进化计算。里面用到的fitness function，从前是需要专家经验，也就是所谓的数学公式严谨推导得到，现在主要依靠一些工业上的实验、仿真等方法得到，而面临代价过高，费用昂贵等问题，只有一些离线的数据可以使用，数据+拟合–> ...

《A Classification Based Surrogate-Assisted Evolutionary Algorithm for Expensive Many-Objective Optimization》 摘要 提出了一种基于分类模型网络预测的模型，比较candidate solutions 和 reference solutions之间的支配关系而不是去分别对目标值进行近似，考虑预测时的不确定性和分类的类别进行个体选择。 创新点 1、是做分类，但是是和分类边界（参考解）进行比较，而不是每个个体之间进行相互比较 2、选择的参考解可以很好地保持种群的收敛性和多样性，没有使用主流的三类MOEA方法，而是使用了基于径向过程的方式来进行环境选择 3、考虑到模型可能发生错误，使用了交叉验证和可信度配置的方式验证模型的效果 速看版本 图1 模型的框架伪代码 使用径向过程将m维目标空间投影到2维，在2维径向空间里使用网格的方式选k个点（k=6）作为分类参考点； 使用真实的目标函数依次与参考点集合进行支配关系对比，将种群分为Ⅰ（被支配的）和Ⅱ（非支配的）两类； 分别在Ⅰ、Ⅱ中按照1：3 ...