好久不见
经过了一年的科研学习,现在总算是小有成果,有两篇文章,还算不赖,终于想起了这个放下了很久的博客,所以决定回归,写一篇小文章。
最近放慢了脚步,还在前期调研阅读阶段,并不容易,需要自己独立找到一个选题和任务去做。最近实验室,老师因为产假原因,所以步调比较慢,因此更需要靠自己的self-drive做事情,而我们这个方向,基本上我算开山之弟子,课题组里其他人也都是还无成果,甚至还在入门。不容易。
经历了response和review的多重考验,对科研有了更多的一些思考。
paper is preferred. 文章一定是优先的,所以polish非常重要,如果说前期工作是6成,那么后期paper一定是会占满剩下部分的。
chase for the hot point. 科研大部分是功利的,新出现的事物一定会有很多人去占坑的,永远追逐热点,永远抢占发文,这些现象永远不会停止。比如最近的LLM,后面有机会再单开文章讲述这个热点。
Balance life and work. 科研是一项虽紧急却又漫长的工作,不能总是时时刻刻保持紧绷,所以适当的休息和放松是被允许的。
后面的想到再继续写,先这样。 ...
关于numpy的维度小总结
前言:
在有关数据处理中经常会使用到numpy来进行对应矩阵的计算,而numpy的维度,广播机制还有axis等一直懵懵懂懂,所以就在此做一个小整理,搞清楚这个问题,并方便后续查阅
1、numpy中维度的表示
1)一维
1234>>> import numpy as np>>> a=np.array([1,2,3])>>> a.shape(3,)
2)二维
12345>>> import numpy as np>>> b=np.array([[1,2,3],... [3,4,5]])>>> b.shape(2, 3)
3)三维
123456789>>> import numpy as np>>> c=np.array([[[5,8,0,1],... [3,5,5,3],... [2,3,4,0]],... [[1,2,3,2],... [ ...
基于分解的多目标进化算法(MOEA/D)简介
基于分解的(decomposition-based MOEA)多目标进化算法总结
啰嗦一下:
这一类方法的和核心思想其实是将多目标优化的问题通过参考向量这一方式将其分解为多个单目标的问题,然后对于每个目标,计算对应的解,其解以某种准则进行判断是否对于多目标问题来说是一个优解
一、MOEA/D
参考文献:Q. Zhang and H. Li, “MOEA/D: A Multiobjective Evolutionary Algorithm Based on Decomposition,” in IEEE Transactions on Evolutionary Computation, vol. 11, no. 6, pp. 712-731, Dec. 2007, doi: 10.1109/TEVC.2007.892759.
1、生成参考/权重向量(reference vector/weight vector)
将多目标优化以某种方式分解成多个单目标问题,每个单目标问题的形式如下:
f(x)=∑i=1mλifi(x)f(\bm {x})=\sum _{i=1} ^m {\lambda ...
Kriging模型介绍
Kriging模型小结
啰嗦一下
最近看很多文章,在使用回归模型时无外乎以下几种,Kriging、RBFN、高斯过程模型、低阶多项式多重回归模型,其中Kriging被提及最多,以及它有个性质,关于Kriging的不确定性信息似乎有很多故事…所以看来已经到了不得不弄懂的时候了。
Kriging模型是啥
kriging模型是一个插值方法,啥意思呢?就是假设我们已知有一群样本点,它们的分布符合高斯分布,通过这个模型,可以向这些已知点中插入一些预测点,这些点也是和原始的点服从同样的分布的。
为什么它可以作为回归模型?
我们看这样一个式子
y=∑i=0nβixi+b(1)y=\sum _{i=0}^{n} \beta _{i}x_{i}+b\tag{1}
y=i=0∑nβixi+b(1)
我们并不知道上式中的每一项的系数βi\beta_iβi和常数项b的具体值,但是我们有一些已知的点(x,y)(\bm {x},y)(x,y),我们希望通过这些已知的点来求出这些未知的参数,将式(1)变成一个确定的关系式,这样,我们在得到一个陌生的点xj时\bm {x_j}时xj时,可以根据我们拟合出的确 ...
基于指标的多目标进化算法(IBEA)简介
基于指标的多目标进化算法(IBEA)简介
参考文献:
[1]Zitzler, Eckart and Simon Künzli. “Indicator-Based Selection in Multiobjective Search.” PPSN (2004).
[2]Jesús Guillermo Falcón-Cardona and Carlos A. Coello Coello. 2020. Indicator-based Multi-objective Evolutionary Algorithms: A Comprehensive Survey. ACM Comput. Surv. 53, 2, Article 29 (March 2021), 35 pages. https://doi.org/10.1145/3376916
[3]E. Zitzler, L. Thiele, M. Laumanns, C. M. Fonseca and V. G. da Fonseca, “Performance assessment of multiobjective optimizers ...
基于指标的kriging和RBFN自适应选择离线数据驱动多目标优化算法
《Performance Indicator-Based Adaptive Model Selection for Offline Data-Driven Multiobjective Evolutionary Optimization》
Z. Liu, H. Wang and Y. Jin, “Performance Indicator-Based Adaptive Model Selection for Offline Data-Driven Multiobjective Evolutionary Optimization,” in IEEE Transactions on Cybernetics, doi: 10.1109/TCYB.2022.3170344.
abstract
本文主要是想要着眼于离线的数据驱动多目标优化中模型的误差会导致的不准确的进化方向这个问题,提出了基于指标的进化算法和使用自适应选择kriging或是rbfn回归作为代理模型进行预测。
introduction
对比起单目标问题来说,
1、大数据量的多目标问题更需要一个multifidelity surro ...
多目标测试问题小总结
多目标测试问题小结
参考文献
[1]S. Huband, P. Hingston, L. Barone and L. While, “A review of multiobjective test problems and a scalable test problem toolkit,” in IEEE Transactions on Evolutionary Computation, vol. 10, no. 5, pp. 477-506, Oct. 2006, doi: 10.1109/TEVC.2005.861417.
原文问题定义和公式比较详细,详情搜索原文去查阅~~
测试问题
“工欲善其事,必先利其器”,既然想要实现一个比较好的多目标优化算法,那就要找到能够比较公平判断该算法的问题,而如果需要比较多个算法,也应该公平地在同一个问题上去实验。
我们通常把这类问题称为基准问题(benchmark)或者测试问题(test problem)
一般来说,作为一个测试问题,包含以下几个方面的特性。
下面一条条讲一下。
R1–R7:是作为一个比较好的基准问题的建议具备的特征
F1–F5 ...
我的研究生生活(一)
从今年6月开始,到这个学期9月半正式进入研究生的阶段。直到一个月前真正开始我的第一个研究项目,算是第一次真正意义上的踏入研究的领域。从开始获得一个直观的idea到了解问题背景付诸行动写代码做实验跑结果之间的也经历了一段,总结一下这段时间的一些感悟和思考。
当然最基础的读文献,做实验这样的事情就不说了,因为没有那些基础,根本谈不上研有所成啊~
参考了一篇布朗大学数学博士的知乎文章,觉得也很有启发。
1、关于一个新的领域
新的领域基本来说,做的时间不长,大概起始于近10年内,发表的文章不多,很多实验走的是这样的路子:提一个方法–>跑模型–>效果好–>回过头来解释这个模型为什么效果好。而不是像比较旧的领域一般是:有一套成熟且理论推导详尽细致的方案之后再做实验进行对比。一般很多研究方向的提出,都是来源于实际应用的工业问题。比如我现在做的这个方向:进化计算。里面用到的fitness function,从前是需要专家经验,也就是所谓的数学公式严谨推导得到,现在主要依靠一些工业上的实验、仿真等方法得到,而面临代价过高,费用昂贵等问题,只有一些离线的数据可以使用,数据+拟合–> ...
基于分类模型的超多目标优化算法
《A Classification Based Surrogate-Assisted Evolutionary Algorithm for Expensive Many-Objective Optimization》
摘要
提出了一种基于分类模型网络预测的模型,比较candidate solutions 和 reference solutions之间的支配关系而不是去分别对目标值进行近似,考虑预测时的不确定性和分类的类别进行个体选择。
创新点
1、是做分类,但是是和分类边界(参考解)进行比较,而不是每个个体之间进行相互比较
2、选择的参考解可以很好地保持种群的收敛性和多样性,没有使用主流的三类MOEA方法,而是使用了基于径向过程的方式来进行环境选择
3、考虑到模型可能发生错误,使用了交叉验证和可信度配置的方式验证模型的效果
速看版本
图1 模型的框架伪代码
使用径向过程将m维目标空间投影到2维,在2维径向空间里使用网格的方式选点作为分类参考点,本文经过实验对比选定k=6
使用真实的目标函数依次与参考点集合进行支配关系对比,将种群分为Ⅰ(被支配的)和Ⅱ(非支配的)两类
分别在Ⅰ、Ⅱ中 ...
一些写文章会用到的东西
想到再加,持续更新~
butterfly说明手册网站
butterfly的标签外挂
会让我的文章酷一点
12345678910111213141516171819202122232425262728{% note flat %}默认 提示块标籤{% endnote %}{% note default flat %}default 提示块标籤{% endnote %}{% note primary flat %}primary 提示块标籤{% endnote %}{% note success flat %}success 提示块标籤{% endnote %}{% note info flat %}info 提示块标籤{% endnote %}{% note warning flat %}warning 提示块标籤{% endnote %}{ ...