使用Python进行优化(scipy.optimize)

使用Python进行优化(scipy.optimize),python,optimization,scipy,mathematical-optimization,Python,Optimization,Scipy,Mathematical Optimization,我试图使用Python的scipy.optimize最大化以下函数。然而,经过多次尝试,它似乎不起作用。函数和我的代码粘贴在下面。谢谢你的帮助 问题 Maximize [sum (x_i / y_i)**gamma]**(1/gamma) subject to the constraint sum x_i = 1; x_i is in the interval (0,1). x是选择变量的向量y是参数向量伽马是一个参数。xs的总和必须为1。每个x必须在间隔(0,1)内 代码 def obje

我试图使用Python的scipy.optimize最大化以下函数。然而,经过多次尝试,它似乎不起作用。函数和我的代码粘贴在下面。谢谢你的帮助

问题

Maximize [sum (x_i / y_i)**gamma]**(1/gamma)
subject to the constraint sum x_i = 1; x_i is in the interval (0,1). 
x
是选择变量的向量
y
是参数向量<代码>伽马是一个参数。
x
s的总和必须为1。每个
x
必须在间隔(0,1)内

代码

def objective_function(x, y):
    sum_contributions = 0
    gamma = 0.2

    for count in xrange(len(x)):
        sum_contributions += (x[count] / y[count]) ** gamma
    value = math.pow(sum_contributions, 1 / gamma)
    return -value

cons = ({'type': 'eq', 'fun': lambda x: np.array([sum(x) - 1])})

y = [0.5, 0.3, 0.2]
initial_x = [0.2, 0.3, 0.5]

opt = minimize(objective_function, initial_x, args=(y,), method='SLSQP',  
constraints=cons,bounds=[(0, 1)] * len(x))

有时,无论出于何种原因,数值优化器都无法工作。我们可以将问题参数化,使之稍微不同,这样就行了。(而且可能工作得更快)

例如,对于
(0,1)
的边界,我们可以使用一个转换函数,使得
(-inf,+inf)
中的值在被转换后,将在
(0,1)
中结束

我们可以在等式约束下执行类似的操作。例如,我们可以将维度从3减少到2,因为
x
中的最后一个元素必须是
1-sum(x)

如果仍然不起作用,我们可以切换到不需要衍生工具信息的优化器,例如
Nelder-Mead

还有

结果是:

In [113]:

trans_x(opt.x)
Out[113]:
array([ 0.29465097,  0.33482303,  0.37052601])
我们可以通过以下方式将其可视化:

In [114]:

x1 = np.linspace(0,1)
y1 = np.linspace(0,1)
X,Y = np.meshgrid(x1,y1)
Z = np.array([F(item, y) for item 
              in np.vstack((X.ravel(), Y.ravel())).T]).reshape((len(x1), -1), order='F')
Z = np.fliplr(Z)
Z = np.flipud(Z)
plt.contourf(X, Y, Z, 50)
plt.colorbar()

即使是棘手的问题,这个问题也有点过时。我想添加一个替代解决方案,它可能对将来遇到这个问题的其他人有用

我们发现你的问题是可以解析解的。您可以从写下(等式约束)优化问题的拉格朗日开始:

L = \sum_i (x_i/y_i)^\gamma - \lambda (\sum x_i - 1)
通过将该拉格朗日函数的一阶导数设置为零,可以找到最优解:

0 = \partial L / \partial x_i = \gamma x_i^{\gamma-1}/\y_i - \lambda
=> x_i \propto y_i^{\gamma/(\gamma - 1)}
利用这种洞察力,可以通过以下方式简单有效地解决优化问题:

In [4]:
def analytical(y, gamma=0.2):
    x = y**(gamma/(gamma-1.0))
    x /= np.sum(x)
    return x
xanalytical = analytical(y)
xanalytical, objective_function(xanalytical, y)
Out [4]:
(array([ 0.29466774,  0.33480719,  0.37052507]), -265.27701765929692)
CT Zhu的解决方案是优雅的,但它可能会违反第三坐标上的正性约束。对于
gamma=0.2
,这在实践中似乎不是问题,但对于不同的gamma,您很容易遇到麻烦:

In [5]:
y = [0.2, 0.1, 0.8]
opt = minimize(F, np.array([0., 1.]), args=(np.array(y), 2.0),
               method='Nelder-Mead')
trans_x(opt.x), opt.fun
Out [5]:
(array([ 1.,  1., -1.]), -11.249999999999998)
对于与您的问题具有相同概率单纯形约束的其他优化问题,但没有解析解,可能值得研究投影梯度法或类似方法。这些方法利用了一个事实,即有一种快速算法可以将任意点投影到该集合上,请参见


(要查看完整的代码和更好地呈现方程式,请查看Jupyter笔记本)

如果您能更具体地说明“大量尝试”需要什么来阐明问题的目的,可能会有所帮助。您的代码对我很有用。你有什么问题?我得到了最优的
x_opt:array([0.29465573,0.33480638,0.37053789])
。我所要更改的只是
边界
中应该有
len(初始值x)
len(y)
,因为
x
未在代码中定义。@askewchan,可能是数值稳定性问题。在我的Mac电脑上,我得到了
nan``nan``nan
“超过了迭代限制”
Hi@CT-Zhu,绝妙的解决方案。
x1=x**2/(1+x**2)
的作用是什么?对于
(-inf,+inf)
中的
x
,将其“转换”为
中的
x1
(0,1)
。就像设置边界一样,OP要求“x必须在间隔(0,1)内”。它实际上将-inf转换为1!它只适用于(0,+inf)我们可以使用“BFGS”而不是“Nelder Mead”吗?您使用“Nelder Mead”有什么原因吗?代码如何确保所有值均为正值?Andi,谢谢。但我试图解决的优化问题与您使用分析方法解决的问题有些不同。这里是完整的问题:我很高兴听到解析解和快速数值近似。谢谢:-如果第三个参数必须保持正值,是否需要此工作
#a=第三坐标(正约束)
a=abs(a)
In [5]:
y = [0.2, 0.1, 0.8]
opt = minimize(F, np.array([0., 1.]), args=(np.array(y), 2.0),
               method='Nelder-Mead')
trans_x(opt.x), opt.fun
Out [5]:
(array([ 1.,  1., -1.]), -11.249999999999998)