Skip to main content
 首页 » 编程设计

python之如何在使用 CNTK 训练期间直接访问梯度和修改权重(参数)

2025年02月15日13lhb25

我想计算梯度值(每个示例或小批量),并将权重直接修改为任何值(因此我可以使用任何方法控制梯度下降,而不仅仅是提供的 sgd/学习率计划)。 我正在使用 python 界面。

请您参考如下方法:

要获取渐变,请参阅grad 方法in the docs .现在要更新权重,您可以使用 .value 属性:

>>> w = C.Parameter((2,3), init=C.glorot_uniform()) 
>>> w.value 
array([[-0.80213612, -0.7965923 , -0.10688281], 
       [-1.0493834 , -0.32666588,  0.90124035]], dtype=float32) 
>>> w.value = w.value + 1 
>>> w.value 
array([[ 0.19786388,  0.2034077 ,  0.89311719], 
       [-0.0493834 ,  0.67333412,  1.90124035]], dtype=float32) 

CNTK 在其路线图上支持轻松规范用户定义的学习器,这将减少您必须编写的样板代码量。预计将于 2017 年 3 月左右推出。