pyro plate的介绍,plate也能设置cuda pytorch概率编程 贝叶斯神经网络

server/2024/10/9 9:19:27/

class plate(name: strsize: Optional[int] = Nonesubsample_size: Optional[int] = Nonesubsample: Optional[torch.Tensor] = Nonedim: Optional[int] = Noneuse_cuda: Optional[bool] = Nonedevice: Optional[str] = None)[source]¶

基元 plate 

获取参数存储()→ pyro.params.param_store。ParamStoreDict[来源]¶

返回全局ParamStoreDict.

清除参数存储()→ 没有人[来源]¶

清除全局ParamStoreDict.

如果你在REPL工作,这尤其有用。我们建议在每个训练循环之前调用它(以避免从过去的模型中泄漏参数),并且在每个单元测试之前调用它(以避免跨测试泄漏参数)。

参数(名字: 潜艇用热中子反应堆(submarine thermal reactor的缩写)初始张量: 可选择的[联盟[火炬。张量, 请求即付的[[], 火炬。张量]]] = 没有人限制: 火炬.分布.约束.约束 = 真实()事件_尺寸: 可选择的[(同Internationalorganizations)国际组织] = 没有人)→ 火炬。张量[来源]¶

将变量作为参数保存在param存储中。若要与参数存储或写入磁盘进行交互,请参见因素.

因素

  • 名字 (潜艇用热中子反应堆(submarine thermal reactor的缩写))–参数名称

  • 初始张量 (火炬。张量或者请求即付的)–返回张量的初始张量或惰性可调用函数。对于大的张量,写例如lambda: torch.randn(100000),只对初始语句进行评估。

  • 限制 (火炬.分布.约束.约束)–火炬约束,默认为constraints.real.

  • 事件_尺寸 ((同Internationalorganizations)国际组织)–(可选)与批处理无关的最右侧维度的数量。左边的维度将被视为批维度;如果param语句在二次抽样的样品板内,则参数的相应批次尺寸将相应地进行二次抽样。如果未指定,所有维度都将被视为事件变暗,并且不会执行二次采样。

返回

受约束的参数。可以通过以下方式访问基本的无约束参数pyro.param(...).unconstrained(),在哪里.unconstrained是weakref属性。

返回类型

火炬。张量

样品(名字: 潜艇用热中子反应堆(submarine thermal reactor的缩写)【数学】函数: pyro . distributions . torch _ distribution。火炬分配混合*一个参数名无线电定向标选择器: 可选择的[火炬。张量] = 没有人obs_mask: 可选择的[火炬。BoolTensor] = 没有人暗示: 可选择的[pyro.poutine.runtime.InferDict] = 没有人**夸尔斯)→ 火炬。张量[来源]¶

调用随机函数fn额外的副作用取决于name和封闭上下文(例如推理算法)。看见Pyro简介进行讨论。

因素

  • 名字–样品名称

  • 【数学】函数–分配类别或功能

  • 无线电定向标选择器–观察数据(可选;应仅在推理的上下文中使用)可选地在kwargs中指定

  • obs_mask (弯曲件或者张量)–形状的可选布尔张量掩码,可通过fn.batch_shape。如果提供,mask=True的事件将取决于obs其余的事件将通过抽样来估算。这引入了一个名为name + "_unobserved"导游应该使用它。

  • 暗示 (词典)–kwargs中指定的推理参数的可选字典。有关详细信息,请参见推理文档。

返回

样品

因素(名字: 潜艇用热中子反应堆(submarine thermal reactor的缩写)对数因子: 火炬。张量*has_rsample: 可选择的[弯曲件] = 没有人)→ 没有人[来源]¶

Factor语句将任意对数概率因子添加到概率模型中。

警告

在指南中使用因子语句时,您需要指定因子语句是来自完全重新参数化的采样(例如重新参数化变量转换的雅可比行列式)还是来自非参数化的采样(例如离散样本)。对于完全重新参数化的情况,设置has_rsample=True;对于非参数化的情况,设置has_rsample=False。这仅在指南中需要,在模型中不需要。

因素

  • 名字 (潜艇用热中子反应堆(submarine thermal reactor的缩写))–小样本的名称

  • 对数因子 (火炬。张量)–可能分批的对数概率因子。

  • has_rsample (弯曲件)–是否log_factor源于完全重新参数化的分布。在模型中使用时默认为False,但必须指定在指南中使用。

确定性的(名字: 潜艇用热中子反应堆(submarine thermal reactor的缩写)价值: 火炬。张量事件_尺寸: 可选择的[(同Internationalorganizations)国际组织] = 没有人)→ 火炬。张量[来源]¶

确定性语句来添加Delta名为的网站名字和价值价值追踪到。当我们想要记录完全由父母决定的值时,这很有用。例如:

x = pyro.sample("x", dist.Normal(0, 1))
x2 = pyro.deterministic("x2", x ** 2)

注意

场地不影响模型密度。这当前转换为sample()语句,但将来可能会改变。

因素

  • 名字 (潜艇用热中子反应堆(submarine thermal reactor的缩写))–站点的名称。

  • 价值 (火炬。张量)–网站的价值。

  • 事件_尺寸 ((同Internationalorganizations)国际组织)–可选事件维度,默认为value.ndim.

子样品(数据: 火炬。张量事件_尺寸: (同Internationalorganizations)国际组织)→ 火炬。张量[来源]¶

基于封闭对数据张量进行子采样的子采样语句plate南

这通常在以下参数上调用model()当子采样由自动执行时plates通过传递subsample或者subsample_size克沃格。例如,以下内容是等效的:

# Version 1. using indexing
def model(data):with pyro.plate("data", len(data), subsample_size=10, dim=-data.dim()) as ind:data = data[ind]# ...# Version 2. using pyro.subsample()
def model(data):with pyro.plate("data", len(data), subsample_size=10, dim=-data.dim()):data = pyro.subsample(data, event_dim=0)# ...

因素

  • 数据 (张量)–批量数据的张量。

  • 事件_尺寸 ((同Internationalorganizations)国际组织)–数据张量的事件维度。左侧的维度被视为批次维度。

返回

的二次抽样版本data

返回类型

张量

classplate(name: strsize: Optional[int] = Nonesubsample_size: Optional[int] = Nonesubsample: Optional[torch.Tensor] = Nonedim: Optional[int] = Noneuse_cuda: Optional[bool] = Nonedevice: Optional[str] = None)[source]¶

班级盘子(名字: 潜艇用热中子反应堆(submarine thermal reactor的缩写)大小: 可选择的[(同Internationalorganizations)国际组织] = 没有人子样本_大小: 可选择的[(同Internationalorganizations)国际组织] = 没有人子样品: 可选择的[火炬。张量] = 没有人暗淡的: 可选择的[(同Internationalorganizations)国际组织] = 没有人使用_cuda: 可选择的[弯曲件] = 没有人设备: 可选择的[潜艇用热中子反应堆(submarine thermal reactor的缩写)] = 没有人)[来源]¶

碱基:pyro.poutine.plate_messenger.PlateMessenger

条件独立变量序列的构造。

plate可以作为生成器顺序使用,也可以作为上下文管理器并行使用(以前irangeiarange,分别为)。

连续的plate类似于range()因为它生成一系列值。

矢量化plate类似于torch.arange()因为它产生一个索引数组,通过该数组可以索引其他张量。plate不同于torch.arange()因为它还通知推理算法被索引的变量是有条件独立的。为此,plate是作为上下文管理器而不是函数提供的,用户必须保证中的所有计算plate上下文是有条件独立的:

with pyro.plate("name", size) as ind:# ...do conditionally independent stuff with ind...

此外,plate可以通过对索引进行二次采样并通知推理算法来缩放各种计算值,从而利用条件独立性假设。这通常用于对小批量数据进行二次抽样:

with pyro.plate("data", len(data), subsample_size=100) as ind:batch = data[ind]assert len(batch) == 100

缺席subsample_size=False这简单地产生了一个torch.arange(0, size)。如果0 < subsample_size <= size这产生了单个随机批次的大小索引subsample_size并将所有对数似然项缩放为size/batch_size在这种情况下。

警告

只有在上下文中所有计算都是有条件独立的情况下,这才是正确的。

因素

  • 名字 (潜艇用热中子反应堆(submarine thermal reactor的缩写))–帮助推理算法匹配的唯一名称plate模型和指南之间的站点。

  • 大小 ((同Internationalorganizations)国际组织)–二次抽样集合的可选大小(如停止内置的范围).

  • 子样本_大小 ((同Internationalorganizations)国际组织)–二次抽样中使用的小批量的大小。默认为大小.

  • 子样品(任何支持len()。)–用于用户定义子采样方案的可选自定义子采样。如果指定,则子样本_大小将被设置为len(子样本).

  • 暗淡的 ((同Internationalorganizations)国际组织)–用于此独立性指数的可选维度。如果指定,dim应为负值,即应从右侧开始索引。如果没有指定,dim被设置为所有封闭的左边的最右边的尺寸plate背景。

  • 使用_cuda (弯曲件)–已弃用,请使用设备请改为arg。可选布尔值,指定是否将cuda张量用于子样品和log_prob。默认为torch.Tensor.is_cuda.

  • 设备 (潜艇用热中子反应堆(submarine thermal reactor的缩写))–可选关键字,指定放置结果的设备子样品和log_prob开着。默认情况下,结果与默认张量放置在同一设备上。

返回

一个可重用的上下文管理器torch.Tensor指数。

例子

>>> # This version declares sequential independence and subsamples data:
>>> for i in pyro.plate('data', 100, subsample_size=10):
...     if z[i]:  # Control flow in this example prevents vectorization.
...         obs = pyro.sample(f'obs_{i}', dist.Normal(loc, scale),
...                           obs=data[i])
>>> # This version declares vectorized independence:
>>> with pyro.plate('data'):
...     obs = pyro.sample('obs', dist.Normal(loc, scale), obs=data)
>>> # This version subsamples data in vectorized way:
>>> with pyro.plate('data', 100, subsample_size=10) as ind:
...     obs = pyro.sample('obs', dist.Normal(loc, scale), obs=data[ind])
>>> # This wraps a user-defined subsampling method for use in pyro:
>>> ind = torch.randint(0, 100, (10,)).long() # custom subsample
>>> with pyro.plate('data', 100, subsample=ind):
...     obs = pyro.sample('obs', dist.Normal(loc, scale), obs=data[ind])
>>> # This reuses two different independence contexts.
>>> x_axis = pyro.plate('outer', 320, dim=-1)
>>> y_axis = pyro.plate('inner', 200, dim=-2)
>>> with x_axis:
...     x_noise = pyro.sample("x_noise", dist.Normal(loc, scale))
...     assert x_noise.shape == (320,)
>>> with y_axis:
...     y_noise = pyro.sample("y_noise", dist.Normal(loc, scale))
...     assert y_noise.shape == (200, 1)
>>> with x_axis, y_axis:
...     xy_noise = pyro.sample("xy_noise", dist.Normal(loc, scale))
...     assert xy_noise.shape == (200, 320)

看见SVI第二部分进行长时间的讨论。

板材_堆叠(前缀: 潜艇用热中子反应堆(submarine thermal reactor的缩写)大小: 顺序[(同Internationalorganizations)国际组织]最右边_dim: (同Internationalorganizations)国际组织 = - 1)→ 迭代程序[没有人][来源]¶

创建一个连续的堆栈plate带有尺寸的:

rightmost_dim - len(sizes), ..., rightmost_dim

因素

  • 前缀 (潜艇用热中子反应堆(submarine thermal reactor的缩写))–铭牌的名称前缀。

  • 大小 (可迭代的)–可重复的板尺寸。

  • 最右边_dim ((同Internationalorganizations)国际组织)–从右数,最右边的dim。

组件(名字: 潜艇用热中子反应堆(submarine thermal reactor的缩写)nn _模块: 火炬. nn .模块.模块.模块更新模块参数: 弯曲件 = 错误的)→ 火炬. nn .模块.模块.模块[来源]¶

注册的所有参数torch.nn.Module用Pyro的param_store。结合使用ParamStoreDict save()和load()功能,这允许用户保存和加载模块。

注意

考虑改用PyroModule,是的更新替代产品pyro.module()它更好地支持:jitting,在C++中服务,以及将参数转换为随机变量。有关详细信息,请参见模块教程 .

因素

  • 名字 (潜艇用热中子反应堆(submarine thermal reactor的缩写))–模块的名称

  • nn _模块 (火炬. nn .模块)–要向Pyro注册的模块

  • 更新模块参数–确定PyTorch模块中的参数是否被ParamStore中的值覆盖(如果有)。默认为错误的

返回

火炬. nn .模块

随机模块(名字nn _模块在先的;在前的*一个参数名**夸尔斯)[来源]¶

警告

这随机模块原语已被弃用,并将在未来的版本中被删除。使用PyroModule而不是创建贝叶斯模型torch.nn.Module实例。参见贝叶斯回归教程举个例子。

不推荐使用在模块的参数上放置一个priornn _模块。返回一个分布(可调用)nn。组件s,它在调用时返回一个采样的nn。组件.

因素

  • 名字 (潜艇用热中子反应堆(submarine thermal reactor的缩写))–烟火模块的名称

  • nn _模块 (火炬. nn .模块)–要向pyro注册的模块

  • 在先的;在前的–pyro分布、随机函数或python字典,以参数名作为关键字,以相应的分布/随机函数作为值。

返回

返回采样模块的可调用函数

屏障(数据: 火炬。张量)→ 火炬。张量[来源]¶

实验确保中的所有值data是基础,而不是懒惰的爱好者或价值观。这在与结合使用时非常有用pyro.poutine.collapse().

启用_验证(is _验证: 弯曲件 = 真实的)→ 没有人[来源]¶

在Pyro中启用或禁用验证检查。验证检查提供有用的警告和错误,例如NaN检查、验证分布参数和支持值、检测ELBO和MCMC的不正确使用。由于这些检查中的一些可能是昂贵的,您可能想要禁用成熟模型的验证以加速推断。

默认行为模仿Python的assert语句:默认情况下,验证是打开的,但是如果Python在优化模式下运行(通过python -O).同样,默认行为取决于Python的全局__debug__价值通过pyro.enable_validation(__debug__).

对于所有支持PyTorch jit的推理算法,在jit编译期间会暂时禁用验证。我们建议用非JIT化的推理算法开发模型以简化调试,一旦模型正确,就可以选择转移到JIT化的推理。

因素

is _验证 (弯曲件)–(可选;默认为True)是否启用验证检查。

验证_启用(is _验证: 弯曲件 = 真实的)→ 迭代程序[没有人][来源]¶

临时启用/禁用验证检查时有用的上下文管理器。

因素

is _验证 (弯曲件)–(可选;默认为真)临时验证检查覆盖。

找到;查出(【数学】函数=没有人忽略_警告=错误的jit _选项=没有人)[来源]¶

懒惰的替代品torch.jit.trace()与调用的Pyro函数一起工作pyro.param().

实际的编译工件存储在compiled输出的属性。对此属性调用诊断方法。

示例:

def model(x):scale = pyro.param("scale", torch.tensor(0.5), constraint=constraints.positive)return pyro.sample("y", dist.Normal(x, scale))@pyro.ops.jit.trace
def model_log_prob_fn(x, y):cond_model = pyro.condition(model, data={"y": y})tr = pyro.poutine.trace(cond_model).get_trace(x)return tr.log_prob_sum()

因素

  • 【数学】函数 (请求即付的)–要跟踪的函数。

  • 忽略_警告 (弯曲件)–是否忽略jit警告。

  • jit _选项 (词典)–要传递给的可选选项字典torch.jit.trace(),例如{"optimize": False}.


http://www.ppmy.cn/server/111283.html

相关文章

sqli-labs靶场通关攻略(61-65)

Less-61 步骤一&#xff1a;查看数据库 ?id1)) and updatexml(1,concat(1,(select database())),1)-- 步骤二&#xff1a;查看表名 ?id1)) and updatexml(1,concat(1,(select group_concat(table_name) from information_schema.tables where table_schemasecurity)),1)--…

数据分析- 海量数据求中位数

1. 内存中排序法 如果内存足够容纳所有数据&#xff0c;可以将数据加载到内存中&#xff0c;进行排序&#xff0c;然后直接找到中间位置的元素或者中间两个元素求平均值作为中位数。 步骤 加载数据&#xff1a; 将数据读入内存中。数据可以从文件、数据库或其他数据源加载。 排…

英飞凌HSM内核开发-软硬件架构

veHsm硬件和软件架构概述 1. 软件硬件架构 veHsm是一个嵌入式硬件安全模块&#xff0c;它通过硬件提供的安全区域来增强安全性&#xff0c;这个区域包括&#xff1a; 专用核心&#xff1a;负责执行安全操作。安全内存&#xff1a;用于存储敏感数据&#xff0c;如密钥和资产&a…

DP和HDMI的产生根源

HDMI接口是松下、索尼这些电视厂商在2002年联合推出的视频传输接口&#xff0c;HDMI1.0最高带宽达到4.96Gbps。2006推出的HDMI1.3版本最高带宽达到10.2Gbps&#xff0c;经过四年发展&#xff0c;HDMI接口从电视领域逐步拓展到游戏主机、笔记本、摄像机、数码相机等产品上&#…

CentOS7安装docker小记

首先你得需要有一个虚拟机&#xff0c;我的配置如图&#xff1a; 安装docker的工具 sudo yum install -y yum-utils device-mapper-persistent-data lvm2 指定阿里云的仓库 sudo yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.re…

【ffmpeg】转换音频格式

在音频文件所在目录启动终端输入以下 ffmpeg -y -i original.aac target.mp3-y 如果输出文件已经存在&#xff0c;则覆盖它而不询问。 执行完毕后在当前文件夹目录下生成目标文件

MySQL图形界面 --DataGrip

DataGrip下载安装 1.进入DataGrip官网 右上角点击下载 下载完成之后双击该下载的应用程序 点击下一步 输入安装目录 全选&#xff0c;下一步 直接安装 开始中找到该数据库并且启动

安全 iMaster NCE-CampusInsight

本次项目在信息安全规划和设计时&#xff0c; 通过划分安全域实现业务的正常运行和安全的有效保障。 结合该公司实际情况对安全等级进行评估&#xff0c;按照不同要求划分成了多个安全域&#xff0c;提升整体安全性。数据中心划分为应用业务安全域、数据库安全域、 运维管理安全…