V2EX › conhost 的所有回复 › 第 3 页 / 共 4 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 2 3 4

❮

❯

2022 年 6 月 23 日

回复了 Richard14 创建的主题 › Python › 在 Pytorch 学习的过程中如何借助预训练模型帮助理解结构？

@Richard14 总体来说循环网络的结构确实比较抽象，在实际理解的时候内部递归结构需要展开来看，不能将其单单就理解为一个层。包括训练时候的梯度回传，也要按照 rnn 的时间步进行展开回传的。而 cnn 由于其参数共享的原因，各个窗口之间是完全并行的，因此你理解一个窗口的操作，就可以直接扩展到其他窗口。

2022 年 6 月 23 日

回复了 Richard14 创建的主题 › Python › 在 Pytorch 学习的过程中如何借助预训练模型帮助理解结构？

具体需要看你做什么了，lstm 后面加一个 dense 已经是一个完整的网络结构了。其递归的结构可以提取到全部的输入信息。在文本方面的话，cnn 确实需要堆叠多层，这是因为 cnn 是提取的局部信息，想要获取到全部信息，只能通过堆叠间接扩大卷积核的大小，从而能覆盖到全部输入。

2022 年 6 月 23 日

回复了 Richard14 创建的主题 › Python › 在 Pytorch 学习的过程中如何借助预训练模型帮助理解结构？

@Richard14 RNN ，CNN 等基础模型 torch 都使用 C++在内部实现了，不过你也可以使用 pytorch 自己按照公式实现，实现方式类似于你自己定义一个 nn.Module 。实际生产中要看具体任务是什么样的，根据资源跟延时的限制决定一层还是多层。Transformer 出来之后基本上 RNN 很少单独使用了，有一些做序列标注的会在 BERT 上面加一层 biRNN ，用来提取文本的前后依赖信息。目前一般来说，RNN 在 Transformer 上的使用都是来补充位置向量太弱的问题的。不过，在小样本上，RNN 的效果会好于 Transformer ，所以具体用什么还是要看使用场景。

2022 年 6 月 23 日

回复了 Richard14 创建的主题 › Python › 在 Pytorch 学习的过程中如何借助预训练模型帮助理解结构？

torch vision 里面是设置好的模型，打印的是模型的结构，并不是具体到某一层是怎么搭建的。而 LSTM 是一个层，作用类似于 ResNet 中的 Conv2d 。而 ResNet 是一个网络，由多个层构成。现在你打印的是 LSTM 里面的参数名和参数的维度，不是模型结构。如果你是做 NLP 的话，可以使用 hugging face 的 transformers 库，里面是近几年 NLP 上预训练模型。

2022 年 6 月 6 日

回复了 missqso 创建的主题 › 问与答 › [付费求] 有没有什么软件，装在 a 电脑上，然后在一个局域网（zerotier）的情况下，我对它的 ip 发指令，让它强制关机？

@missqso #2 破坏计算机信息系统罪了解一下。既然客户都不懂 IT 技术了，那就在代码里面加在线验证或者 license 的方式解决呗。不付款的话取消接入验证或者吊销 license

2022 年 6 月 6 日

你这不就是想要个木马么？真的很刑

2022 年 4 月 2 日

回复了 stille 创建的主题 › MacBook Pro › 14 寸 MacBook Pro 独占 bug 是放弃了还是硬件问题,在次吐槽!

@FakerLeung 这个复制失败的 bug 不是都快十年了么，你才发现？

2021 年 12 月 10 日

回复了 eviladan0s 创建的主题 › Java › 颤抖吧 Javaer， log4j 史诗级漏洞

@pigspy logback 依赖 log4j 哦

2021 年 11 月 30 日

回复了 dax1 创建的主题 › 程序员 › 万能 V 友关于硕士论文物联网方向选题

又有物联网，又有信息安全，那就差分隐私计算呗

2021 年 11 月 22 日

回复了 aladdinding 创建的主题 › Python › 为啥好多面试 Python 的连魔法函数都不知道？

@shm7 不知道你是具体做 NLP 哪个方面的，情感分析？对话系统？文本摘要？序列标注？亦或者文本生成，机器翻译？即使你调用现成的 transformers 包，你也要写 dataloader 吧，只要继承这个类，那你的__next__方法指定要重新实现，只不过没有探寻这类函数的名称定义而已，何必戾气这么重呢？

2021 年 11 月 19 日

回复了 yuan93 创建的主题 › 信息安全 › token 被盗引发的数据安全问题

@itechnology 我的意思是说如果只是简单替换 token 就能访问的话，也是存在问题的，并不能就说很逗，即使不用每个请求都双因子认证，也可以对请求签名啥的，虽然也存在问题，但是至少楼主的问题可以完美解决

2021 年 11 月 19 日

回复了 yuan93 创建的主题 › 信息安全 › token 被盗引发的数据安全问题

@IvanLi127 这样也可以，我只是针对你说的循环加 token 说的，😁😄

2021 年 11 月 19 日

回复了 yuan93 创建的主题 › 信息安全 › token 被盗引发的数据安全问题

@itechnology 这种要求也不能说逗吧，也许跟个人对安全的理念不一样呢？不然现在为什么会出现双因子认证呢？

2021 年 11 月 19 日

回复了 aladdinding 创建的主题 › Python › 为啥好多面试 Python 的连魔法函数都不知道？

@shm7 nlp 也要用到啊，最起码的__init__肯定要用到吧，不过就像 44 楼说的一样，我都是把他们当成虚函数，用到的时候直接重写就完了，还真忘了这玩意叫魔术方法