ELMO代码中的疑问，希望解答

[KunWangR]

感觉ELMO模型accuracy计算有点问题，详细情况见下图。

因为计算loss需要用到forward_output， 计算forward_pred需要用到forward_projection，因为argsoftmax需要从词表维度中选择最可能的词id，代码中是从elmo_hidden维度选择最可能的hidden id。

[NLPOR]

给聪哥大佬疯狂打call

…

------------------&nbsp;原始邮件&nbsp;------------------ 发件人:&nbsp;"KunWangR"<[email protected]&gt;; 发送时间:&nbsp;2020年1月14日(星期二) 下午4:43 收件人:&nbsp;"YC-wind/embedding_study"<[email protected]&gt;; 抄送:&nbsp;"Subscribed"<[email protected]&gt;; 主题:&nbsp;[YC-wind/embedding_study] ELMO代码中的疑问，希望解答 (#7) 感觉ELMO模型accuracy计算有点问题，详细情况见下图。 因为计算loss需要用到forward_output， 计算forward_pred需要用到forward_projection，因为argsoftmax需要从词表维度中选择最可能的词id，代码中是从elmo_hidden维度选择最可能的hidden id。 — You are receiving this because you are subscribed to this thread. Reply to this email directly, view it on GitHub, or unsubscribe.

[KunWangR]

@NLPOR 聪哥是谁？

[YC-wind]

感觉ELMO模型accuracy计算有点问题，详细情况见下图。

因为计算loss需要用到forward_output， 计算forward_pred需要用到forward_projection，因为argsoftmax需要从词表维度中选择最可能的词id，代码中是从elmo_hidden维度选择最可能的hidden id。

好像是耶，有点问题，loss应该是没问题，就是 acc计算 会有错误，不正常

[YC-wind]

forward_output 是 shape = (batch_size, seq_len, elmo_hidden)
forward_projection 是 shape = (batch_size, seq_len, word_vocab_size)
因此需要使用 forward_projection 谢谢（代码能跑通纯属 word_vocab_size > elmo_hidden），实际写错了