Skip to content

xinli2008/PE_from_scratch

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

11 Commits
 
 
 
 
 
 
 
 

Repository files navigation

PE_from_scratch

pytorch版本实现的position_embedding,用于学习目的, 帮助更好的了解它的工作原理。

TODO List

  • 可训练的绝对位置编码
  • 固定的绝对位置编码
  • 相对位置编码
  • 旋转位置编码Rope

About

pytorch版本实现的position_embedding

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages