Self-attention기반 model들의 문제점인 Context fragmentation를 해결하는 논문입니다.

파이썬 3.8에 포함된 walrus operator는 무엇인지 간단하게 살펴보겠습니다.

파이썬의 프로파일링 도구들을 사용해보고 비교해서 정리해 보았습니다. profiler와 cProfile의 내부 핵심 로직을 살펴보고, 성능 차이의 원인을 비교 분석하였습니다.

self-attention을 이용한 character language modeling 방법에 대한 논문입니다.