Katanagatari berlatar di Jepang era Edo, di mana legenda tersebar tentang “12 Pedang Deviant”, senjata luar biasa yang diciptakan oleh pandai besi legendaris, Shikizaki Kiki. Pedang-pedang ini bukanlah senjata biasa—mereka memiliki kekuatan mistis yang mampu mengubah jalannya perang dan memengaruhi nasib siapa pun yang memilikinya.
Togame, seorang strategis yang bekerja untuk keshogunan, ditugaskan untuk mengumpulkan semua pedang ini demi mencegah mereka jatuh ke tangan yang salah. Untuk melaksanakan misinya, ia merekrut Yasuri Shichika, pewaris teknik pedang kuno bernama Kyotouryuu, yang tidak menggunakan pedang sama sekali, melainkan tubuhnya sendiri sebagai senjata.
Shichika, yang tinggal terisolasi di sebuah pulau bersama kakaknya, memutuskan untuk mengikuti Togame dalam perjalanannya, meskipun awalnya tidak memahami dunia luar. Sepanjang perjalanan mereka yang penuh tantangan, keduanya menghadapi pendekar-pendekar tangguh, masing-masing memiliki salah satu dari 12 Pedang Deviant yang harus mereka taklukkan.
Namun, misi ini bukan sekadar pengumpulan pedang—melalui perjalanan mereka, Shichika dan Togame menjalin hubungan yang semakin erat, menghadapi konflik moral, pengkhianatan, dan misteri di balik keberadaan pedang-pedang itu.