Le Nikkei a clôturé en baisse de 1,16% à 40 414,12, avec seulement 30 des 225 composants de l'indice en progression contre 192 en baisse.
L'indice a franchi le niveau des 41 000 pour la première fois vendredi et avait atteint un record de clôture de 40 888,43.
Le Topix, plus large, était en baisse de 1,26 % à 2 777,64 lundi.
Les mouvements du marché reflètent une accalmie momentanée après une hausse aussi importante et les facteurs techniques sont susceptibles de peser sur l'indice cette semaine, a déclaré Hiroshi Namioka, stratège en chef chez T&D Asset Management.
Les pertes ont été généralisées, avec de nombreux poids lourds du Nikkei en baisse.
Le géant des équipements de fabrication de puces Tokyo Electron a chuté de 1,6 %, la société mère d'Uniqlo, Fast Retailing, a perdu 0,6 % et l'agence de recrutement Recruit Holdings a baissé de 3,6 %.
Bien que le yen oscille autour de 151,32 pour un dollar, les actions des sociétés japonaises dont les ventes à l'étranger sont plus importantes ont également baissé.
La faiblesse de la monnaie est probablement à son apogée, mettant un terme à la récente hausse des actions liées à l'exportation, a déclaré M. Namioka.
"Il est difficile de voir le yen descendre à quelque chose comme 160 pour un dollar, ce qui est énorme.
Le groupe Sony a chuté d'environ 3 %, tandis que Toyota Motor a perdu 1,1 %.
Les constructeurs automobiles Honda et Nissan ont également chuté de 2,2 % et 2,1 %, respectivement. (Reportage de Brigid Riley ; Rédaction de Shounak Dasgupta)