Првите медали земјата ги освоила во 1920 г., а првите златни медали ги добиле во 1928 г. Досега јапонските спортисти имаат освоено 398 медали на Летните олимписки игри (освен уметничките натпревари на ЛОИ 1936), при што највеќе злато е освоено во џудо. Земјата има освоено 37 медали на Зимските олимписки игри.