Né à Tokyo, Taki déménage à plusieurs reprises dans son enfance en raison de la profession de son père. En 1901, il est diplômé de l'École de musique de Tokyo où il a étudié auprès de August Junker. Une de ses pièces bien connues est Kōjō no Tsuki, contenue dans le recueil de chansons pour les élèves du premier cycle du secondaire, en compagnie de Hakone-Hachiri. Hana est également une chanson bien connue.

La même année, Taki entre au conservatoire de Leipzig en Allemagne pour approfondir ses études (composition Salomon Jadassohn, piano : Robert Teichmüller) mais il tombe gravement malade de la tuberculose et rentre au Japon où il meurt bientôt à Ōita, âgé de 23 ans. Son œuvre posthume est une pièce pour piano solo intitulée Urami, écrite quatre mois avant sa mort. On dit qu'il a intégré le sens de « regret » dans le titre de son dernier morceau.

À Taketa dans Kyūshū, où Taki est allé à l'école, se trouvent un musée (Taki Rentarō Kinenkan) ainsi qu'un monument. Au Japon, il est connu pour ses nombreuses chansons comme le « Schubert japonais ».