单纯看on不考虑其他in ,at等的话,
所有的on 都可以翻译为 “在.上面”的意思.但是通常,其暗含两种方面：
具象,表方位或者时间：on the table 在桌子上 on saturday 在周六 on my way to sp 在去.的路上 on a bike 在自行车上.
抽象：,agree with sb on sth在这个问题上 spend time on doing 在做某件事上花了多少时间
你的问题中 save money on sth 也可以翻译为 在烧油问题上,可以省钱.
但是汉语表达口语中不会这么死板,直接就说骑自行车省油钱.
对于这种情况的on 你可以理解为“关于”,但 也区别于“about” 用on更具体,而且也往往带有观点立场.不多做解释,
所以除了语法,你要积累,汉语表达也要提升,明白其内涵意义.
如有启发,
至于是否更换介词,by bike ,后面save 一般不用其他介词.