要在日本使用手机拨打回上海的电话，您可以采取以下两种方法：

1. 国际直拨方式：

- 首先，您需要拨打中国的国际直拨代码，即“86”。

- 接着，输入上海的区号（例如21 for上海市），后面跟着具体的电话号码。

请注意，如果您不确定区号，可以查询相关地区的区号或者联系当地的电信运营商获取信息。

2. 使用当地电话卡或网络电话服务：

- 您可以在日本购买一张适用于国际漫游的电话卡。使用这种电话卡时，需要先输入卡上的接入号码，然后才能拨打上海的电话号码。

- 另外，您也可以使用网络电话应用程序，如Skype或微信。这需要您在日本下载并安装相应的应用程序，注册账户并充值，之后便可以通过这些应用程序拨打电话回上海。

在拨打电话之前，请确保您的手机账户中有足够的余额，以避免通话过程中断。同时，考虑到时差，选择一个合适的时间进行拨打。