開具增值稅專用發票時，除了購方的識別號和名稱，還需要提供購方的地址、電話以及開戶銀行和賬號。這些信息是為了確保發票的準確性和合法性，便于稅務機關進行管理和把控。