是的，可以不用給專票供應商抵扣聯和發票聯。因為專票是一種專用發票，根據《中華人民共和國發票管理條例》第二十五條的規定，發票的抵扣聯和發票聯只針對“增值稅普通發票”，而不適用于專票，因此開票方不用把抵扣聯和發票聯給專票供應商。同時，為了保證發票準確性，開票方應當填寫紅字信息表，而不是抵扣聯和發票聯作為發票使用憑證。紅字信息表應當真實、準確、完整地記載發票金額、開票人和收款人等信息，以作為發票對賬等用途。