罰款不是正常業務支出，通常不應由供應商開具發票。公戶支付罰款后，應保留相關憑證作為記錄。