税务人员到甲公司进行税务检查时，未出示税务检查证和税务检查通知书的，甲公司有权拒绝检查。