The shop was deregistered by the tax office for long-term failure to pay taxes.

deregistered 是动词 deregister 的过去分词形式，表示被动含义。deregister 由前缀 de-（表示"去除、取消"）和动词 register（登记、注册）组成，字面意思是"取消登记"。deregistered 在这里表示"被注销登记"的状态。