我跟前夫因家庭暴力、感情不和协议离婚,他主动放弃孩子抚养权。我们离婚已有4年,我现在有了新的家庭,他时常给我老公打骚扰电话,还想要回孩子抚养权,弄得我们无法正常生活。离婚期间抚养费一直未能按时给孩子,而且离婚后他多次报复我,公安都有备案。我应该怎么办?