Сервер смотрит напрямую в интернет или через маршрутизатор? Если маршрутизатор на Linux, то fail2ban например настроить и поставить.