Можно ли как-нибудь убрать административное выдворение?

Вы серьезно хотите получить компетентный ответ от незнакомых людей в интернете? 

Смотрите, заходите сюда, оформляете бесплатный доступ на 2 дня ко всей базе знаний Консультант + и за это время находите и ответ на свой вопрос, и судебную практику, и все формы документов с примерами заполнения, какие вам только понадобятся.

"Убрать" - невозможно. Если процессуальные сроки позволяют, лицо, привлеченное к ответственности может оспорить назначенное ему административное наказание.

В судебном порядке Вам необходимо было представить доказательства того, что у Вас имеется ребенок (свидетельство о рождении, показания супруга и т.д.). Как правило суды идут навстречу. Если у Вас еще есть возможность подавайте жалобу в вышестоящий суд, прикладывайте письменные доказательства. Успехов !!!