Лучше всего выводит ржавчину лимонная кислота.
Растворите лимонную кислоту в теплой воде из расчета 10 грамм на литр (концентрацию можно уменьшить). Поместите железо в раствор и оставьте отмокать на сутки или дольше. Если местами окись «не отходит», зачистите. Подмечено, что металл после этой процедуры слегка темнеет. Промойте обработанный предмет в мыльном или содовом растворе, чтобы не окислялся, и ошкурьте.
Если этот способ не подойдет советую прочитать эту статью.