После эвакуации предприятия в Киров Рубинчик возглавил его на новом месте. Затем он стал директором легендарного завода «Красное Сормово» в Горьком. В 1942-1945 годах под его руководством там выпустили свыше 12 тыс. средних танков Т-34, что было значительно больше плана. За это в июле 1942-го заводу вручено переходящее Красное знамя Государственного Комитета обороны. Более высокой коллективной награды за труд в то время не существовало. Своим героическим трудом сормовичи удерживали это знамя 33 месяца подряд – единственный случай за всю историю Великой Отечественной войны. В итоге знамя оставили заводу на вечное хранение. Оно и сейчас находится в музее завода.

После Великой Отечественной Рубинчик был директором ряда оборонных заводов, с 1965 по 1985 годы возглавлял Волго-Вятское территориальное управления Госснаба СССР.

Ефим Эммануилович имел воинское звание генерал-майор инженерно-танковой службы, был лауреатом Сталинской премии. Ныне его имя носит улица в Сормовском районе Нижнего Новгорода.