Осенью 1925 года Иван Ефремов стал «научно-техническим сотрудником Геологического музея», так официально называлась его должность. В Геологическом музее Академии наук СССР он работал под руководством своего научного наставника Петра Петровича Сушкина. Работа препаратором увлекла молодого студента настолько, что стало сложно совмещать ее с учебой в университете. Осенью 1925 года Иван перевелся с биологического на геологический факультет. Позднее Ефремов говорил: «Казалось бы, мне оставалось только закончить университет. На деле получилось совсем не так. Разнообразная деятельность препаратора, сама наука так увлекли меня, что я часто засиживался в лаборатории до ночи. Все труднее становилось совмещать интенсивную работу с занятиями. К тому же с весны до глубокой осени приходилось бывать в экспедициях...» На третьем курсе, в 1926 году Ефремов оставил учебу, не получив никакой специализации, зато он приобрел знание основ биологии, которое оказалось совершенно необходимым впоследствии. Работа у Сушкина привила Ефремову биологическое видение палеонтологии. Она открыла для начинающего ученого в окаменелостях не мертвые символы на шкале геологического времени, а наполненные биологической информацией и пластичные во времени организмы.
Иван Ефремов отправился весной 1926 года в свою первую палеологическую экспедицию. Это была экспедиция в Тургайскую степь под руководством палеонтолога Михаила Викентьевича Баярунаса. Окончена экспедиция была в июле, а уже в августе 1926 года Иван Ефремов по поручению профессора Сушкина был командирован в первую самостоятельную экспедицию на гору Богдо в Прикаспии «для отыскания материалов по стегоцефалам». С этой поездки началась самостоятельная экспедиционная жизнь палеонтолога Ивана Ефремова. Во время раскопок были обнаружены остатки лабиринтодонтов, древних земноводных. По результатом поездки Ефремов опубликовал научную статью об условиях захоронения остатков лабиринтодонтов в прибрежных древних морских отложениях. Статья была опубликована в «Трудах Геологического музея». Впечатления от экспедиции Ефремов позже отразил в рассказе «Белый рог».
Следущая палеологическая экспедиция под руководством Ивана Ефремова состоялась в 1927 году. Раскопки проводились в бассейнах рек Юг и Ветлуги. Из поездки он привез большую коллекцию черепов новых древних земноводных. Обрадованный успехом, в следующем году он вновь поехал в те же края и продолжил раскопки. Кроме раскопок, Иван Ефремов составил геологическое описание их местонахождения. 17 сентября 1928 года умер профессор Сушкин. Ефремов продолжил дело любимого учителя. Работа и учеба у Сушкина принесли плоды, и Иван Антонович опубликовал в 1929 году ряд описательных статей по древним наземным позвоночным. Первое из найденных и изученных животных с реки Юг, лабиринтодонта-бентозуха Ефремов назвал в честь своего покойного учителя Bentosaurus sushkini. Но оказалось, что под таким именем уже зарегистрировано ископаемое животное. Тогда из бентозавра («донной ящерицы») существо превратилось в бентозуха — «донного крокодила». В 1929 году умер отец Ивана Ефремова. В этом году Ефремов стал уже не препаратором, а научным сотрудником Геологического музея. Он принял участие в двух экспедициях: он исследовал «динозавровый горизонт» у северных предгорий Тянь-Шаня в Средней Азии, а также заброшенные шахты и отвалы Каргалинских медных рудников, где издавна находили остатки древних животных. В семье Ефремова говорят о том, что именно во время экспедиции по Средней Азии в 1929 году Иван Антонович заболел какой-то странной лихорадкой, которая перически повторяясь, мучила его много лет.
И.А. Ефремов и Б.К. Пискарёв. Тургайская экспедиция. 1926 г.