Вадим Ротенберг получил медицинское образование и специализировался в области психиатрии. Принимал участие в разработке концепций психологической защиты, изучал измененные состояния сознания, в частности, гипноз. Его работы по сну внесли большой вклад в современное понимание функций различных стадий сна, в особенности парадоксальной. В тридцать семь лет защитил докторскую диссертацию по психиатрии, посвященную исследованию сна человека, став, таким образом, одним из самых молодых докторов наук в области медицины в СССР. Вместе с В.Аршавским является автором теории поисковой активности — глобальной концепции, направленной на познание поведения и психики человека и животных.