Родился 28 августа в Москве, в семье инженера. Воспитанием занималась мать, переводчица-тюрколог, впоследствии член СП, имевшая большое влияние на будущего писателя. После окончания школы поступил в Институт связи, из которого ушел после первого курса, поняв, что это не его призвание. Уходит в армию, по собственному желанию выбрав стройбат, где меньше было идеологического воспитания. Служил в Ангарске. После армии работал, сменив много профессий: был плотником, слесарем, могильщиком на кладбище. В 1972 поступает в Литературный институт им. М.Горького на отделение критики. Проучившись несколько лет, переходит с дневного отделения на заочное. Слава пришла к нему вместе с дебютом в журнале "Новый Мир" - повесть "Смиренное кладбище" (1987, № 5) заставила говорить об авторе как о сложившемся, необычном писателе. В 1989 вышла в свет повесть "Стройбат", тоже привлекшая внимание читателей. В 1990 режиссер Ленинградского Малого драматического театра Л.Додин поставил по этой повести спектакль, имевший большой успех в гастрольных поездках театра по России и другим странам. В 1991 опубликована новая повесть писателя - "Поп и работник". "Тахана Мерказит" (что значит на иврите - "Главный автовокзал") - появилась в "Континенте" в 1996. Каледин живет и работает в Москве. Произведения Каледина издавались в переводе на английский, иврит, немецкий, французский и другие языки. По повести "Смиренное кладбище" поставлен одноименный кинофильм (1989; реж. А.Итыгилов). Был членом исполкома Русского ПЕН-центра (1989-94).
