Your question is very difficult topic even for Koreans. Someone says "했었어" is a wrong expression which is influenced by English. But we use it in our ordinary conversation with a slight difference in nuisance. For example, 그를 저주했었어. (I had cursed him. But now ...) 그를 저주했어. (I cursed him, and I still ...) I hope it helps.

이미 지난 과거라는 것을 더 강조하기 "었었"을 쓰기도 합니다. 영어에는 과거(past)와 과거완료(past perfect) 표현이 있지만 한국어에는 과거 표현만 있기 때문에 과거완료를 표현하기 위해 쓰기도 합니다. 하지만 문법적으로 "했었었다"는 틀린 말입니다. 쓰지 않는 것이 더 좋겠네요.

-었었- (1) 어떤 사건이나 행동이 과거의 어느 시점에서 완료되었음을 나타내는 말. 나는 지난해 여름까지 난초를 정성스레 길러 내 방에 두었었다. 그는 힘이 닿는 데까지 그녀를 도와주었었다. (2) 현재에는 지속되지 않는 과거의 어떤 상태를 나타내는 말. 예전에 그는 정말 멋있었었다. 얼마 전까지 이곳에는 큰 연못이 있었었다. (3) 과거에 대한 회상을 나타내는 말. 지리산 산사로 오르는 길은 참 멀었었다. 지난여름 집중 호우 때 우리는 간신히 구조되었었지. (4) 과거의 행동이나 상태를 강조하는 뜻을 나타내는 말. 그녀도 젊었을 땐 피부에 탄력이 있었었다. 나는 오늘 그의 전화를 하루 종일 기다리었었다.

A: 학교 다닐 때 공부 잘 했었어? B: 중학교 때는 잘 했었었는데 or 잘 했었는데 both are fine. 고등학교 때는 잘 못했어. A: 초등학교 때는? A: 못 했었어. or 못 했었었어. both are fine. B: 못 했었었었다고? or 못 했었었다고? or 못 했었다고? three of them are all fine.

했었어 is just past 했었었어 is you used to do it but now you dont 예전에 담배를 폈었었지 지금은 끊었어