「自信がない」　・・・・・「Subject　＋　は　自信がない。」 Of course, the subject can be omitted in a sentence like... 「自信がないとき、私は日本語で話しません。」 「自信のない」　・・・・・「自信のない　＋　Noun」 Although, the 「が」　can be transformed into 「の」 when it comes in the 「～とき」, so 「自信のないとき、私は日本語で話しません」　is also a good sentence. 難しいですね～！！

When you say "I'm not sure" or "I'm not confident", you can only use "私は自信がない。" "自信のない" is always followed by a noun. e.g. 「自信のない人」、「自信のない顔」、「自信のない時」, etc.