请问,对或还是不对？

Above sentence is grammatically correct.

如果你句子中的“你”是一个ghost或zombie，也许会让你起鸡皮疙瘩。

如果“你”指的是你的朋友，你怎么会起鸡皮疙瘩？反正我是不会。

I think get is better than have in your English example.
When I think of you I get goosebumps.

The following examples are cited from cambridge dictionary online.

You're cold - look, you've got goosebumps!

在普通话里，起鸡皮疙瘩是“恐怖”、“肉麻”、“恶心”或者冷的意思，不是好的形容。所以在这里你表达的是对这个人的不喜欢或者害怕。

“我想想你的时候” 是不对的。应该是“我想起你的时候”，或者“当我想你的时候”。

“我有鸡皮疙瘩”不对。应该是“我会起鸡皮疙瘩”