Hello. I am adding some explanations, including the nuances between sentences that you wrote.

A Basic sentence.

図書館には(本)があります。: There's a book in the library.

The right ways to modify "a book".

１ 高島先生が書いた経済学の本。(simple past tense)
an economics book that Prof.Takashima wrote.
２ 高島先生が書かれた経済学の本。(honorific simple past tense. Not a passive verb)
３ 高島先生によって書かれた経済学の本。(passive verb)
an economics book written by Prof.Takashima.

1.) 図書館にある「経済学」のほんが高島先生から書きました。--- I tried using "Library" at the beginning.

A proper sentence example goes like this:
図書館にある経済学の本は高島先生が書いた本です。
This is grammatically good, but a bit clumsy that "本" appears twice in a short sentence. So, I would use もの at second.
図書館にある経済学の本は高島先生が書いたものです。
This is very natural, but readers could get the meaning like "All of the economics books in the library were written by prof.Takashima". For avoiding that, I write this:
図書館にある経済学の本の一冊は高島先生が書いたものです。(a book)
図書館にあるその経済学の本は高島先生が書いたものです。(the book)
図書館にある経済学の本の何冊かは高島先生が書いたものです。(some books)
図書館にある経済学の本のほとんどは高島先生が書いたものです。(most of the books)}

2.) 図書館には「経済学」の本があります。高島先生が書かれています。

--- Not sure how to write "It is written by Prof.Takashima." Can I use 「高島先生からです。」?

You cannot use 「高島先生からです。」 here.

高島先生が書かれています。
This might sound slightly unnatural. Because "います" could make readers feel "ongoing situation". It sounds like a progressive expression.

高島先生によって書かれた本です。:(A) book written by Prof.Takashima.
By adding "によって", "書かれた" changes its honorific expression into a passive verb modifier.

3.) 高島先生で「経済学」の本は図書館にあります。--- Should it be 「高島先生の..」 or 「高島先生で...」?
Should not be 「高島先生の..」

Entry #8 Random Writings!!

I'm trying to write this sentence in different ways:

There's an economics book written by Prof.Takashima in the library.

1.) 図書館にある「経済学」のほんが高島先生から書きました。--- I tried using "Library" at the beginning.

2.) 図書館には「経済学」の本があります。高島先生が書かれています。--- Not sure how to write "It is written by Prof.Takashima." Can I use 「高島先生からです。」?

3.) 高島先生で「経済学」の本は図書館にあります。--- Should it be 「高島先生の..」 or 「高島先生で...」?

--------------------------------------------------

1.) 図書館にある「経済学」のほんがは、高島先生からによって書きましたかれました。(Sounds unnatural)

2.) 図書館には「経済学」の本があります。高島先生が書かれています。(or 高島先生によって書かれています。)

3.) 高島先生での「経済学」の本は図書館にあります。

Great job!