A new library they decided to build.は間違いではありません。
但し、これは目的語を文頭に置く「強調構文」であり、普通の文は②です。
何か強調する意図があれば、①は可能です。
①A new library(O) they(S) decided to build(V). 新しい図書館を、建設することが決定された。<訳例>
②They(S) decided to build(V) a new library(O). 新しい図書館を建設することが決定された。
参考にしてください。