文脈から判断できないのでなんとも言い難いですが、あえてmoreが不要な点を上げると
仮定法である点
勉強なんてしてなかった。
という意味に取れます（仮定法なので）
勉強していなかったので、「もっと」を表すmoreはおかしい
「もっと」＝「一生懸命」＝hard
と捉えるべき事案かと思います
勉強してたよ。でも足らなかった。
という背景のもと
もっと勉強していたら………
ということなら、そもそもhardではなく
他の単語（例えばa lotとか）を使うはず
一生懸命に勉強したのにまだ足りない。あのときもっと勉強時間を増やしていたら………
という感じ。
hard が入ってる時点で｢もっと｣って意味を示せてるから、そこにmoreを入れてしまうと、文章的に変になるからだと思います！
MOREを外した場合，hardは比較級にはならないですか？？
もっと一生懸命に勉強＝より一生懸命に勉強
I should have studied more.(量)
I should’ve studied harder. (程度)
どっちでもいいと思います。
あれ？MOREにしたり比較級にしていいんですか？？？
ここでのmoreやharderは比較級(+than)という感じではなく、
I should’ve studied more(, but I didn’t).
= If I had studied harder, I would have passed the exam.
という感じです。(説明が下手ですみません)
リュウさん、オゾさんの回答の意味は以下のようになります。
①I should have studied very much(原級).私はたくさん勉強するべきだった。
→ I should have studied more(比較級). 私はもっとたくさん勉強するべきだった。 ※much → more → most
＊more は many/much の比較級でもあり、また beautiful(原級)などの比較級を作る more beautiful でもあります。
②I should have studied hard(b原級). 私は一生懸命に勉強するべきだった。
→ I should have studied harder(比較級). 私はもっと一生懸命に勉強するべきだった。 ※hard → harder → hardest
この質問を見ている人は
こちらの質問も見ています😉
英語は日本語と違ってあまり空気読まない言語だから。
例えばこんな会話があったとする
Ａ「なあ、この単語なんて意味なん？」
Ｂ「さあ？俺、辞書持ってないし」
日本語ならＡ【ああ、辞書を持ってないから調べることもできないって言うことを言いたいんやな】と空気を読む
一方英語なら
Ａ【だからなんやねん？知らんなら知らんて言えや】
となる