"Я не видел собаку в саду" (единственное число и родительный падеж отвечает на вопрос кого? - собаку) или " Я не видел собак в саду". (Множественное число и родительный падеж отвечает на вопрос кого? - собак)

If you say "Я не видел собакУ в саду" it will not be a mistake as well. I think a reason "собаки" is a supposed word "никакой" or "какой-либо", then there will be right to speak "Я не видел (никакой, какой-либо) собаки в саду".

Я полностью согласен с Надеждой. С чего бы ради родительный падеж в предложениях такого рода стал устаревшим? Вполне себе литературная норма - откройте любую книгу и найдете массу примеров. Как с одушевленными, так и с неодушевленными субъектами.

При отрицании может использоваться существительное в родительном падеже ( наравне с винительным). В частности, при глаголах восприятия и мыслительной деятельности. Не видел собаки - это нормативное словоупотребление, не устаревшее, как Вам заявил Vlad. Я с его утверждением не согласна. Не видел (кого?) собаки (р.п.) Не видел (кого) собаку (в.п). Оба варианта правильны и допустимы в литературном языке.

Using the genitive case with animate nouns is probably incorrect nowadays (though, as K P has already pointed out, it used to be the only correct usage a few centuries ago). The genitive case with non-abstract inanimate nouns is considered colloquial (Я не вижу машину/Я не вижу машины - technically, both are correct, but the first one is preferable).