犬山城的築城位置，地處過往尾張國（愛知縣西部）的北端，是木曾川沖積扇地形的要地（扇頂）所在。此為木曾川上游山區與下游平原的接壤位置，曾是運送木曾山區木材時備受重視的中繼站。與此同時，木曾川在過去也扮演著尾張國與美濃國（岐阜縣）的國境。從西北西有岐阜城、南有名古屋城亦可看出，這塊要地因而成為了無數戰役上演的舞台。犬山城築於木曾川南畔，一座海拔約85m的斷崖狀丘陵（因築有城池而稱「城山」）之上。

犬山城及南側一整片的城前市鎮（隨城池發展出的市鎮），整體設有以護城河及土壘圈圍防禦的「外郭」結構。出入口處配置曲柄狀道路^①，以求易守難攻。若以現今道路而言，自犬山站^②往前不遠的十字路口處，即有過往用來防止敵軍入侵的護城河（外護城河）^③橫切而過。從此處開始將轉為平緩的坡道，一路通往當時城前市鎮的主要街道「本町通」^④。本町通在周遭道路中有著最高海拔，地基亦很穩固，曾是連接犬山城和名古屋城的主要街道。

城池為求防禦，會具備數處平坦地面（「丸」，即城區）、護城河、土牆（土壘）、在城山（城池所在的山地）斜面削鑿出的斷崖（峭壁）、石牆等土木設施（土木工程）、門與圍牆、櫓，以及稱為「天守」的建築物，上述佈局就稱為「城池範圍」。
在犬山城的身後（北側）有斷崖和木曾川提供庇護；東側有峭壁及護城河；西側有峭壁，並配置乾溝與土壘；是一座南北狹長狀的城池。
主城區「本丸^①」位於山頂處；在向南的階梯地形上，則配置著名為「杉之丸^②」、「樅之丸^③」、「桐之丸^④」、「松之丸^⑤」的城區。「大手道」穿過城池中央，自山麓處一路連向本丸，並可通往各個城區。大手道上有5道門^⑥，皆設計成無法直線走向下一道門的結構，每道門的外側都圍有石牆和土壘。此種人稱「外枡形」的出入口（「虎口」）一個接著一個，據說具有堅強的防禦能力。