Zamień pierwszy selektor na dziecko, którego testujesz, a drugi selektor na rodzica, dla którego testujesz.
if ( $(".child-element").parents("#main-nav").length == 1 ) ( // YES, the child element is inside the parent ) else ( // NO, it is not inside )