본관은 강릉(江陵). 자는 열경(悅卿), 호는 매월당(梅月堂)·청한자(淸寒子)·동봉(東峰)·벽산청은(碧山淸隱)·췌세옹(贅世翁), 법호는 설잠(雪岑). 서울 출생. 생육신의 한 사람.

그의 선대는 태종무열왕의 후손인 김주원(金周元)이다. 그의 비조(鼻祖)는 고려시대 시중을 지낸 연(淵)·태현(台鉉)로 전하고 있으나 이는 잘못 전해진 것이다. 『매월당집』의 세계도(世系圖)에 의하면 김인존(金仁存)이 맞다.

증조부 김윤주(金允柱)는 안주목사(安州牧使), 할아버지 김겸간(金謙侃)은 오위부장(五衛部將), 아버지 김일성(金日省)은 음보(蔭補)로 충순위(忠順衛)를 지냈으며, 그의 어머니는 울진 선사 장씨(仙槎張氏)이다