다산은 의심할 바 없이 18, 9세기에 발생한 탈주자학적 흐름에 속한다. 그런 점에서 그의 사유는 분명 근대의 문턱에 서 있다고 할 수 있다. 만일 이 시대의 새로운 사유들이 주자학과의 대립을 통해서 형성되었다면, 이 사유들의 근저에서 우리는 주자학의 논리 구조와 대립되는 구조들을 발견할 수 있을 것이다. 다산에게서 이 구조들을 발견한다는 것은 그에게서 근대성의 전반적 경향인 경험의 인식론을 발견한다는 것을 뜻한다.
다산의 시대는 고증학의 시대이며 사변에서 검증으로 전환한 시대이다. 그러나 고증이란 과거로 거슬러 올라가 원전의 본래 모습을 복구하려는 것을 말하며, 본래라는 말이 함축하듯이 새로운 경험을 확장하는 것은 아니다. 다산의 저작에서 우리는 종종 기재고경 절무차어(其在古經 絶無此語), 비수사지구(非洙泗之舊) 같은 말들을 발견한다. 이것은 근대적인 의미에서의 경험주의는 아니다.
또 다산을 포함해서 18, 9세기의 새로운 학문 경향을 실학이라고 할 때, 이것이 반드시 근대적인 것은 아니다. 서구에서 실용주의는 근대성의 최종 단계로서 등장했지만, 동북아의 학문은 원래 실용적이었기 때문이다. 우리는 다산 사유의 근대성을 보다 근본적인 곳에서 찾아야 한다.
전통 사회의 사유를 특징짓는 핵심적인 말은 본연(本然)이다. 본연의 선험적 존재를 부정하는 지점이 근대성의 문턱이다. 본연의 존재를 상정하고 그 본연의 존재가 인식과 도덕을 정초한 것은 동서의 사유에 공통된다. 우리는 생물학사에서도 아프리오리한 표를 전제했던 고전 시대의 박물학과 우발성에 기초한 실증 과학으로서의 생물학이 성립한 19세기가 대립함을 볼 수 있으며, 이러한 변화는 대다수의 담론들에서 공통으로 추출된다.
본연을 상정한다는 것은 모든 사물들을 그 본연을 기준으로 존재론적으로 또 가치론적으로 배열함을 뜻한다(가치-존재론). 따라서 본연지성이 절대적 기준이라면 다양한 형태의 기질지성은 그 기준으로부터 각각 다른 거리에 떨어져 있는 현실적 존재이다. 때문에 근대성의 한 문턱은 바로 본연에 대한 거부,그리고 현실적 존재에 대한 경험적 인식에 있다. 여기에서 우리는 다산이 본연의 개념을 강력하게 거부하는 까닭을 알 수 있다.
다산은 본연의 성은 본래 같지 않다[本然之性 原各不同]고 말한다. 본연의 리와 현실적 기의 대립이라는 주자의 선험적 구도에, 다산은 본래적 기를 제시한다. 그러나 다산에서의 본래는 더 이상 선험적-절대적 기준으로서의 리가 아니라 현실적 기이다. 현실 자체가 본래가 된다. 현실과 본래의 일치는 근대성의 문턱을 넘어섰을 때 일정하게 나타나는 哲學素이다.
선험적 구도를 취할 경우 리는 만물에 보편적으로 부여되며, 기의 차이에 따라 사물들의 차이가 형성된다. 기가 개별화의 원리로서 작용한다. 그러나 경험적 구도를 취할 경우 기가 만물에 보편적인 것이 되고 리는 부정된다. 그 리에 대비해 개별화의 원리로서 작동하는 것은 이제 현실적 도의이다. 도의를 통해 인성과 물성이 구분된다. 기에 대한 인식은 주체가 그에 부딪침으로써 이루어진다. 따라서 인식은 경험적이며 유한하다. 객체의 동일성은 무너진다.
이에 상관적으로 주체의 동일성도 무너진다. 성(性)이 순수 기준으로서 존재할 때, 도덕적 행위는 마이너스의 행위, 되돌아가는 행위이다. 그러나 인간의 현실적 존재, 즉 심(心)을 본래로서 인식할 때 인간의 도덕적 행위는 무엇인가로 나아가는 행위, 만들어 가는 행위로 변환된다.
성(性)은 행위 이전에 존재하는 선험적 원리가 아니라 행위 후에 성립하는 이상(理想)이요 결정체이다[仁義禮智之名 成於行事之後. 故愛人而後 謂之仁 愛人之先 仁之名未立也, 善我而後 謂之義 善我之先 義之名未立也, 賓主拜揖而後 禮之名立焉, 事物辨明而後 智之名立焉. 豈有仁義禮智四顆 磊磊落落 如桃仁杏仁 伏於人心之中者乎]. 마음은 경험을 향해 열려 있는 경향성으로 파악되며, 노력의 개념을 통해 특징지어진다.(멘느 드 비랑이 여전히 중세적 기반 위에서 움직였던 데카르트의 사유를 극복하고자 했을 때 노력 개념이 핵심적 역할을 했다는 것을 상기할 필요가 있다)
다산의 사유를 합리적이라고 특징짓는 것은 막연한 의미가 아닌 한 정확하지 못하다. 합리적(合理的)이란, 바로 이 말 자체가 성리학적인 표현이거니와, 바로 객체와 주체의 동일성 및 그 사이의 동일성을 전제하는 태도를 가리키기 때문이다.
주희에게서 전형적으로 나타나는 중세적 합리주의든, 데카르트에게서 전형적으로 나타나는 근세 합리주의든, 합리주의는 경험의 안개를 걷어내면서 세계와 인간의 투명한 알맹이를 발견하는 것을 기본으로 하기 때문이며 나아가 존재와 사유의 일치라는 대전제 아래에서 움직이기 때문이다. 다산에게서 이런 태도가 막연한 신념으로서 존재하는 것은 사실이지만, 정확한 의미에서 다산의 인식론적 정향은 경험적이며 따라서 탈중세적임이 분명하다. 다산에게서 우리는 경험하는주체의 모습을 발견한다.
이러한 성격은 그가 동북아 사유의 핵심 개념들을 감성적 언표들에까지 끌고 내려오려고 할 때 두드러지게 나타난다. 합리주의는 기호 작용적 의미론으로 기운다. 경험적 언어들은 산만하고 불투명하다. 합리주의는 이런 산만함과 불투명함을 조금씩 제거해 나아가 보다 추상적이고 심층적 존재를 찾아간다.
그에 따라 언어 또한 추상화된다. 다산은 이렇게 추상화된 언어들을 경험의 구체적 장으로 다시 환원시킨다. 이것은 인(仁)을 인(人)과 인(人)으로, 의를 선(善)과 아(我)로, 예(禮)를 시(示)와 곡(曲)과 두(豆)로,지(智)를 지(知)와 백(白)으로 환원시켜서 이해할 때 뚜렷이 드러난다. 이렇게 함으로써 다산은 유자(儒者)들의 언어를 구체적 사물들과 구체적 행위들에 맞닿는 지시 작용적 의미론으로 되돌리려고 한다. 그리고 이런 경향은 모든 경험주의, 실증주의의 시초에 나타나는 공통된 경향이다.
그러나 다산은 리/성을 거부하는 그곳에서 상제를 긍정함으로써 중세 저편으로 뒷걸음질친다. 서학의 영향으로, 다산은 인격신의 개념으로 기울어지며 고대적 신앙으로 회귀한다. 상제(上帝)의 존재를 알 수 있는 근거는 우리 마음속의 도심(道心)에 있다. 그리고 이 도심에 의해서 인간은 초목금수(草木禽獸)와 구분된다.
결국 초월적 존재의 긍정, 초월적 존재와의 끈으로서 인간 고유의 마음의 긍정, 그리고 초월에 이어지는 마음의 고유함으로부터 연역되는 인간 존재의 특수성이라는 논리 구조, 우리가 서구 중세나 초기의 근대에서 찾아낼 수 있는 논리 구조는 다산에게서 고스란히 발견된다. 다산은 근대성의 문턱을 넘어 새로운 시대를 흘낏 보았지만, 끝내 그 문턱을 온전하게 넘어서지는 못했다.
