인간은 자신에게 손해가 되더라도 타인이나 집단을 위해 희생하는 독특한 성향을 지니고 있습니다. 헌혈을 하거나 추운 날씨에도 사회적 정의를 위해 광장에 모이는 행동은 생물학적 관점에서 보면 하나의 수수께끼와 같습니다. 자연 선택의 과정에서 자신에게 이득이 되는 행동을 하는 개체가 살아남는 것이 일반적임에도 불구하고, 왜 인간은 타인에게 이득을 주는 '이타성'을 진화시켜 왔을까요? 이러한 의문은 진화학뿐만 아니라 경제학과 사회과학 전반에서 매우 중요한 연구 주제로 다루어져 왔습니다.

협력의 어려움을 설명하는 대표적인 모형은 '죄수의 딜레마'입니다. 도움 게임에서 개인은 협력을 통해 상대에게 이득을 줄 수 있지만, 그 과정에서 스스로 비용을 부담해야 합니다. 만약 모든 개인이 자신의 이익만을 극대화하려 한다면, 아무것도 하지 않고 상대의 도움만 받는 '무임승차'가 가장 유리한 선택이 됩니다. 결국 모두가 무임승차를 선택하게 되면 사회 전체적으로는 더 나은 결과를 얻을 수 있음에도 불구하고 비효율적인 상태에 머물게 됩니다. 이것이 바로 협력이 진화하기 어려운 근본적인 이유입니다.

더 나은 결과가 존재함에도 불구하고 개인의 이익 극대화라는 방향과 일치하지 않아 균형에 도달하지 못하는 것이 협력의 딜레마입니다.

이러한 한계를 극복하기 위해 제시된 가설 중 하나는 혈연 선택과 직접 호혜성입니다. 유전자를 공유하는 친족을 돕는 행위는 결과적으로 자신의 유전자를 보존하는 데 유리하게 작용합니다. 또한, 특정한 상대와 오랫동안 거래를 지속하는 환경에서는 '눈에는 눈, 이에는 이'와 같은 전략이 유효해집니다. 내가 먼저 도움을 주었을 때 미래에 상대방으로부터 도움을 받을 확률이 충분히 높다면, 당장의 손해를 감수하는 협력 행위는 장기적으로 개인에게도 이득이 되는 합리적인 선택이 될 수 있기 때문입니다.

인간 사회의 협력은 직접적인 관계를 넘어 평판이라는 기제를 통해 더욱 확장됩니다. 이를 '간접 호혜성'이라고 부르는데, 제3자가 타인의 협력적인 행동을 관찰하고 그에 대한 긍정적인 평판을 부여함으로써 협력이 촉진되는 방식입니다. 우리는 일상적인 대화의 상당 부분을 타인에 대한 평가에 할애하며, 좋은 평판을 가진 사람과는 기꺼이 거래하려 합니다. 이러한 메커니즘은 특정 개인과의 반복적인 만남이 보장되지 않더라도 사회 전체적으로 협력이 유지될 수 있는 강력한 토대를 제공합니다.

인간은 다른 동물과 달리 제도를 만들어 협력의 환경을 조성합니다. 수렵 채집 사회의 평등주의적 분배 관습은 무임승차자가 얻는 이득을 억제하고 협력자가 겪는 손해를 줄여주는 역할을 했습니다. 만약 사회가 평등한 분배 제도를 갖추고 있다면, 협력자와 무임승차자 사이의 보수 격차가 줄어들어 협력적인 속성이 도태되지 않고 살아남을 가능성이 커집니다. 이처럼 제도는 진화적 압력으로부터 협력자들을 보호하며, 인간 사회가 대규모의 복잡한 협력 체계를 구축할 수 있도록 돕는 핵심적인 장치가 됩니다.

실제 실험 결과에 따르면 인간은 무조건적으로 협력하기보다 타인의 행동에 반응하는 '조건부 협력자'의 면모를 보입니다. 타인이 협력할 것이라는 기대가 있을 때만 자신도 협력에 참여하며, 무임승차자를 발견하면 자신의 비용을 들여서라도 처벌하려는 성향을 나타냅니다. 이는 협력이 단순히 선의에만 의존하는 것이 아니라, 상호 간의 신뢰와 감시라는 정교한 심리적 기제 위에서 작동함을 의미합니다. 따라서 사회적 신뢰가 붕괴되어 타인을 이기적이라고 믿게 되는 순간, 협력의 연쇄 고리는 쉽게 끊어질 수 있습니다.

현대 사회에서 협력은 국가와 시장, 그리고 공동체라는 세 가지 축의 균형 속에서 이루어집니다. 과거에는 국가나 시장이 공동체의 역할을 대체할 수 있다고 믿었으나, 최근의 연구들은 이들의 보완적 관계에 주목하고 있습니다. 자유로운 개인들이 타인을 고려하며 형성하는 도덕적 감정은 공동체의 본성적인 토대가 됩니다. 우리가 더 바람직한 사회를 만들기 위해서는 이기심을 억제하는 것을 넘어, 타인에 대한 긍정적인 기대를 회복하고 이를 뒷받침할 수 있는 제도적 장치를 마련하는 지혜가 필요합니다.