수학자의 뇌 탐험

황동욱 국가수리과학연구소 선임연구원

최근 3차원 영상, 실사와 컴퓨터 그래픽이 어우러져 환상적인 세계를 그린 <아바타>라는 영화가 크게 사랑을 받았다. 화려한 화면과 더불어 영화의 핵심에는 대자연 안에서 이뤄지는 사물과 인간 교감의 아름다움이 잘 나타났다고 생각한다. 자연과의 교감, 다른 생명체의 감각과 생각을 공유 또는 소통하는 과학적 상상력이 이 영화의 근간이라 할 수 있다. 영화의 주인공이 다른 동물과 의사소통을 위해 기다란 머리끝 신경다발을 동물의 신경다발과 연결하고 동물과의 교감을 형성하는 장면은 이 영화의 하나의 주춧돌과 같다. 이 영화에서 보여주는 아바타나 동물과의 교감은 정말 현실적으로 가능한 것일까?

이런 물음에 대한 답을 지금 하기에는 인간의 과학적 지식이 아직은 부족하다. 우주를 탐사하고, 컴퓨터를 만들고, 세포속 유전자의 구조를 밝혀내는 현대과학이 왜 아직도 1.3㎏정도에 80%가량이 물인 뇌에 대해서는 많은 부분을 알아내지 못하고 있을까?

뇌 연구의 첫번째 어려움은 기존의 과학탐구 대상체보다 뇌는 훨씬 더 복잡한 구조를 가지고 있다는 것이다. 뇌는 서로 연결된 천억개의 신경세포로 이루어져 있다. 현미경을 통해 보면 신경세포들은 복잡한 구조로 뒤엉켜 연결돼 있고, 전체 뇌의 관점에서 보면 각기 다른 기능을 갖는 뇌의 영역들이 신경섬유다발들에 의해 실타래처럼 연결되어 있는 것을 볼 수 있다.

두 번째 어려움은 이러한 뇌의 활동을 연구하기 위해서는 활동하고 있는 전체 뇌를 이용해 연구해야 한다는 것이다. 생명체는 전자제품이나 기계와 같이 한 부분을 추출해서 실험한다고 했을 때, 생명체 안에 있을 때와 똑같은 행동을 할 수가 없다. 즉 생명체의 한 부분을 정확히 이해하기 위해서는 분리해서 하는 탐구에 제한이 있고, 그 부분이 사용되는 전체를 한꺼번에 연구해야 한다.

이러한 뇌 연구를 위해서 그동안 여러 분야에서 연구가 진행돼 왔다. 앞으로 뇌 과학의 연구는 더 빠른 속도로 진행될 것이며 그 연구결과가 인류의 많은 부분을 바꿀 것으로 기대하고 있다. 그 이유는 현대과학의 다양한 결과물이 지금까지의 어려움을 해소할 수 있는 새로운 기술과 관점들을 제공하고 있기 때문이다.

자기공명영상장치(MRI)와 같은 뇌영상 장비는 생물학적인 손상없이 살아 있는 동물의 신경세포 활동을 기록하고, 뇌의 영역간 연결구조를 촬영할 수 있다. 첨단 컴퓨터 기술은 수천만장의 현미경사진들을 한꺼번에 처리해 신경세포연결 구조를 재구성할 수 있게 했다. 세포 수준의 신경세포 연결지도에서 전체 뇌의 연결구조에 이르기까지 그 연결구조, 각 영역의 신경세포 특징들에 대한 데이터가 앞으로 수년간 쏟아져 나올 것으로 예상된다.

이렇게 나온 연구결과에서 인류는 뇌에 대한 본격적 탐험을 시작하게 된다. 그런데 거기에 왜 수학자가 필요할까? 그것은 쏟아져 나올 데이터를 분석하는 방법 역시 새로워져야 할 필요 때문이다.

복잡한 구조와 전체를 한꺼번에 연구하는 새로운 패러다임으로서 복잡계에 대한 연구가 최근 큰 진보를 보였다. 하지만, 뇌는 그 복잡성과 중요도에서 복잡계 연구 중에서도 가장 도전적인 분야다. 이런 도전적인 분야에서 뛰어난 상상력과 직관을 통한 문제의 추상화, 그리고 추상화된 문제를 논리적으로 해석해나가가려보니 수학이 필요해졌다. 18세기 수학자 오일러의 ‘쾨니스버그의 일곱 개 다리’ 문제에서 그런 것처럼 수학적 직관은 복잡계 문제를 연구하는 데 필수인 것이다. 그러므로, 뇌 과학에서 복잡계에 관한 수학적 접근은 이제 선택이 아니라 필수가 되고 있다.　

황동욱 박사 국가수리과학연구소 선임연구원