“아무도 안 간 길 택했다”…70년 물리 난제 깬 박제근 교수

[이데일리 강민구 기자] 안정된 연구 대신 실패 가능성이 훨씬 큰 미지의 분야를 택한 과학자가 있다. 이미 국제학술지 ‘네이처’ 등에 논문을 발표하며 연구자로서 입지를 굳힌 뒤였다. 하지만 그는 40대 중반, 오히려 기존 연구를 내려놓고 아무도 가지 않은 길에 도전했다.

최근 서울대에서 만난 박제근 서울대 물리천문학부 교수는 이데일리와의 인터뷰에서 “등산도 모두가 가는 길은 계단이 잘 닦여 있지만, 새로운 길로 올라가면 아무도 본 적 없는 풍경이 있다”며 “연구도 편한 길을 가면 실패 확률은 낮지만 새로운 것은 나오지 않는다”고 말했다.

박 교수는 원자 한 층 두께에서도 자성을 유지하는 ‘2차원 자성 반데르발스 물질’ 분야를 개척한 세계적 연구자다. 그는 지난 2016년 약 70년간 이론으로만 존재했던 2차원 자성 현상을 세계 최초로 실험 입증하며 국제 학계의 주목을 받았다.

박제근 서울대 물리천문학부 교수.[이데일리 이영훈 기자]

70년 난제 실험으로 검증

박제근 교수는 연구자로서는 다소 늦은 40대 중반, 완전히 새로운 분야에 뛰어드는 결단을 내렸다. 인하대와 성균관대를 거쳐 서울대로 옮긴 뒤였다. 그는 “국내 최고 대학이라면 남들이 가는 길이 아니라 새로운 길에 도전해야 한다”고 판단했다. 기존 연구에서도 성과를 냈지만, 결국 선진 연구를 따라가는 방식에는 한계가 있다고 봤다. 그렇게 그가 선택한 분야는 당시만 해도 ‘세상에 존재하지 않는 물질’로 여겨졌던 2차원 자성 물질 연구였다. 기존 연구 방식과 20년 가까이 쌓아온 전문성까지 사실상 내려놓아야 하는 도전이었다.

박 교수는 “그 길로 가면 그동안 쌓아온 연구 기반이 모두 무의미해질 수 있어 주변에서 ‘바보 같은 선택’이라고 만류했다”며 “성공 가능성은 극히 낮았지만, 70여 년 동안 이론으로만 존재하던 2차원 자성 물질을 실제로 구현해보고 싶었다”고 말했다. 이어 “연구자로서 사회적 사명감을 갖고, 실패하더라도 의미 있는 도전을 하자는 생각으로 연구를 시작했다”고 설명했다.

우리가 흔히 사용하는 자석은 원자들이 입체적으로 배열된 3차원 구조다. 반면 물리학계에서는 원자 한 층 두께의 2차원 평면 상태에서도 자성이 유지될 수 있는지를 오랜 난제로 여겨왔다.

이론적 가능성은 1943년 노르웨이 물리학자 라르스 온사거(Lars Onsager)가 제시했지만, 실제 실험으로 증명한 사례는 없었다. 그러다 2016년 박제근 교수 연구팀이 세계 최초로 이를 실험적으로 입증하는 데 성공했다. 학생 시절부터 이어온 중성자 산란 연구와 자성 연구 경험이 바탕이 된 성과였다.

박제근 서울대 물리천문학부 교수.[이데일리 이영훈 기자]

박제근 교수에게는 오랜 시간 함께한 ‘비밀 병기’가 있다. 박사과정 시절부터 써온 연구 노트다.

박 교수는 2010년 2차원 자성 물질 연구를 시작했지만, 첫 2년 동안은 별다른 성과를 내지 못했다. 연구를 포기하려던 순간, 1993년 프랑스에서 박사후연구원으로 일하던 시절 읽었던 한 논문이 떠올랐다. 그 논문이 연구의 실마리가 됐다.

박 교수는 “당시 프랑스에서는 화학자와 물리학자가 한 실험실에서 함께 연구하는 문화가 있었다”며 “프랑스 낭트대 연구자가 정리한 1970~1980년대 자성체 연구 논문이 연구 방향을 다시 잡는 계기가 됐다”고 설명했다.

이후 연구를 이어간 끝에 박 교수 연구팀은 삼황화린철을 얇게 박리해 영하 118도 이하 환경에서 자성 원자층을 추출하는 데 성공했다. 이를 통해 세계 최초로 2차원 자성 반데르발스 물질을 구현했다.

현재 이 분야에는 전 세계 수천 명의 연구자가 뛰어들고 있으며, 매년 1000편 이상의 논문이 발표되고 있다. 박 교수가 처음 길을 연 연구가 이제는 하나의 독립된 학문 분야로 자리 잡은 셈이다.

박 교수는 “1916년 아인슈타인(Albert Einstein)이 일반상대성이론으로 예측한 중력파가 100년 뒤 실제로 검증되면서 새로운 연구 분야가 열린 것처럼, 과학에서는 이론만큼 실험적 증명이 중요하다”며 “증명은 연구 분야를 한 단계 도약시키는 계기가 된다”고 말했다.

박제근 교수의 연구 노트 일부분.(자료=박제근 교수)

“돈보다 발견의 기쁨”…젊은 연구자들에게 던진 메시지

박제근 교수는 최근 캘리포니아 공대(California Institute of Technology), 매사추세츠공대(Massachusetts Institute of Technology) 등 국내외 연구진과 협력해 지난 2010년부터 이어온 연구 성과를 총 88페이지 분량의 논문으로 정리했다. 단행본으로 출간하면 250페이지가 넘는 규모다.

논문에는 2차원 스핀 해밀토니안의 실험적 구현부터 자기 엑시톤, 플로케 조작 등 새로운 양자 현상까지 담겼다. 미해결 과제와 향후 연구 방향도 함께 제시해, 앞으로 관련 분야 연구자들의 표준 지침서 역할을 할 것으로 기대된다.

박 교수는 “연구에서는 장비도 중요하지만 국제협력을 통해 새로운 관점과 전문성을 얻는 것이 큰 도움이 된다”며 “처음에는 쉽지 않았지만 10년 넘게 협력을 이어오며 연구를 발전시켜 왔다”고 말했다.

그는 최근 이어지는 의대 선호 현상에 대해서도 아쉬움을 나타냈다. 자신 역시 의대를 권유한 부친의 뜻과 달리 물리학자의 길을 택했다고 했다.

박 교수는 “연구자에게 돈도 중요하지만, 세상에 없던 것을 처음 발견했을 때 느끼는 기쁨이 더 중요하다”며 “그런 도전이 지속되려면 안정적인 연구 환경과 장기적인 지원 체계가 필요하다”고 강조했다.

이어 “도전하는 연구자를 보호하지 않으면 결국 아무도 새로운 길에 나서지 않게 된다”며 “성공 확률은 낮더라도 새로운 연구에 도전했을 때 얻는 기쁨은 매우 크다. 젊은 연구자들도 자신만의 질문을 찾고 끝까지 연구를 이어갔으면 한다”고 말했다.

박제근 서울대 물리천문학부 교수는

△서울대 물리학과 학·석사 △영국 임페리얼 컬리지 런던 박사 △프랑스 국립과학연구센터(CNRS) 박사후연구원 △영국 버크벡 컬리지 연구교수 △현 서울대 물리천문학부 교수 △현 서울대 양자물질연구단장 △인하대 물리학과 교수 △성균관대 물리학과 교수 △한국물리학회 학술상 △한국과학상 △포스코 청암과학상