“13년 연구 블랙홀 난제 푼 AI, 나와 접근법 달라 내 몫도 남아”

전혜진 기자

입력 2026-11-12 00:30

|
폰트
|
기사공유 | 
  • 페이스북
  • 트위터
삼성미래기술육성 첫 우수 연구자
오성진 美 UC버클리 수학과 교수
“AI가 먼저 해법, 처음엔 두려워
수학의 가치 되돌아보는 계기 돼”


5일 서울 강남구 웨스틴 서울 파르나스 호텔에서 오성진 미국 버클리 캘리포니아대(UC버클리) 수학과 교수가 본보와 인터뷰하고 있다. 오 교수는 이날 ‘삼성미래기술육성사업 2026 애뉴얼 포럼’에서 수리과학분야 우수연구자로 선정됐다. 김재명 기자 base@donga.com

지난달 6일 미국 버클리 캘리포니아대(UC버클리). 강의실을 나서던 오성진 수학과 교수(37)에게 동료의 문자메시지가 도착했다. 인공지능(AI) 기업 오픈AI가 공개한 300개 넘는 수학 난제의 연구 결과에 오 교수가 13년간 연구해 왔던 블랙홀 관련 난제가 포함됐다는 내용이었다.

5일 동아일보와 만난 오 교수는 “처음엔 오만 가지 생각이 다 들었다”면서도 “여전히 인간이 이해할 수 있도록 하는 것이 수학의 가치라는 점을 더욱 되새기는 계기가 됐다”고 말했다. AI가 빨리 풀더라도 결국 인류의 지식이 되도록 쌓는 것은 인간 수학자의 몫이란 의미다. 블랙홀 내부의 비밀을 수학적으로 밝혀 세계적으로 이름을 알린 오 교수는 이날 삼성미래기술육성사업의 첫 우수 연구자로 선정돼 화제가 됐다. 오 교수는 AI의 도전 속에도 “여러 문제들을 풀려고 시도하고, 나의 연구를 통해 이런 어려운 문제가 후속 세대에게 쉬운 문제가 되도록 하는 것이 목표”라고 말했다.


● 삼성 지원으로 연구 ‘2막’… “난제 해결에 계속 도전”

‘미래기술육성사업’은 도전적 연구 과제 수행을 통해 기존의 한계를 극복하고, 산업과 인류 사회의 지속 가능한 발전을 지향하는 연구 과제를 발굴해 지원하는 삼성의 대표적 사회공헌 활동이다. 오 교수는 2017년부터는 삼성미래기술육성사업의 지원을 5년간 받았고, 올해 우수연구자로도 선정됐다.

삼성의 지원은 연구의 ‘2막’을 고민하던 오 교수에게 새로운 도전의 기회가 됐다. 14세에 한국과학영재학교에 입학하고, KAIST를 2년 만에 졸업한 ‘천재 수학자’인 그에게도 한정된 연구비는 압박이 될 수 있기 때문이다. 그는 “창의적인 연구를 하려면 긴 호흡의 시간이 필요하다”며 “(지원 덕에) 연구비 걱정 없이 그동안 깊이 공부하지 못했던 ‘선형 미분방정식’ 분야의 교과서를 기초부터 읽을 수 있었고, 그 지식이 향후 연구의 기초가 됐다”고 했다.

그렇게 시작된 블랙홀 연구로 오 교수와 조너선 럭 스탠퍼드대 교수의 2019년 논문은 수학계 최고 권위지 ‘애널스 오브 매스매틱스’에 실렸다. 블랙홀 내부의 불안정성을 수학의 비선형 쌍곡 편미분방정식으로 규명해 현대 수학의 난제를 해결할 돌파구를 제시했다는 평가를 받은 것이다. 오 교수는 4년에 한 번 열려 ‘수학 올림픽’으로 불리는 2026 세계수학자대회 강연자로 초청돼 주목받았다.


● AI가 13년 연구한 난제 해법… “처음엔 두려워”

블랙홀 연구를 확장해 온 오 교수의 새로운 도전은 AI다. 최근 오픈AI가 공개한 논문 세 편이 바로 오 교수가 연구해 온 난제의 해법을 먼저 제시한 것이다. 오 교수는 “올해 6월에야 앞 단계의 연구가 마무리돼 ‘이제 해볼 수 있겠다’고 생각했는데, 10월에 오픈AI의 논문이 나왔다”고 전했다.

하지만 그는 논문 검토 과정에서 AI가 자신과 다른 방식으로 문제에 접근했음을 알게 됐다. 오 교수는 “100m 달리기에서 추월당한 게 아니었다”며 “내가 하려던 연구가 쓸모없어진 건 아니라는 데 안도했다”고 말했다.

이 경험은 수학의 ‘가치’를 되돌아보는 계기가 됐다. 오 교수는 세계 정상급 바둑 기사 신진서 9단을 예로 들었다. 신 9단은 자신이 둔 수백 판의 경기를 복기할 수 있다고 한다. 돌의 위치를 외우는 게 아니라 각 수에 담긴 의미를 이해하기 때문이다.

수학도 AI가 내놓은 답을 아는 것과 그 원리를 이해하는 것은 다르다는 게 그의 생각이다. 오 교수는 “공을 던지면 포물선을 그린다는 사실은 뉴턴 이전에도 알았지만, 뉴턴이 그 움직임의 법칙을 밝혀내면서 로켓이 어떻게 움직이는지까지 설명할 수 있게 됐다”며 “원리를 이해해야 그로부터 새로운 것을 만들어낼 수 있다”고 강조했다.

AI 시대에도 수학 연구의 가치는 난제 해결을 넘어 인류의 이해를 넓히는 데 있다는 게 오 교수의 생각이다. 그는 “여전히 풀고 싶은 문제가 굉장히 많고, 답을 알고 싶다보다 어떤 식으로 해야 우리의 이해가 증진될까를 고민하고 있다”고 말했다.



전혜진 기자 sunrise@donga.com

라이프



EV라운지
모바일 버전 보기