서명은 교수의 과학이야기
고분자를
통해
보는 세상

구글 딥마인드가 개발한 알파고가 이세돌과 대결한 것이 2016년이니 벌써 10년이 지났다. 바둑계는 영영 그 전으로 돌아갈 수 없게 되었다. 즉 이제 사람은 AI를 이길 수 없다는 것이 너무 당연해진 것이다. 필자는 바둑을 잘 모르지만, 마치 무협지에서 각자의 기풍을 세우고 기력을 연마한 고수들이 맞붙는 느낌이 들어 어린 시절 아버지께서 바둑 중계를 보실 때면 옆에서 같이 보고, 신문에 바둑 기사가 나오면 즐겨 읽었다. 이 상황을 무협지에 비유하자면 인간은 감히 범접할 수 없는 천계의 기계 고수 알파고가 인세에 내려와 일세 지존에게 도전한 셈이며, 군웅들은 알파고를 보고 천외천이 실재했다는 것을 깨달은 식이다.
물론 체스처럼 상대적으로 경우의 수가 적어서 모든 가짓수를 계산하는 것이 용이한 게임은 이미 예전부터 기계가 우위를 확립했지만, 바둑은 가능한 가짓수를 모두 계산하기에는 너무나도 많기 때문에 기계가 사람을 따라잡기는 쉽지 않을 것으로 생각해 왔고 바둑 소프트웨어들의 수준 또한 1단에도 미치지 못하는 경우가 대부분이었다. 반면 강화 학습을 통해 바둑을 배운 알파고는 AI가 무엇을 할 수 있는가를 단적으로 보여줌으로써 전 세계에 충격을 안겼다. 그렇다면 AI를 넘어서는 것이 불가능하다고 할 때, 바둑기사들은 어떻게 살고 있을까?
사람들끼리 대전하는 기전들은 AI를 이용한 치팅을 금지하는 조건에서 운영되고 있다. 기사들은 AI가 어떻게 수를 두는지를 공부해 실전에 응용한다. 기계 학습에 기반한 AI의 사고 방식은 입력(현재 판세)과 출력(해당 상황에서 최선의 수)만 있기 때문에 왜 이렇게 두어야 하는지를 설명해 주지는 않으므로, AI가 왜 이런 수를 두는지 잘 이해하면 기력을 향상할 수 있는 것이 아닐까 싶다. 우울하게 말하면 AI가 내놓은 답은 틀림없이 맞다는 전제하에 사람이 이해할 수 있는 방식으로 해석하는 일을 하고 있다는 것이기도 하다. 사람이 무대의 주역에서 비평가로 역할이 바뀌는 것 같아 서글픈 일이다.


2026년 9월, OpenAI는 밀레니엄 문제 중 하나였던 나비에-스토크스 방정식의 클레이 공식 명제 C와 D에 대해 증명했다고 발표했다. 한 달 후에 OpenAI는 역시 밀레니엄 문제 중 하나인 리만 가설에 대해 준리만 가설을 증명했다고 또 한 번 발표했다. 필자는 바둑과 마찬가지로 수학도 잘 모르지만, 오랜 시간 동안 난제로 남아 있던 문제들을 AI가 땀도 흘리지 않고 풀어내는(토큰을 무척 많이 썼겠지만) 것을 보면 충격에 휩싸일 법하다. 수학자들의 반응은 좋지 않다. 문제를 푸는 과정에서 학문이 진보하는 것인데, 기업들은 AI가 뭘 할 수 있는지를 보이기 위해 난제를 푸는 결과에만 집중한다는 것이다.
필자는 AI를 많이 쓰며 사는 편은 아니라고 생각하는데, 필자 주변의 수학과 교수님들 중에서는 AI 없이는 못 살겠다고 하는 분도 있다. 자신의 일정, 메일, 태스크 등 모든 업무에 AI가 관여한다는 것이다. 심지어 “어, 이 일정은 다른 것과 겹쳤네. 바꿔야겠어.”라고 했더니 AI가 허락도 없이 상대에게 “이 일정은 변경되었습니다”라고 메일을 보내서 사과하느라 난감했다는 이야기도 했다. 증명이 맞는지를 확인하는 데 Lean 언어와 같은 증명 보조기도 쓰이는 것을 보면 수학자들은 종이와 연필에만 친숙한 것이 아니라 컴퓨터와도 가까운 사람들인가 보다. 그럼 이 사람들은 앞으로 무엇을 하고 살아가고자 하는지 궁금하다. 바둑기사들처럼 AI가 써낸 증명이 맞는지 검증하고 어떻게 이런 생각에 도달했는지 해석하게 될까?

지금부터는 AI와 함께 살아야 하는 것이 명백한 상황에서 이제는 학생을 뽑을 때도 AI를 얼마나 잘 활용하는지에 초점을 두고 선발해야 한다는 의견도 있다. AI에게 질문을 어떻게 던지면서 문제에 접근하는지를 보면 사고력을 판단할 수 있다는 것이다. 물론 반대 의견도 있다. AI가 해주는 이야기를 앵무새처럼 따라 한다고 해서 학생이 그걸 이해한다는 뜻은 아니다. 더 큰 문제는 AI가 하는 말이 맞는지 틀리는지 판단할 능력을 어떻게 키우느냐다. 인터넷에 방대한 양의 정보가 존재하는 일상생활 관련 문제는 AI가 이미 학습을 잘 마쳐놓았을 테니 찾아내는 답이 틀릴 가능성이 확률적으로 적겠지만, 고급 과학기술 문제로 좁혀질수록 AI가 모르는 부분도 많아질 것이기 때문이다.
AI 연구자들도 당연히 문제점들을 알고 있다. 지난주에 들었던 AI를 연구하는 교수님의 강연에 따르면, 그가 개발하는 AI는 직접 한 연구를 통해 내린 결론은 맞는 것으로 정해두고 해당 연구에 대해 같은 질문이 다시 들어오면 같은 답을 낼 수 있도록 설계한다고 한다. 과학적 결론은 영원불변하지 않다는 관점에서 생각하면 그 결론도 반박되고 수정될 수 있어야 할 텐데, 실제로 이 AI는 반례가 나오면 연구를 다시 수행하여 결론을 검토한 다음 보다 타당한 쪽으로 결론을 수정한다고 한다. 이 정도가 되면 사람이 간섭하지 않아도 AI가 스스로 연구해서 지속적으로 결론을 수정하면서 진보를 이끌어 갈 수도 있겠다는 생각이 든다. OpenAI 등의 기술개발 속도가 가속화되는 것도 이제는 AI가 AI를 개발하기 시작하는 단계에 이르렀기 때문이라는 말이 있다.
요즘 옛날에 출판된 중고책들이 그렇게 잘 팔린다고 하는데, 누가 사는지 봤더니 책을 스캔해 전자책으로 만드는 업체들이라 한다. 갑자기 누군가가 중세 시대의 결혼 제도와 같은 오래된 주제에 관심이 생겼을 리는 없으니, 아마도 인터넷에 없는 정보는 모르는 AI를 위해서 옛날 책들을 닥치는 대로 사들인 다음 학습시키는 것이 아닐까 하고 사람들은 추측하고 있다. 극소수의 전문가만이 알고 있던 지식들도 이제는 AI가 읽을 수 있게 된 것이다.
피지컬 AI의 발전도 빼놓을 수 없다. 얼마 전 베를린에서 엔비디아의 젠슨 황이 ‘마이크로덕’이라는 장난감 로봇들을 데리고 나왔다. 이 로봇들은 가상공간(“디지털 트윈”)에서 어떻게 넘어지지 않게 움직이고 세상과 상호작용해야 하는지를 학습한 다음 현실 세계로 걸어 나왔다. 로봇이 현실 세계에 적응하는 데 걸리는 시간을 대폭 단축할 수 있음을 보여준 것이다. 반대로 초파리를 디지털 트윈 속에 복제한 결과도 나와 있다. 그들이 현실 속의 초파리처럼 움직이고 털을 고르는 모습을 보면, 연구자들이 말하듯 언젠가는 사람의 뇌와 신경계를 스캔하여 디지털 트윈 안에 넣지 못한다는 법도 없다. 가상공간에서 움직이는 대로 현실의 로봇이 따라 하는 것 또한 불가능하지는 않아 보인다.
필자는 실험실 홈페이지를 관리한다. 홈페이지의 내용을 주기적으로 갱신해서 최신 정보를 보여주는 것도 중요하지만, 뒤편에서는 운영체제와 프로그램과 플러그인들을 항상 업데이트해서 보안에 취약하지 않게 유지하는 것도 그에 못지 않게 중요하다. 그러나 프로그램들이 버전업될 때 서로 간의 호환성이 반드시 유지되지는 않기 때문에 기존 코드를 그대로 쓰기만 해서는 홈페이지가 구동되지 않는 일들이 생긴다. 필자에게 AI가 가장 도움이 되는 부분은 바로 홈페이지 코딩이다. AI에게 코드를 알려주고 왜 문제가 생기는지 물어보면 어떤 부분에서 어떤 이유로 충돌이 일어나는지를 잘 설명해 주고 복사해서 붙여 넣을 수 있게 수정된 코드를 짜준다! 일일이 명령어를 공부할 필요 없이 홈페이지를 유지 관리할 수 있게 되었으니 이보다 더 좋을 수가 없다. 아마도 코드는 AI가 가장 많이 학습한 자원 중 하나이기에 가능한 일일지도 모른다. AI에게 던지는 질문이 명확하고(“뭐가 문제인지 알려줘”) 원하는 바도 명확하며(“문제가 없는 코드를 짜줘”) 필요하다면 AI가 직접 돌려보고 문제를 파악하고 답도 검토해 볼 수 있는 최적의 문제다.
프로그램의 취약성을 찾는 데도 AI가 효과적이라는 것 또한 알려지고 있다. 최근 공개된 php 취약점이 그 예로, 필자도 주말에 출근해 홈페이지 서버의 php 버전을 업그레이드해야 했다. 아마 요즘 많은 소프트웨어 엔지니어들은 해커들이 취약점을 파악하기 전에 먼저 찾아 대응하느라 야근을 하고 있을지도 모른다. 여기서 교훈은 두 가지라 생각한다. 필자와 같은 수준으로 프로그래밍을 하려면 AI에게 맡기는 게 낫다. 그러나 정말 대체 불가능한 인재가 되려면 AI가 짜주는 코드에 문제가 있는지 없는지, 어떤 방향으로 개선해야 할지를 알 수 있을 만큼 전문가가 되어야 한다. 그 정도 수준이 되려면 AI에게 논문을 요약해 읽어달라고 하는 것만으로는 부족하다고 생각한다. 논문을 처음부터 끝까지 계속해서 되풀이해 읽으면서 의미가 와닿지 않는 부분들을 고민하는 과정을 거쳐야만 “AI의 앵무새”가 아니라 “내”가 이해하고 설명하고 활용할 수 있는 능력이 생긴다고 믿는다. 물론 그 과정에서 AI는 훌륭한 동반자 닥터 왓슨이 될 수 있다. 생각과 주장은 이야기를 주고받으면서 구체화되고 논거가 튼튼해지기 마련이며, AI만큼 거의 무한한(토큰이 많다는 전제하에) 인내심을 지니고 이야기를 들어주고 대꾸해 줄 수 있는 동료도 없을 것이기 때문이다.
화학에서 쓰는 핵심적인 언어는 분자 구조다. 이는 원자와 원자 사이의 연결을 선으로 나타내는 방식이며, 2차원 평면에서 그려지긴 하지만 실제로는 3차원 공간에서 생각해야 하는 입체 구조다. AI가 은근히 이 분자 구조를 읽고 쓰는 데 약하다. 분자 구조를 그려달라고 하면 제대로 그리지 못하는 경우가 흔하다. AI가 읽기 쉽도록 문자열로 분자 구조를 기술하는 SMILES 같은 방식이 개발되었는데, 분자 구조가 작고 단순하다면 몰라도 덩치가 커지고 결합되는 양상이 복잡해질수록 과정이 어려워진다. 어마어마하게 큰 분자인 고분자라면 말할 것도 없다. 물론 단일한 반복 단위로 이루어진 고분자야 똑같은 형태가 반복되겠지만, 반복 단위가 두 개 이상인 경우 누가 누구와 인접하는지에 따라 수많은 조합이 생성되는데 어떤 식으로 이런 구조를 기술할지 아직 모두가 공감하는 방안이 제시된 것은 아니다.
예를 들어 DGIST의 허수미 교수님 팀은 HAPPY라는 표현 자를 사용해 분자의 특징을 결정하는 중요한 기능기들의 배치를 중심으로 분자 구조를 기술하는 방법을 고안했다. 이를 통해 훨씬 더 작은 크기로 고분자의 화학 구조를 쓸 수 있고, 이를 기계 학습 및 역설계에 응용한 결과를 발표한 바도 있다. 그러나 분자 구조와 물질의 특성 사이의 상관관계를 우리가 완전히 이해하고 있는 것도 아니다. 예컨대 어떤 물질이 섞이고 어떤 물질이 섞이지 않는지에 대해서도 정량적으로 물질의 혼합 거동을 완벽히 설명할 수 있는 이론은 아직 존재하지 않는다. 약을 만들려면 물에 녹아야 하기 때문에 물에 섞이는(녹는) 정도가 매우 중요함에도 불구하고 분자 구조만 가지고 용해도를 정량적으로 예측할 수가 없는 것이다. 마찬가지로 고분자와 용매, 고분자와 고분자 사이에서 얼마나 섞이고 섞이지 않을지에 대한 정량적 예측은 아직 요원한 상태다.
필자는 이렇게 알고 싶지만 아직 모르는 것들이 많은 분야에서, 사람들이 아직 활약할 수 있는 여지가 남았다고 생각한다. 섞고 섞이는 문제만 해도, 적어도 문헌상으로는 모두 똑같은 조건에서 물질을 섞어보고 보고하며 서로 비교 가능한 결과들은 아마 많지 않을 터다. AI가 학습을 시작하기 위해서는 누군가 먼저 생고생을 해 그런 결과들을 모아놓은 데이터 세트를 만드는 일부터 해야 한다. 인간은 화학적 직관을 통해 데이터 세트 없이도 추론할 수 있고, 나아가 데이터 세트를 어떻게 만들어야 효과적일지(알고 싶은 답을 빨리 찾아낼 수 있을지)도 생각할 수 있다. 즉, 아직까지는 일반적인 화학적 문제에 대해 인간이 AI보다 빨리 답을 도출할 수 있고 AI를 지도할 수 있는 입장에 서 있다는 생각이다. 필자가 자율화 합성 실험실을 구축하고 AI 연구자들과 협업하여 데이터 세트들을 만들어 보려고 하는 이유 중 하나다.
언제까지 화학자가 AI에게 “너는 아직 화학을 잘 몰라!”라고 이야기할 수 있을지는 모르겠다. 그날이 오면 필자도 오늘의 AI 말씀이 무슨 뜻인지 화학적으로 이해하기 위해 다른 AI에게 가르침을 청하고 있을지도 모른다. AI로 인해 무엇을 새로이 발견하게 될지, 두렵고도 궁금한 미래다.