수학계의 세계적 석학인 스탠리 오셔 미국 캘리포니아주립대(UCLA) 교수(74)가 서울대와 인공지능의 핵심 원리인 ‘딥러닝(Deep Learning) 연구에 나선 것으로 확인됐다.
컴퓨터공학자가 아닌 수학자들로 이뤄진 대학 연구팀이 딥러닝을 연구하는 것은 세계적으로도 전례가 없는 시도여서 그 성과가 주목된다. 연구팀은 연구성과에 따라 구글의 ‘딥마인드와 같은 인공지능(AI) 관련 회사 설립도 신중하게 검토할 계획이다.
서울대와 딥러닝 연구를 위해 최근 방한한 스탠리 오셔 UCLA 교수는 매일경제와 단독 인터뷰를 갖고 지난 3월부터 강명주 서울대 수리과학부 교수 연구팀과 ‘딥러닝에 대한 수학적 이론증명 연구에 착수했다”고 공개했다.
오셔 교수는 2014년 세계수학자대회에서 응용수학 분야의 노벨상으로 불리는 ‘가우스상을 수상한 세계적 석학으로 서울대가 시행 중인 ‘노벨상급 석학 초빙 사업의 하나로 2015년 5월부터 임기 2년의 서울대 초빙교수로 활동하고 있다.
지난 12일 서울대생들을 상대로 한 응용수학 특강에 앞서 매일경제와 만난 그는 페이스북, 구글 등 글로벌 IT 회사들은 이미 딥러닝에 대한 수학적 연구를 진행 중일 것”이라며 기업이 아닌 학계(Academia)에서 수학자들이 이러한 시도를 하는 것은 처음”이라고 강조했다. 그러면서 딥러닝의 작동 원리를 수학적으로 증명하고 오류를 줄이는 새로운 알고리즘으로 혁신적인 ‘돌파구(Breakthrough)를 찾겠다”고 자신했다.
구글 ‘알파고의 학습법으로 알려진 딥러닝은 컴퓨터가 알고리즘을 이용해 사물이나 데이터를 군집화하거나 분류하는데 사용하는 고차원적인 기계학습 (Machine Learning) 기술을 말한다.
마치 기계가 인간처럼 경험을 통해 정보를 인식하는 학습 능력을 갖게 하는 기술로 여기에 ‘수학적 분석이 더해지면 딥러닝 알고리즘의 불완전성을 크게 해소할 수 있다. 지난 3월 이세돌 9단과 대국에서 알파고도 때로는 ‘오류를 범했는데 이같은 한계점을 보완하기 위한 원리를 이번 연구에서 찾게 된다.
오셔 교수는 네트워크, 필터 등이 사용되는 딥러닝 알고리즘은 아직까지 수학적으로 엄밀히 검증되지 않았다”며 작동 원리 증명을 통해 딥러닝을 단순화하고 또 향상시키는 방법을 찾는 게 서울대와 공동연구의 핵심”이라고 강조했다. 그는 딥러닝은 의료 산업, 자율주행자동차, 음성인식 등 다양한 측면에서 사회를 변화시킬 것으로 전망했다.
오셔 교수와 손을 잡은 강명주 서울대 수리과학부 교수는 오셔 교수의 서울대 초빙교수 임기가 내년 4월까지인데 임기 만료와 상관없이 성과물이 나올 때까지 딥러닝 연구를 지속해 성과를 낼 것”이라고 말했다. 그는 이어 딥러닝 연구는 산업에 응용할 수 있는 잠재력도 큰 분야이기 때문에 (연구 결과에 따라) 오셔 교수와 함께 구글 ‘딥마인드와 같은 딥러닝 관련 회사를 설립하는 가능성도 열어두고 있다”고 덧붙였다.
[황순민 기자]
[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]