머신러닝으로 안정적인 나노 자석 상태 찾는다

한국과학기술연구원(KIST·원장 윤석진)은 권희영·최준우 스핀융합연구단 연구원이 원창연 경희대 교수팀과 나노 자석의 가장 안정적인 상태(기저 상태)에서 나타나는 스핀 구조를 추정하는 생성적 머신러닝 모델 '에너지 최소화 변이 오토인코더(E-VAE)'를 개발했다.

생성적 머신러닝 기법은 주어진 데이터를 학습해, 특성을 추출·재조합하고 새로운 데이터를 생성하는 모델이다. 흑백사진을 컬러사진으로 변환하거나, 비정상 데이터를 검출하는 등 다양한 분야에서 쓰인다.

다만 기존 생성적 머신러닝 모델을 나노자석에 적용하면 노이즈 및 흐림 효과가 발생해 물리법칙에 어긋나는 상태가 생성되는 문제가 있다. 또 기저상태 생성을 유도하려면 생성된 상태가 입력된 것 대비 에너지가 낮아야 하는데, 기존 모델에는 이런 동작이 포함되지 않는다.

연구진은 생성적 머신러닝 모델 일종인 변이 오토인코더(VAE)에 생성 상태 에너지를 최소화하는 과정을 포함한 E-VAE를 개발했다. 이를 통해 나노 자석 스핀 구조 최적 상태를 효율적으로 찾아내는 데 성공했다. 이는 기존에 사용된 시뮬레이티드 어닐링(확률적 알고리즘) 기법 대비 뛰어난 효율과 정확성을 보였다.

권희영 연구원은 “머신러닝 기술을 기반으로 주어진 물리적 시스템의 가장 낮은 에너지 상태를 조사할 수 있는 전산적 접근법을 제시했다”며 “최적화 문제는 순수과학이나 반도체 연구뿐만 아니라 수학 및 컴퓨터 사이언스 분야에서도 중요한 연구 주제로 다뤄지는 만큼, 본 연구에서 개발된 머신러닝 기반 최적화 기법이 다양한 분야에서 높은 학술적 가치를 가질 것“이라고 밝혔다.

한편 이번 연구는 과학기술정보통신부(장관 임혜숙) 지원 KIST 주요사업, 교육부(장관 유은혜) 지원 학문후속세대양성사업으로 수행됐다. 연구 결과는 국제 저널 어드밴스드 사이언스(IF: 16.806) 6월호에 게재됐다.