▲ 쪽부터 최종무 교수, 유시환 교수(모바일시스템공학과), 대학원 인공지능융합학과 신호진 및 GuangxunZhao 박사과정  © 뉴스파고

[뉴스파고=한광수 기자] 50초까지 늘어지던 데이터 쓰기 지연이 1초 안으로 줄었다. 단국대 연구팀이 AI로 '데이터 병목'을 풀어낸 결과다.

AI와 클라우드 서비스가 퍼지면서 다뤄야 할 데이터가 폭발적으로 늘고, 그만큼 데이터베이스 처리 속도가 떨어지는 '데이터 병목'이 골칫거리로 떠올랐다.

단국대 최종무 교수 연구팀은 이 병목을 AI가 미리 감지해 스스로 조절하도록 함으로써 대용량 데이터의 검색 효율을 높이고 처리 지연을 크게 줄이는 기술을 개발했다. 연구 성과는 데이터베이스·데이터 관리 분야의 세계적 국제학술대회인 「VLDB(Very Large Data Bases) 2026」에 정규논문 2편으로 실렸다.

핵심은 '검색 효율 저하'와 '쓰기 지연'이라는 두 문제를 AI로 동시에 잡았다는 점이다. AI가 데이터 분포를 학습해 필요한 데이터를 더 효율적으로 찾아내고, 데이터 처리량이 급증하면 시스템 상태를 분석해 지연이 생기기 전에 처리량을 미리 조절하는 방식이다.

첫 번째 문제인 검색 효율은 논문 「Rethinking Learned Index and LSM-tree Integration」에서 머신러닝 기반 '학습형 인덱스(Learned Index)'로 풀었다. 기존 데이터베이스가 정해진 자료구조로 데이터 위치를 찾는 것과 달리, 학습형 인덱스는 AI가 데이터의 분포와 위치 특성을 배워 필요한 데이터가 어디 있는지 예측하고 효율적으로 검색한다.

연구팀은 이를 대용량 데이터를 저장·관리하는 'Key-Value Store'에 적용해 검색에 드는 연산과 메모리 사용량을 크게 줄였다. 또 데이터 특성에 맞춰 학습형 인덱스의 핵심 설정값과 저장 단위 크기를 유연하게 조절해 읽기와 쓰기 성능을 함께 끌어올렸다.

두 번째 문제인 쓰기 지연은 논문 「How Much Can RocksDB Chew? Achieving Near-Zero Write Stalls with Sustainable RocksDB」에서 다뤘다. 글로벌 IT 기업들이 대규모 데이터 관리에 쓰는 'RocksDB'는 데이터가 계속 쌓이면 내부 데이터를 정리하고 재배치하는 작업이 늘면서 '쓰기 지연(Write Stall)'이 나타날 수 있다.

연구팀이 개발한 'S-RocksDB(Sustainable RocksDB)'는 강화 학습을 활용해 AI가 데이터베이스 내부 상태를 학습하고 지연이 생기기 전에 처리량을 미리 조절하도록 했다.

효과는 실험에서 뚜렷하게 드러났다. 기존 RocksDB에서 1분 동안 최대 약 50초에 이르던 쓰기 지연이 S-RocksDB에서는 1초 이내로 줄었다. 지연 시간을 최대 50배가량 개선한 것으로, 대규모 클라우드 서비스와 AI·빅데이터 플랫폼 등에서 두루 쓰일 것으로 기대된다.

최종무 교수는 "이번 성과는 그동안 단국대가 축적해 온 AI 기반 데이터 관리 기술의 경쟁력을 인정받은 결과"라며, "향후 대규모 데이터 서비스와 산업 현장에서 폭넓게 활용될 것으로 기대한다"고 밝혔다.

이번 연구는 과학기술정보통신부의 재원으로 정보통신기획평가원(IITP)의 'SW스타랩' 사업 지원을 받아 수행됐다.