KAIST, AI 생성 SQL 오류 자동 수정 기술 ‘SafeQL’ 개발

[충청뉴스 이성현 기자] 국내 연구진이 대형언어모델(LLM)이 데이터베이스 검색 명령어를 만드는 과정에서 발생하는 환각과 실행 오류를 데이터베이스 내부 검증 정보로 빠르게 바로잡는 신기술이 개발됐다.

사람의 일상적인 자연어 질문을 데이터베이스 검색 명령어인 SQL로 변환하는 Text-to-SQL 기술은 AI 업무비서의 핵심 기반이다.

그러나 AI가 존재하지 않는 테이블이나 항목 이름을 임의로 만드는 환각 현상이 발생해 검색이 실패하는 문제가 지속해서 제기됐다.

기존 기술은 단 하나의 오류가 발생해도 명령 전체를 LLM에 재전달해 처음부터 다시 생성하는 방식을 취했기에, 올바른 코드까지 왜곡되거나 불필요한 AI 사용 비용 및 시간이 증대되는 한계를 보였다.

전산학부 김민수 교수 연구팀(제1저자 이건호 연구원)은 이를 해결하고자 데이터베이스의 스키마와 실행 규칙을 적극 활용해 오류 부분만 찾아 단계적으로 바로잡는 ‘세이프큐엘(SafeQL)’을 개발했다.

SafeQL은 전체 코드 재출력에 의존하는 대신 데이터베이스가 제공하는 정보를 바탕으로 잘못 사용된 연관 요소나 빠진 결합 조건을 탐색해 교정한다.

연구진은 원래 생성된 코드와 구조적·의 의미적으로 가까운 수정안부터 접근하는 ‘안전 질의 공간(Safe Query Space)’ 방식을 설계해 부적절한 후보군을 사전에 차단했다.

연구팀이 국제 표준 벤치마크인 BIRD 평가를 진행한 결과 SafeQL은 초기 실행 오류를 최대 87.4% 해결했으며 실행 정확도를 기존 기술 대비 최대 5.8%포인트 끌어올렸다.

또 전체 코드를 재출력하던 기존 방식과 비교해 AI 토큰 사용량은 최대 15.1배 감소했고, 오류 수정 시간은 최대 29.6배 단축됐다.

김민수 교수는 “기업에서 AI가 실제 업무를 맡으려면 필요한 데이터를 정확하게 찾는 것이 중요하다”며 “SafeQL은 AI가 검색 과정에서 실수하더라도 처음부터 다시 하는 대신 틀린 부분만 바로잡아 오류와 비용, 시간을 함께 줄이는 기술로, 신뢰할 수 있는 AI 업무 자동화를 앞당길 것으로 기대한다”고 설명했다.