성신여자대학교(총장 양보경)는 융합보안공학과 교수진이 정보기술 분야 국제 학술대회인 '더 웹 콘퍼런스(The Web Conference 2022)'에서 프라이버시 보호를 고려한 인공지능 공정성에 관한 논문 두 편이 채택되는 성과를 거뒀다고 29일 밝혔다.

더 웹 콘퍼런스는 '월드 와이드 웹(World Wide Web)'의 미래 방향을 주제로 웹에 관한 최신 기술을 소개하고, 그 기술이 사회와 문화에 어떠한 영향을 미치는지 연구한 논문을 발표하는 국제 학술대회다. 이번에는 총 1981편의 논문이 제출됐으며, 이 중 364편의 논문이 채택됐다.

성신여대 융합보안공학과 박새롬, 김성민, 임연섭 교수의 '기밀 컴퓨팅을 사용한 머신러닝 모델의 공정성 감사(Fairness Audit of Machine Learning Models with Confidential Computing)'과 융합보안공학과 박새롬, 이주희 교수, 서울대 변준영 연구원의 '동형 암호화에 의한 서포트 벡터 머신의 프라이버시 보호 공정한 학습(Privacy-preserving Fair Learning of Support Vector Machine with Homomorphic Encryption)' 등 논문 두 편이 '웹 포 굳(Web For Good)' 트랙에 채택됐다.

성신여대 교수진은 AI와 기존의 암호 및 하드웨어 보안 기술이 접목된 융합보안 기술을 활용해 AI의 공정성 문제 해결을 위한 연구를 수행했다. 특히 '기밀 컴퓨팅을 사용한 머신러닝 모델의 공정성 감사'는 외부기관의 참여 없이 융합보안공학과 교수들이 직접 연구한 논문이다.

이번에 채택된 두 편의 논문은 프라이버시를 보호하면서 AI 학습을 공정하게 검증하는 내용을 담고 있다. 공정성이 수반되는 AI 학습 및 검증의 경우, 시스템상 민감 정보를 활용하기 때문에 데이터 수집이나 프라이버시 보호 문제와 상충하는 부분이 있다. 성신여대 교수진은 이번 연구를 통해 동형암호 기술이나 기밀 컴퓨팅 기술로 공정한 AI 개발에 필요한 데이터의 활용 가능성을 높이면서 프라이버시 보호를 가능하게 했다.

현재, 두 편의 논문 모두 국내 특허 출원을 진행하여 등록 심사 중이다. 이중 '기밀 컴퓨팅을 사용한 머신러닝 모델의 공정성 감사'는 해외 특허 등록을 추진할 예정이다.

박새롬 융합보안공학과 교수는 "융합보안공학과는 하나의 기술로만 해결하기 어려운 실제 문제를 풀어나가기 위해 다양한 보안 기술을 활용한 연구를 제시하고 있다"며 "앞으로도 우리 대학 융합보안공학과 교수진이 함께 협력해 융합보안 인재 양성을 위해 노력할 계획"이라고 말했다.