2024 HackTheon Sejong 핵테온 2024

숭실대학교 AI보안연구센터

업체 소개 설립목적
- 최근 인공지능 기술의 발전에 힘입어 사이버 공격자들은 새로운 형태의 지능화된 알고리즘을 활용한 신·변종 사이버 공격과 자동화 기술을 활용하여 대규모의 사이버 보안 공격을 시도하고 있다. 점점 고도화되고 다양해지는 사이버 공격에 효율적으로 대응하기에는 기존의 보안 솔루션들은 많은 한계를 보이고 있어, 보안 업계에서는 인공지능을 보안 분야에 적용하는 것에 주목하고 있다. 보안이 인공지능과 결합하게 되면 네트워크, 위협 인텔리전스, 취약점 분석, 악성코드 분석, 실시간 탐지 및 대응 등 다양한 보안 분야에서 보안 능력이 획기적으로 향상될 것으로 예상되고 있어, 사이버보안에서의 AI 적용은 지속적으로 증대될 것이며, 빠른 분석, 탐지를 넘어 위협의 자동적인 격리까지 제공하는 방향으로 진화할 것으로 예상된다. 따라서 본 센터에서는, AI를 이용한 보안(AI for Security) 뿐 아니라 AI 자체에 대한 보안(Security for AI)을 동시에 연구하여 기업에서 사용되는 AI 제품의 안전성을 보장하는 연구를 지원할 뿐 아니라 본 센터를 통하여 지능형 사이버 위협 분석 플랫폼 구축부터 데이터 엔지니어링, 공격 탐지 능력이 고루 보유된 인재를 양성하고자 한다.

◦ 중점 연구 분야
- 본 연구센터에서는 안전한 AI 플랫폼 서비스를 위한 기술 개발과 AI 학습 데이터 엔지니어링과 관련하여 멀티 모달리티 환경에서의 생성형 인공지능 모델의 위협 탐지 기술 개발 및 수학적 모델링 기술, Security for AI를 위한 AI 모델 및 시스템에 대한 취약점 분석을 중점 연구분야로 하고 있다.
- 최종 목표로는 지능형 사이버 위협 분석 플랫폼을 기반으로 다양한 지능형 사이버 데이터를 분석하고, 지능형 사이버 공격에 사전 대응하는 연구 개발 및 인력양성을 통하여 국내외 지능형 사이버 위협 분석 개발 및 전문 인력 양성을 목표로 한다.
전시 품목 전시 품목 : 딥페이크 음성 탐지 시스템

◦ 전시 내용
- 딥페이크 음성을 탐지하는 다양한 시스템의 전시 (웹 기반 음성 파일 탐지 / 실시간 탐지 (스마트폰))

1) 웹 기반 딥페이크 오디오 탐지

- 판별하고자 하는 파일을 선택하여 업로드 시, 몇 초 이내의 분석을 통해
딥페이크 결과를 백분율(%)로 표현

2) 스마트폰에서의 실시간 딥페이크 오디오 탐지

- 기기에서 영상을 재생해 딥페이크 오디오 탐지를 진행
- 딥페이크 결과(%)가 나오는 알림 창을 통해 탐지된 음성의 조작 여부를 확인