사업단소식 게시판목록 | 성균관대학교 SW중심대학

[25.03.28] 김형식 교수 연구실(보안공학연구실, SecLab), IEEE Symposium on Security and Privacy (S&P) 2025 논문 게재 승인

보안공학 연구실 (지도교수: 김형식, https://seclab.skku.edu)의 김은수(박사과정) 학생과 김형식 교수가 진행한 "Open Sesame! On the Security and Memorability of Verbal Passwords"논문이 컴퓨터 보안 분야에서 최우수 학술대회인 IEEE Symposium on Security and Privacy (S&P) 2025에 게재 승인되었습니다. 이번 연구는 미국 테네시 대학교(University of Tennessee)의 김두원 교수와 보안공학 연구실 졸업생인 이기호 연구원(ETRI)이 참여하여 연구를 진행하였습니다. 연구진은 두 차례의 대규모 사용자 실험을 통해 음성으로 전달하는 패스워드 (verbal password)의 보안성과 기억 용이성을 정량적으로 분석하여, 기존 텍스트 비밀번호의 한계를 극복할 수 있는 실질적이고 안전한 대안임을 입증하였습니다. 첫 번째 사용자 실험에서는 2,085명의 사용자가 자유롭게 생성한 음성 패스워드를 대상으로 장/단기 기억력 및 보안성을 분석하였습니다. 보안성 테스트에서 2천만개 이상의 Common English 문구들로 학습된 PassphraseGPT 모델을 통해 사용자가 생성한 음성 패스워드의 약 39.76%가 10억 번의 추측 시도 이내에 예측될 정도로 취약하다는 것을 밝혔습니다. 하지만 두 번째 사용자 실험(600명 대상)에서는 단어 최소 개수 제한과 금지어 목록(blocklist)을 활용한 비밀번호 생성 정책을 적용하여 음성 패스워드의 기억 용이성을 보장하면서 보안성을 현저히 개선했습니다. 사용자들의 장기 기억 실험에서 비밀번호 생성 정책을 적용한 음성 패스워드 사용자 그룹의 65.6%가 성공적으로 비밀번호를 기억하여, 기존 텍스트 비밀번호(54.11%) 대비 높은 기억 성능을 보였습니다. 또한, 비밀번호 추측공격에 의해 예측 가능한 verbal password의 비율이 텍스트 비밀번호 보다 낮아, 공격에 더 효과적으로 저항할 수 있음을 입증했습니다. 이번 연구는 키보드 입력이 불가능하거나 불편한 상황(스마트 어시스턴트, 웨어러블 기기, 차량 환경, VR/AR 환경)에서 언어 비밀번호가 텍스트 비밀번호를 효과적으로 대체할 수 있는 실용적이며 보안성 높은 대안임을 제시했다는 점에서 높은 평가를 받았습니다. 연구 발표는 2025년 5월, 미국 캘리포니아 주 샌프란시스코에서 진행될 예정입니다. Abstract Despite extensive research on text passwords, the security and memorability of verbal passwords—spoken rather than typed—remain underexplored. Verbal passwords hold significant potential for scenarios where keyboard input is impractical (e.g., smart speakers, wearables, vehicles) or users have motor impairments that make typing difficult. Through two large-scale user studies, we assessed the viability of verbal passwords. In our first study (N = 2,085), freely chosen verbal passwords were found to have a limited guessing space, with 39.76% cracked within 10^9 guesses. However, in our second study (n = 600), applying word count and blocklist policies for verbal password creation significantly enhanced verbal password performance, achieving better memorability and security than traditional text passwords. Specifically, 65.6% of verbal password users (under the password creation policy using minimum word counts and a blocklist) successfully recalled their passwords in long-term tests, compared to 54.11% for text passwords. Additionally, verbal passwords with enforced policies exhibited a lower crack rate (6.5%) than text passwords (10.3%). These findings highlight verbal passwords as a practical and secure alternative for contexts where text passwords are infeasible, offering strong memorability with robust resistance to guessing attacks.
- 작성일 2025-03-28
- 조회수 154
[25.03.26] 보안공학연구실(지도교수: 김형식), The Web Conference (WWW) 2025에 논문 2편 Oral 세션 채택

보안공학연구실(지도교수: 김형식)은 미국 테네시 대학교(University of Tennessee)의 김두원 교수와 공동으로 수행한 연구 결과 2편이 웹 분야 최우수 국제학술대회인 The Web Conference (WWW) 2025에 Oral 세션으로 채택되었습니다. 이번 연구에는 보안공학연구실 졸업생 이기호 연구원(현 ETRI)이 테네시 대학교 방문 연구원으로 참여하여 김형식 교수와 함께 연구를 공동 수행하였습니다. 두 논문 모두 대규모 실증 데이터를 기반으로 피싱 공격의 특성과 구조를 정량적으로 분석하였으며, 피싱 공격에 대한 근본적인 이해와 새로운 대응 전략을 제시했다는 점에서 높은 평가를 받았습니다. 논문 발표는 2025년 5월, 호주 시드니에서 진행될 예정입니다. 논문1. 7 Days Later: Analyzing Phishing-Site Lifespan After Detected 본 논문은 피싱 사이트의 탐지 이후 생존 기간 및 변화 양상을 분석한 실증 연구입니다. 5개월간 286,237개의 피싱 URL을 30분 간격으로 추적하여 피싱 사이트의 공격 패턴을 분석하여, 왜 기존 피싱 탐지 전략의 효과가 떨어지는지를 분석하였습니다. 피싱 사이트의 경우, 평균 생존 시간 54시간, 중앙값은 5.46시간으로 짧기 때문에, 피싱 사이트를 훈련하고, 탐지하는 접근 방법의 한계성을 분석하였습니다. 예를 들어, Google Safe Browsing은 평균 4.5일 후 탐지를 수행하는데, 피싱 사이트의 84%는 탐지 전에 이미 종료하여, 실질적인 탐지는 한계를 갖는다는 것을 보여줬습니다. 논문2. What's in Phishers: A Longitudinal Study of Security Configurations in Phishing Websites and Kits 본 논문은 2년 7개월간 수집한 906,731개의 피싱 웹사이트와 13,344개의 피싱 키트 데이터를 종합 분석하여, 피싱 인프라의 보안 설정과 구조적 취약점을 시스템적으로 분석한 연구입니다. 피싱 사이트의 구조적 취약점을 활용해 공격 인프라를 능동적으로 무력화할 수 있는 전략을 제안하여 기존의 수동적 탐지·차단 방식에서 벗어나, 피싱 사이트를 조기 차단하는 새로운 대응 방향을 제시했다는 점에서 주목받았습니다.
- 작성일 2025-03-28
- 조회수 197
[25.03.17] 이호준 교수 연구실 (SSLab) IEEE S&P 2025 논문 게재 승인

[이호준 교수 연구실 (SSLab) IEEE S&P 2025 논문 게재 승인] 시스템보안 연구실 (SSLab, 지도교수: 이호준)의 논문이 보안 분야 4대 최우수 국제학회 중 하나인 IEEE S&P (IEEE Symposium on Security and Privacy) 2025에 게재승인되었습니다. 논문은 5월 미국 캘리포니아 주 샌프란시스코에서 발표될 예정입니다. 아래는 논문의 주요 내용입니다. 논문명: IncognitOS: A Practical Unikernel Design for Full-System Obfuscation in Confidential Virtual Machines 저자: Kha Dinh Duy, Jaeyoon Kim, Hajeong Lim, Hojoon Lee 논문 요약: 최근 연구들은 사이드 채널 공격이 Intel SGX와 같은 신뢰 실행 환경(TEE)의 기밀성을 무력화할 수 있음을 반복적으로 입증해왔다. 한편, 클라우드 환경에서는 기밀 가상머신(CVM) 기술로의 전환이 진행 중이지만, 기존의 사이드 채널 공격 중 일부는 여전히 유효하며, CVM을 대상으로 한 새로운 공격 기법도 등장하고 있다. 기존 연구들은 SGX 인클레이브를 보호하는 방어 기법을 탐색해왔으나, CVM 기반 난독화 실행 엔진에 대한 연구는 해결해야할 난제가 많음에도 아직 미흡한 상황이다. 이에 본 논문에서는 CVM 기반 클라우드 워크로드의 전 시스템 난독화(full-system obfuscation)를 제공하는 유니커널(Unikernel) "IncognitOS"를 제안한다. IncognitOS는 유니커널의 장점을 극대화 하여 최소화된 신뢰 컴퓨팅 기반(TCB)과 하드웨어 직접 접근을 활용하여 난독화를 실현하며, 스케줄러 및 메모리 관리 시스템의 재구성을 통해 적응형 난독화(adaptive obfuscation) 기법을 구현한다. IncognitOS의 스케줄러는 하이퍼바이저의 타이머 인터럽트에 의존하지 않고 독립적으로 실행되어, 기존 연구에서 제시된 하이퍼바이저에 대한 안전하지 않은 의존성을 제거한다. 또한 하이퍼바이저가 실행 제어권을 확보하는 빈도(VMExit 발생률)를 정밀하게 측정하여 메모리 재난독화(memory rerandomization) 빈도를 동적으로 조정한다. 또한 페이징 서브시스템은 MMU에 직접 접근하여 난독화함으로써 보안을 강화하는 한편, 어플리케이션에 대해 영향을 주지 않는 투명한 (transparent) 난독화 기능을 구현한다. 평가 결과, IncognitOS는 CVM 대상 사이드 채널 공격에 강한 저항성을 제공하며, 적응형 난독화 기법을 통해 실사용 가능한 성능을 유지함을 입증한다. 이를 통해, CVM 환경에서의 안전한 배포 전략으로서 자체 난독화(self-obfuscating) 유니커널의 가능성을 제시한다. Recent works have repeatedly proven the practicality of side-channel attacks in undermining the confidentiality guarantees of Trusted Execution Environments such as Intel SGX. Meanwhile, the trusted execution in the cloud is witnessing a trend shift towards confidential virtual machines (CVMs). Unfortunately, several side-channel attacks have survived the shift and are feasible even for CVMs, along with the new attacks discovered on the CVM architectures. Previous works have explored defensive measures for securing userspace enclaves (i.e., Intel SGX) against side-channel attacks. However, the design space for a CVM-based obfuscation execution engine is largely unexplored. This paper proposes a unikernel design named IncognitOS to provide full-system obfuscation for CVM-based cloud workloads. IncognitOS fully embraces unikernel principles such as minimized TCB and direct hardware access to render full-system obfuscation feasible. IncognitOS retrofits two key OS components, the scheduler and memory management, to implement a novel adaptive obfuscation scheme. IncognitOS's scheduling is designed to be self-sovereign from the timer interrupts from the untrusted hypervisor with its synchronous tick delivery. This allows IncognitOS to reliably monitor the frequency of the hypervisor's possession of execution control (i.e., VMExits) and adjust the frequency of memory rerandomization performed by the paging subsystem, which transparently performs memory rerandomization through direct MMU access. The resulting IncognitOS design makes a case for self-obfuscating unikernel as a secure CVM deployment strategy while further advancing the obfuscation technique compared to previous works. Evaluation results demonstrate IncognitOS's resilience against CVM attacks and show that its adaptive obfuscation scheme enables practical performance for real-world programs.
- 작성일 2025-03-28
- 조회수 238
[25.03.04] 우사이먼 교수 연구실(DASH Lab), Euro S&P 2025 논문 1편 게재 승인

Data-driven AI & Security HCI Lab (DASH Lab, 지도교수: 우사이먼 성일)의 논문 1편이 컴퓨터 보안 및 프라이버시 분야의 세계적인 우수 국제 학회인 IEEE European Symposium on Security and Privacy (EuroS&P)에 게재 승인되었습니다. 논문은 올해 6월 이탈리아 베니스에서 발표될 예정입니다. Acceptance rate = 8% (24 paper accepted / 300 submissions) SoK: Systematization and Benchmarking of Deepfake Detectors in a Unified Framework, EuroS&P 2025 저자: Binh Le (1저자, 소프트웨어학과 박사과정), 김지원 (2저자, 소프트웨어학과 박사과정), 우사이먼성일 (교신저자, 성균관대 소프트웨어학과 교수) 논문 링크: https://arxiv.org/abs/2401.04364 이 연구는 호주 연방과학산업연구기구(CSIRO Data61)와 국제공동연구로 진행되었습니다. 최근 딥페이크 기술이 발전하면서 이에 대한 탐지 연구가 활발히 진행되고 있습니다. 하지만 많은 딥페이크 탐지기들은 한계가 명확했었습니다. 본 연구는 최신 딥페이크 탐지 연구를 종합적으로 검토하고, 체계적인 탐지기 평가를 위한 엔드 투 엔드 개념적 프레임워크를 제안하여 딥페이크 탐지 기법을 세부적으로 분류하고 평가할 수 있는 명확한 기준을 제공합니다. 또한, 체계적인 평가 프레임워크를 통한 분석 및 실험과 함께 다양한 유의미한 결론을 도출하며, 보다 효과적인 미래의 딥페이크 탐지 기술 개발을 위한 새로운 관점을 제시합니다.
- 작성일 2025-03-04
- 조회수 243
[25.02.11] 2024 SKKU Fellowship 교수 10명 선정(소프트웨어융합대학 김형식 교수)

2024 SKKU Fellowship 교수 10명 선정 우리 대학은 '2024 SKKU-Fellowship' 교수로 사회과학대학 김민우 교수, 경영대학 서아영 교수, 정보통신대학 손동희 교수, 정보통신대학 최재혁 교수, 소프트웨어융합대학 김형식 교수, 약학대학 신주영 교수, 생명공학대학 조재열 교수, 의과대학 이세훈 교수, 성균융합원 김영민 교수, 삼성융합의과학원 원홍희 교수를 선정했다. SKKU-Fellowship 제도는 우리대학이 2004년부터 수여하는 최고의 영예로, 학문 분야별 연구력수준 또는 산학협력 성과가 세계적 표준에 안착하였거나 접근 가능성이 높은 최우수 교수를 선정하여 파격적인 연구지원과 명예를 부여하는 제도이다. 2024 SKKU-Fellowship은 “ 인류와 미래사회를 위한 담대한 도전 Inspiring Future, Grand Challenge” 라는 23~24학년도 대학운영방침에 기반하여 각 교수님들의 우수성과 폭을 확대하여 저명 국제컨퍼런스, 최상위 저널과 논문, 산학협력 생태계 부문에서 대상자를 선정하였다. 시상식은 작년 2월 19일(수)에 진행되었던 전체교수회의에서 실시되었다. 이번 2024 SKKU Fellowship은 후보자 선정을 자문할 Fellowship Advisory Board가 공식 구성되어서 후보자를 추천하였고, Fellowship Advisory Board 위원인 구자춘 산학협력단장이 수상자 10명을 직접 발표하였다. ▲ (좌측 상단부터) 김민우 교수, 서아영 교수, 손동희 교수, 최재혁 교수, 김형식 교수, 신주영 교수, 조재열 교수, 김영민 교수 수상자들을 대표하여 사회과학대학 김민우 교수와 성균융합원 김영민 교수가 수상소감을 밝혔으며, 향후에도 우리대학은 최우수 교수들의 다양한 우수성과의 가치를 발굴하면서 인류사회에 공헌하는 초일류 대학이 될 수 있도록 나아갈 예정이다.
- 작성일 2025-03-04
- 조회수 222
[25.02.11] 우홍욱 교수 연구실 (CSI연구실), ICLR 2025 논문 게재 승인

[우홍욱 교수 연구실 (CSI연구실), ICLR 2025 논문 게재 승인] CSI연구실 (지도교수: 우홍욱)의 논문이 인공지능 분야 우수학회인 ICLR2025 (The 13th International Conference on Learning Representations)에 2편 논문이 게재 승인(Accept) 되었습니다. 논문은 25년 4월 싱가포르 싱가포르 엑스포에서 발표될 예정입니다. 1. 논문 “Model Risk-sensitive Offline Reinforcement Learning” 은 소프트웨어학과 유광표 (박사과정) 연구원이 저자로 참여했습니다. 본 연구에서는 로봇, 금융 등 실사간 의사결정이 중요한 미션 크리티컬 분야에 활용되는 위험 민감 강화학습(Model Risk-sensitive RL) 프레임워크를 제안하며, 특히 모델 위험에 민감한 오프라인 강화학습 기법(MR-IQN)을 기술합니다. MR-IQN은 모델이 학습한 데이터와 실제 환경과 달라 정확도가 떨어지더라도, 이에 대한 최악의 경우, 즉 “모델 위험”의 손실을 최소화하는 것을 목적합니다. 이를 위해, 데이터 포인트에 대한 모델의 신뢰도를 계산하고, 각 데이터 포인트당 모델 위험을 계산하는 비평가 앙상블 척도(Critic-Ensemble Criterion)와 오프라인 상황으로 인해 실제 정책의 가치함수와 추론된 정책 가치의 평균 및 분산의 괴리를 제한하는 푸리에 특성 네트워크(Fourier Feature Network) 을 결합합니다. MR-IQN은 MT-Sim(금융 거래 환경)와 AirSim(자율주행 시뮬레이터) 실험에서 다른 최신 위험 민감 강화학습 기법보다 낮은 위험과 높은 평균의 성능을 달성하였습니다. 2. 논문 “NeSyC: A Neuro-symbolic Continual Learner For Complex Embodied Tasks In Open Domains” 은 소프트웨어학과 최원제 (박사과정), 인공지능학과 박진우 (석사과정), 소프트웨어학과 안상현 (석사과정), 이대희 (석박통합과정) 연구원이 저자로 참여했습니다. 본 연구는 오픈도메인 물리환경과 상호작용 시 요구되는 지식 (Actionable Knowledge)을 체득된 경험을 통해 다양한 태스크에 적용할 수 있도록 지속적으로 일반화하는 뉴럴-심볼릭 지속 학습자, Neuro-symbolic Continual Learner (NeSyC) 프레임워크를 제안합니다. NeSyC는 인간의 사고 체계인 가설-연역 (hypothetico-deductive) 구조를 모방하여 오픈 도메인에서의 지속적으로 일반화 성능을 향상하는데, 이를 위해, (1) LLM과 심볼릭 도구를 활용해 체득된 경험에서 가설을 반복적으로 생성하고 검증하는 대조적 일반성 향상(Contrastive generality improvement) 기법을 수행합니다. 또한, (2) 메모리 기반 모니터링(Memory-based monitoring)으로 체화형 에이전트(Embodied agent)의 행동 오류를 실시간 감지하고, 지식 보완(Knowledge refinement)을 실행하여, 최종적인 에이전트의 오픈도메인에서의 다양한 태스크 수행 성능, 즉 일반화 성능을 향상합니다. NeSyC는 ALFWorld, VirtualHome, Minecraft, RLBench, 그리고 실세계 로봇 테이블탑 시나리오 등 다양한 벤치마크 환경에서 평가되었습니다. 그 결과, NeSyC는 동적 변화가 있는 오픈도메인 환경 전반에서 강건한 성능을 보였으며, AutoGen, ReAct, CLMASP 등 최신 SOTA를 능가하는 태스크 성공율을 확인하였습니다. CSI 연구실은 Embodied Agent, Reinforcement Learning, Self-Learning 기술을 활용하여 네트워크, 클라우드 시스템 최적화 연구와 로봇, 드론 자율주행 연구 등을 수행하고 있습니다. 우홍욱 | hwoo@skku.edu | CSI Lab | https://sites.google.com/view/csi-agent-group
- 작성일 2025-02-11
- 조회수 334
[25.02.07] 2024 SW 인재페스티벌 대상 RISE팀 (소프트웨어학과 23) : 팀장 정기용 인터뷰

[25.02.07] 2024 SW 인재페스티벌 대상 RISE팀 (소프트웨어학과 23) : 팀장 정기용 인터뷰 [정희성, 정기용, 이규민, 이상엽, 이상준 (왼쪽부터)] 24년 12월 5일과 6일 양일간 과학기술정보통신부가 주최하고, 정보통신기획평가원과 SW중심대학협의회가 주관한 2024 SW 인재페스티벌이 열렸다. 페스티벌에서는 ‘SW로 연결하는 AI 세상’을 주제로 SW 중심 대학 58개교의 주요 성과 및 우수 성과물을 소개·전시·시상했다. 이번 페스티벌에서 성균관대학교 소프트웨어학과 학생 5명으로 구성된 RISE 팀은 한국어 차트학습 데이터셋 구축을 통해 차트 인식 성능을 향상하여 대상(과학기술정보통신부장관상)을 수상했다. 인터뷰를 통해 RISE팀의 팀장 정기용 학우를 만나보자. 2024 SW 인재 페스티벌에 참여하게 된 계기가 궁금합니다. 소프트웨어학과에는 산학협력 프로젝트라는 1년짜리 과정이 있어요. 그 과정을 이수하는 약 20개 팀 중에서 유망한 팀을 교수님들이 회의를 통해 선정하시고, 대회에 학교 대표로 출전할 기회를 주시거든요. 그렇게 교수님이 제안하셔서 ‘깨어나다’, ‘비상하다’라는 의미를 가진 ‘RISE’라는 이름으로 대회에 참가하게 되었습니다. RISE팀이 'ChartBrain.AI'로 대상을 받으셨는데 'ChartBrain.AI'에 대한 설명 부탁드립니다. ChartBrain.AI는 차트 이미지를 표 텍스트로 바꿔주는 소형 인공지능 모델입니다. 저희가 프로젝트를 시작한 4월 당시에 GPT-4o 모델이 일반적인 사진과 그림은 잘 이해하지만, 차트 이미지에 대해서는 이해를 못 하고 수치 파악과 같은 능력이 부족했습니다. 이 점을 보완하고자 차트 이미지를 *LLM(Large Language Model)이 잘 이해할 수 있는 표 텍스트로 변환하는 소형 인공지능 모듈을 개발하는 것을 목표로 프로젝트를 시작했습니다. 클라우드 기반의 GPT-4o 모델은 정보 유출의 위험이 있어서 일반적으로 기업에서는 보안이 중요한 사내 보고서와 차트 이미지들을 이해시키는 데 GPT-4o 모델을 사용하지 않고 사내에 자체 LLM을 두어 사용합니다. 이런 곳에 저희 ChartBrain.AI를 적용할 수 있습니다. 크기도 작고, 성능도 국내 모델에서는 현재 수준에서 가장 정확도가 높은 모델을 의미하는 SOTA(State of the Art)를 달성했기 때문입니다. ChartBrain.AI를 만든 과정은 다음과 같습니다. 구글 리서치에서 발표한 *디플롯(Deplot)이라는 영어 모델에 한국어를 이해할 수 있도록 1차로 학습을 시키고, 차트-표 데이터 쌍 112만 건을 구축해서 추가로 디플롯(Deplot)에 학습시켜 완성했습니다. 이 중 32만 건은 저희 팀이 자체 제작한 합성 차트 이미지들로 기존 오픈소스 차트 이미지 데이터셋의 부족한 다양성을 보충하고 더 복잡한 차트도 이해할 수 있게 만들어주는 역할을 했습니다. *LLM(Large Language Model, 대형 언어 모델): 수많은 파라미터를 보유한 인공 신경망으로 구성되는 언어 모델. *디플롯(Deplot) 공식 코드 링크: https://github.com/google-research/google-research/tree/master/deplot 우리 대학 부스에서 대상 작품을 설명하실 때, RISE팀 학우들이 성균관 유생들이 입었던 청금복을 입었다고 들었습니다. 입게 되신 계기와 소감을 듣고 싶습니다. 저희가 직접 청금복을 준비한 것은 아니었고, 부스를 준비해 주신 소프트웨어융합대학 담당 선생님이 발표할 때 입고 발표해 보라고 조언을 해주셨습니다. 솔직히 입고 돌아다닐 때는 부끄럽기도 했는데, 후에 사진 찍힌 걸 보니 누가 봐도 성균관대학교 학생들인 게 한눈에 보여서 나중에는 만족했습니다. 선생님들이 선견지명이 있으셨던 것 같습니다. 프로젝트를 진행하면서 팀장으로서 중요하게 생각했던 것이 있으셨나요? 산학협력 프로젝트는 기업에서 주제를 제시하고, 최종 결과물을 기업에 제출합니다. 그래서 학교에서 과제를 하는 것보다 더 책임감을 느꼈고, ‘이거 제대로 결과를 못 내면 큰일 난다’ 같은 생각에 더 열심히 했습니다. 저희가 아무리 열심히 했더라도 최종 프로그램의 성능이 저조하다면 모두 물거품이 되는 것이라 원하는 결과가 나올 때까지 노력해야만 했습니다. 그 과정이 쉽지는 않았지만, 끝까지 노력한 결과 우수한 결과를 낼 수 있었다고 생각합니다. 페스티벌에 프로그램을 제출하기까지 어려웠던 점은 무엇이었고, 이를 어떻게 극복하셨는지 궁금합니다. 정말 모든 게 처음이었습니다. 여름 방학에 ‘산학협력 하계집중근무 프로그램’이라고 있습니다. 학교 강의실을 하나 빌려 아침 9시부터 오후 6시까지 인턴 생활을 하는 것처럼 매일 출근해서 평일에 기술 개발하고, 논문 읽는 프로그램에 참여하여 열심히 노력했습니다. 이 과정에서 논문을 읽고 선행 연구를 실험해 보고, 실험 결과를 토대로 연구 방향성을 세우고, 가설을 세워 모델을 학습시키고, 결과를 보고 다시 부족한 점을 찾는 사이클 자체를 처음 경험했습니다. 팀장이라 더 책임감이 컸던 것 같습니다. 좋은 결과가 나온 것에는 지도 교수님의 적극적인 지도와 팀원들의 열성적인 참여가 큰 지분을 차지한다고 생각합니다. 특히 지도 교수님이 안계셨다면 성공하기 힘든 프로젝트였다고 생각합니다. 프로젝트 진행 과정에서 특별히 인상깊었던 일들이 있었나요? 저희가 처음부터 큰 상을 받았던 건 아니었습니다. 대상을 받기 전에 두 개의 공모전에 나갔는데, 둘 다 1차에서 낙선했습니다. 처음 공모전에 나갈 때는 다들 열심히 했습니다. 기숙사 통금 시간인 1시까지 남아서 개발하고. 두 번째 공모전 나갈 때는 기존 것에서 조금 더 개선했고, 이게 세 번째 대회였습니다. 이번 대회에 나갈 때는 첫 번째 공모전에 나갔을 때보다 많이 사기가 떨어지긴 했지만, 결국 빛을 보게 되어 좋습니다 . 같은 프로젝트로 대회를 여러 번 나가셨는데, 프로그램 성능 자체도 차이가 크게 났나요? 네. 성능 면에서 차이가 크게 났습니다. 앞서 말했듯, 저희의 비교 대상은 GPT-4 Omni 모델이었습니다. 저희의 ChartBrain.AI와 동시에 그 모델도 같이 발전해서, 여름 방학에는 우리가 성능이 더 좋다고 열심히 얘기했는데, 12월쯤에는 GPT-4 Omni가 저희 모델을 따라잡기도 했습니다. 마지막에는 저희 모델도 많이 발전해 비교 우위를 가져올 수 있었습니다. 이 점이 대상을 받는 데 큰 도움이 됐던 것 같습니다. RISE팀이 전부 소프트웨어학과인데 이번 프로젝트 진행하는데 도움이 됐던 수업이나 대외 활동이 있으신가요? 저는 학회 활동이 도움이 된 것 같습니다. 저희 학교 내에 ‘TNT’라는 인공지능 학회에 가입을 해서 논문 스터디를 했습니다. 이제 막 2학년이 된 시점에 TNT에서 논문을 많이 읽고, 논문을 리뷰하고 서로 질문하기도 하면서 어떤 논문이 좋은 논문인지에 대해서도 배울 수 있었습니다. 개인적으로 TNT에서 했던 논문 리뷰가 가장 도움이 되었습니다. 본인이 생각하는 소프트웨어학의 매력은 무엇인가요? 소프트웨어는 결국 프로그래밍을 해서 문서로 남겨놓는 일이잖아요. 어느 회사에 들어가도 제가 할 수 있는 일은 그 수많은 문서에 한두 글자 정도 고치는 일인데, 이 한두 글자가 굉장히 큰 영향력을 가질 수 있다는 것이 흥미로운 것 같습니다. 글자는 쉽게 복사가 되니까 작은 아이디어를 통해 어느 한 부분만 개선해도 그것이 무한한 영향력을 미칠 수 있다는 점, 그게 가장 큰 매력이자 승부욕을 자극하는 점인 것 같습니다. 앞으로의 진로나 목표가 궁금합니다. 단기적인 목표는 이번에 대상 받은 프로젝트로 학부생 논문을 내년 5~6월쯤 작성해 볼 생각입니다. 현재 제가 개발할 때는 체감상 GPT가 5할, 다른 온라인 정보가 3할을 도와주는 것 같아서 이 프로젝트를 진행할 때도 제가 완벽하게 이해했다는 느낌이 잘 안 들거든요. 그래서 수학, 영어, 알고리즘에 대해 더 깊게 공부할 수 있도록 대학원에 진학하는 것이 저의 장기적인 목표입니다. 소프트웨어 관련 공모전을 준비하려는 학우들에게 조언 한마디 부탁드립니다. 공모전을 준비하는 학우들이면 되게 열심히 하고 계시는 분들이라고 생각이 들어서, 팁 아닌 팁을 생각해 봤습니다. 프로젝트를 진행하다 보면, 개인적으로 어떤 아이디어를 본인은 굉장히 사랑하게 되거든요. 이 생각을 다른 사람들에게 설명하는 것이 어려운 일인 것 같아요. 공모전을 진행하면서 저는 그 부분에서 제일 많이 막혔습니다. 그래서 내 사랑스러운 아이디어를 다른 사람들에게 어떻게 설명할 수 있을지, 특히 심사위원들에게 어떻게 설명할지 많이 고민했습니다. 개인적으로 그 설득은 PPT 1~2페이지에서 끝난다고 생각합니다. 그 부분에 집중해서 공모전에서 좋은 결과를 얻으셨으면 좋겠습니다. 가능한 모든분들을 설득해서 꼭 좋은 결과를 얻길 바랍니다.
- 작성일 2025-02-07
- 조회수 372
[25.01.23] 이지형 교수 연구실(IIS Lab), NAACL 2025 논문 4편 게재 승인

정보 및 지능 시스템 연구실(IIS Lab, 지도교수: 이지형)의 논문 4편이 자연어처리 분야의 최우수 국제학술대회인 NAACL 2025 (“2025 Annual Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics”)에 게재 승인되었습니다. 논문은 4월 미국 뉴 멕시코에서 발표될 예정입니다. 1. DeCAP: Context-Aware Prompt Generation for Debiased Zero-shot Question Answering in Large Language Models, NAACL 2025 저자: 배수영 (인공지능학과 박사과정), 최윤석 (성균관대 컴퓨터교육학과 조교수/소프트웨어학과 박사졸업) 대규모 언어 모델(LLMs)은 제로샷 질문 응답(QA) 과제에서 뛰어난 성능을 보이지만, 기존 방법들은 모호한 질문과 명확한 질문 유형 간의 성능 격차가 크며, 주어진 지침이나 내부 지식에 강하게 의존하여 편향 제거 성능(debiasing performance)이 낮다는 한계를 가지고 있습니다. 이를 해결하기 위해, 우리는 DeCAP (Context-Aware Prompt Generation)을 제안합니다. DeCAP은 질문 유형의 차이로 인한 성능 격차를 줄이기 위해 질문 모호성 탐지기(Question Ambiguity Detector)를 활용하고, 중립적인 문맥을 제공하기 위해 중립적 다음 문장 생성기(Neutral Next Sentence Generator)를 사용하여 내부 편향 지식에 대한 의존도를 감소시킵니다. BBQ와 UNQOVER 데이터셋을 사용해 여섯 개의 LLM에 대한 실험 결과, DeCAP이 state-of-the-arts 편향 제거 QA 성능을 달성했으며, 다양한 QA 환경에서 LLM의 공정성과 정확성을 크게 향상시키는 데 효과적임을 입증했습니다. 2. SALAD: Improving Robustness and Generalization through Contrastive Learning with Structure-Aware and LLM-Driven Augmented Data, NAACL 2025 저자: 배수영 (인공지능학과 박사과정), 김효준 (SKT/인공지능학과 석사졸업), 최윤석 (성균관대 컴퓨터교육학과 조교수/소프트웨어학과 박사졸업) 이 논문에서는 SALAD (Structure-Aware and LLM-driven Augmented Data)라는 새로운 접근법을 제안합니다. SALAD는 대조 학습(Contrastive Learning)을 위해 구조를 인지하고 반사실적(counterfactual)으로 증강된 데이터를 생성함으로써 모델의 강건성(robustness)과 일반화(generalization)**를 향상시키는 것을 목표로 합니다. 태깅 기반 방식을 사용하여 구조를 인지한 긍정 샘플을 생성하고, 대규모 언어 모델(LLM)을 활용해 다양한 문장 패턴을 가진 반사실적 부정 샘플을 생성합니다. 이를 통해 모델이 주요 문장 구성 요소 간의 구조적 관계를 학습하도록 하며, 부적절한 상관관계(spurious correlations)에 대한 의존을 최소화합니다. 감정 분류(Sentiment Classification), 성차별 탐지(Sexism Detection), 자연어 추론(Natural Language Inference) 세 가지 과제에서 실험을 통해 SALAD의 효과를 검증했으며, 그 결과 SALAD가 다양한 환경에서 모델의 강건성과 성능을 향상시킬 뿐 아니라, 분포 외(out-of-distribution) 데이터셋과 교차 도메인 시나리오에서도 일반화 성능을 강화함을 보였습니다. 3. CoRAC: Integrating Selective API Document Retrieval with Question Semantic Intent for Code Question Answering, NAACL 2025 저자: 최윤석 (성균관대 컴퓨터교육학과 조교수/소프트웨어학과 박사졸업), 나철원 (인공지능학과 석박통합과정) 자동 코드 질문 응답(AQA)은 코드 스니펫을 분석하여 코드 관련 질문에 대해 정확한 답변을 생성하는 것을 목표로 합니다. 적절한 답변을 제공하려면 코드의 관련 부분을 정확히 이해하고, 질문의 의도를 올바르게 해석해야 합니다. 그러나 실제 환경에서는 질문자가 코드의 일부만 제공하는 경우가 많아 답변을 찾는 데 어려움이 발생합니다. 응답자는 이러한 제한된 정보를 기반으로 적절한 답변을 제공할 수 있어야 합니다. 이를 해결하기 위해 우리는 CoRAC이라는 지식 기반 프레임워크를 제안합니다. CoRAC은 선택적 API 문서 검색과 질문 의미 의도 클러스터링을 통해 이해력을 향상시켜 자동 코드 질문 응답을 지원합니다. 세 가지 실제 벤치마크 데이터셋에서 CoRAC의 성능을 평가했으며, 다양한 실험을 통해 그 효과를 입증했습니다. 또한, CoRAC이 ChatGPT와 같은 대규모 언어 모델에 비해 고품질의 답변을 생성할 수 있음을 보여주었습니다. 4. Q-FAKER: Query-free Hard Black-box Attack via Controlled Generation, NAACL Findings 2025 저자: 나철원 (인공지능학과 석박통합과정), 최윤석 (성균관대 컴퓨터교육학과 조교수/소프트웨어학과 박사졸업) 언어 모델의 취약성을 검증하기 위해 많은 적대적 공격(adversarial attack) 방법들이 제안되었으나, 대부분 다수의 쿼리와 타겟 모델에 대한 정보를 필요로 합니다. 심지어 블랙박스 공격(black-box attack)조차도 타겟 모델의 출력 정보를 요구하며, 이는 타겟 모델이 닫혀있고 접근이 불가능한 하드 블랙박스(hard black-box) 환경에서는 현실적으로 적용이 어렵습니다. 최근 제안된 하드 블랙박스 공격 방법들도 여전히 많은 쿼리를 요구하며, 적대적 생성기를 훈련하는 데 매우 높은 비용이 소요됩니다. 이러한 문제를 해결하기 위해, 우리는 타겟 모델에 접근하지 않고 적대적 예제를 생성하는 효율적인 방법인 Q-faker(Query-free Hard Black-box Attacker)를 제안합니다. Q-faker는 타겟 모델에 접근하지 않기 위해 대리 모델(surrogate model)을 사용하며, 이 대리 모델은 타겟 모델을 속일 수 있는 적대적 문장을 생성합니다. 이 과정에서 제어된 생성 기법(controlled generation techniques)을 활용합니다. 우리는 8개의 데이터셋에서 Q-faker를 평가했으며, 실험 결과, Qf-aker가 높은 전이성(transferability)과 높은 품질의 적대적 예제를 생성할 수 있음을 보여주었고, 하드 블랙박스 환경에서의 실용성을 입증했습니다. 이지형 교수: john@skku.edu | 정보 및 지능 시스템 연구실: https://iislab.skku.edu/
- 작성일 2025-02-04
- 조회수 292
[25.01.21] 김형식 교수 연구실, ACM SIGCHI 2025 논문 2편 게재 승인

보안공학 연구실 (지도교수: 김형식)의 2편의 논문이 HCI 분야 최우수 학회인 CHI 2025 (ACM SIGCHI Conference on Human Factors in Computing Systems)에 게재 승인(Accept) 되었습니다. 논문은 25년 4월 일본 요코하마에서 발표될 예정입니다. 1. 논문 "Understanding and Improving User Adoption and Security Awareness in Password Checkup Services"은 전자전기컴퓨공학과 오상학(박사과정), 백희원(석사과정), 김태영(박사과정), 전우진(박사과정) 학생과 허준호 연구원님(Samsung Research), Ian Oakley 교수님(KAIST), 김형식 교수님(성균관대학교)이 저자로 참여하였습니다. 비밀번호 점검 서비스(Password Checkup Services, PCS)는 유출되거나 재사용된 비밀번호와 취약한 비밀번호를 식별하여 사용자가 위험에 노출된 계정을 보호할 수 있도록 돕습니다. 하지만 이러한 서비스의 이용률은 낮은 편입니다. 저희 연구팀은 온라인 설문조사(238명 참여)를 통해 PCS 사용 의도에 영향을 미치는 요인과 유출 비밀번호를 변경하는 데 느끼는 어려움에 대해 우선적으로 조사했습니다. 조사 결과, "서비스 유용성에 대한 인식", "서비스 사용의 용이성", "자기 효능감"이 주요 서비스 사용 요인으로 나타났습니다. 또한, "잦은 경고 노출로 인한 경고 피로", "유출 비밀번호에 대한 낮은 경각심", "다른 보안 조치에 대한 의존성"과 같은 요인들이 유출 비밀번호 변경을 방해하는 요인으로 확인되었습니다. 이를 기반으로, 유출 비밀번호에 대한 경고 메시지를 명확히 하고 비밀번호 변경 과정을 자동화(예: 여러 중복된 비밀번호를 동시에 변경하거나 비밀번호 변경 페이지에 직접 연결하는 기능)하는 인터페이스를 새롭게 설계했습니다. 해당 디자인은 Task 기반의 인터뷰 스터디(50명 참여)를 통해 유출 비밀번호 변경률을 검증한 결과 2가지 시나리오에 대해 비밀번호 변경률이 각각 40%와 74%로 유의미하게 향상된 것으로 나타났습니다(기존 Google사의 디자인에서는 각각 16%와 60% 변경). 2. 논문 "I Was Told to Install the Antivirus App, but I’m Not Sure I Need It: Understanding the Adoption, Discontinuation, and Non-Use of Smartphone Antivirus Software in South Korea"은 소프트웨어학과 진세영(석사과정), 백희원(석사과정) 학생과 이의진 교수님 (KAIST), 김형식 교수님 (성균관대학교)이 저자로 참여했습니다. 본 연구는 스마트폰용 안티바이러스 소프트웨어 설치를 보안 업체들이 권장하고 있음에도 불구하고, 사용자들의 오해, 규제 요구사항, 부적절한 사용으로 인해 소프트웨어의 효과가 제한되고 있음을 다룹니다. 심층 인터뷰(23명)와 설문조사(250명)를 포함한 혼합 연구 방법을 통해 스마트폰 안티바이러스 소프트웨어의 채택 현황을 조사했습니다. 특히 은행 및 기타 금융 앱에서 의무적으로 설치해야 하는 경우가 흔한 한국을 대상으로 했습니다. 모바일 악성코드 위협이 증가함에 따라 많은 사용자가 안티바이러스 소프트웨어를 일반 보안 도구와 혼동하며, 그 제한된 기능 범위에 대해 잘 알지 못하는 것으로 나타났습니다. 채택 여부는 인지된 취약성, 대응 효능, 자기 효능감, 사회적 규범, 인식에 크게 영향을 받는 반면, 시스템 성능에 대한 우려와 필요성에 대한 회의감은 중단 또는 비사용으로 이어졌습니다. 한국의 금융 앱 설치 의무화는 사용자 오해, 부정적 인식, 잘못된 안전감에 기여하고 있습니다. 이러한 연구 결과는 사용자 대상 교육, 모바일 특화 위협에 대한 명확한 소통, 안티바이러스 소프트웨어와 관련한 정보 제공 및 효과적인 사용을 촉진하기 위한 노력이 필요함을 강조합니다.
- 작성일 2025-02-04
- 조회수 266
[24.12.26] 류은석 실감미디어공학과장, 과학기술정보통신부 장관상 수상

류은석 실감미디어공학과장, 과학기술정보통신부 장관상 수상 실감미디어공학과 류은석 학과장이 메타버스 분야 핵심 인재 양성과 국제협력·표준화로 차세대 기술 발전에 기여한 점을 인정받아 지난 12월 11일(수) 과학기술정보통신부 장관 표창을 수상하였다. 류은석 교수는 2023학년도 2학기 실감미디어공학과 개원 이래 영상처리, 컴퓨터그래픽스, 인공지능 등의 핵심기술을 바탕으로 실감미디어 콘텐츠 기술을 연구/개발하는 것을 목표로 끊임없이 노력하고 있으며, 실감미디어공학과는 과학기술정보통신부의 메타버스융합대학원 사업의 지원으로 우수한 전일제 대학원생을 선발해오고 있다. 한편, 실감미디어공학과는 ICT기술과 콘텐츠를 융합한 교육과정을 운영하며, 소속 대학 학생 전원 인턴십 및 25%에 해당하는 인원에 대한 해외 연구기관 파견 지원 정책 등을 운영하여 미래를 선도하는 글로벌 리더 양성에 힘쓰고 있다.
- 작성일 2025-02-04
- 조회수 151

SW중심대학사업단

사업단 소식