LAMDA연구실(지도교수: 오하영) RecSys 2026(1편), SIGIR 2026(1편), ISMAR 2026(1편), UIST 2026(1편) 총 논문 4편 채택

- RecSys(ACM Conference on Recommender Systems) - SIGIR(ACM SIGIR Conference on Research and Development in Information Retrieval) - ISMAR(IEEE International Symposium on Mixed and Augmented Reality) - UIST(ACM Symposium on User Interface Software and Technology) 1)Choosing What Matters: Query-Aware Multimodal Routing for Conversational Recommendation / RecSys(Short paper) 왼쪽부터 LAMDA Lab 인공지능융합학과 석사과정 박혜림, 최서인, 심준보 학생(지도교수: 오하영) Conversational Recommender System(CRS) 분야에서 Query-Aware Multimodal Routing(QAMR-CRS) 모델을 제안하고 구현하였다. 기존 최신 멀티모달 추천 모델인 MSCRS는 지식그래프(Knowledge Graph), 공출현(Co-occurrence), 텍스트 유사도(Text Similarity), 이미지 유사도(Image Similarity) 정보를 활용하지만, 모든 대화 상황에서 동일한 방식으로 모달리티를 융합한다는 한계가 존재하였다. 이에 본 연구에서는 사용자의 현재 대화 문맥과 대화 내 언급된 개체 정보를 기반으로 질의(Query)를 표현하고, 각 질의에 대해 어떤 모달리티 정보가 가장 중요한지를 동적으로 판단하는 Query-Aware Routing 메커니즘을 설계하였다. 이를 위해 대화 표현과 개체 표현을 결합한 질의 벡터를 생성하고, 이를 기반으로 각 모달리티의 중요도를 예측하는 라우터를 구축하였다. 또한 특정 모달리티에 과도하게 의존하는 현상을 방지하기 위해 엔트로피 정규화(Entropy Regularization)를 적용하였으며, 기존 멀티모달 융합 정보와 동적 라우팅 결과를 결합하는 잔차 기반(Residual) 융합 구조를 도입하여 모델의 안정성과 일반화 성능을 향상시켰다. 2) PEARL: Profile-based Explainable Agent for Edge LLM Recommendation via Latent Decomposition / SIGIR(Short paper) LAMDA Lab 인공지능융합학과 석사과정 이진권 학생(지도교수 : 오하영) 본 연구는 사용자의 프로필을 기반으로 가장 적합한 20억 개 이하의 온디바이스 LLM을 선택하고 그 이유를 설명하는 PEARL 프레임워크를 제안한다. 기존 개인화 연구가 하나의 고정된 모델을 조정하는 데 집중한 것과 달리, PEARL은 사용자 선호와 과제 특성에 따라 서로 다른 엣지 모델을 추천한다. 이를 위해 클라우드 LLM과 엣지 LLM의 응답 차이를 공감성, 장르 이해도, 선호 반영 능력 등의 특성으로 요약하고, Explainable Latent Decomposition을 통해 해석 가능한 잠재 능력 공간으로 변환한다. 이후 사용자 프로필과 각 모델의 능력 좌표를 비교하여 가장 적합한 모델을 선택하고 자연어 설명을 생성한다. PersonaLens 데이터셋 실험에서 PEARL은 단일 도메인 개인화 점수 2.40, 다중 도메인 점수 2.26을 기록하여 최고 성능의 고정 모델보다 각각 0.28과 0.23 높은 성능을 보였다. 또한 주요 능력 차원을 제거했을 때 추천 결과의 73%가 변경되어, 생성된 설명이 실제 모델 선택에 직접 활용되는 신뢰할 수 있는 근거임을 확인하였다. 이러한 결과는 PEARL이 콜드스타트 환경에서 개인화된 온디바이스 LLM을 효과적이고 설명 가능하게 선택할 수 있음을 보여준다. 3) SPHERE: Adaptive VR Indoor Scene Generation via LLM-Enhanced Spatial Preference Learning and Human-in-the-Loop RL / TVCG(presented at ISMAR) (Full paper) LAMDA Lab 실감미디어공학과 석사과정 이현민 학생(지도교수: 오하영) 본 연구는 대형언어모델(LLM)을 활용한 3차원 실내 공간 생성 과정에서 사용자의 선호를 지속적으로 학습하고 반영하는 적응형 가상현실 생성 프레임워크인 SPHERE를 제안한다. 기존 3D 공간 생성 방식은 개별 세션 단위로 동작하여 사용자가 이전에 수행한 수정이나 공간 배치 선호를 유지하지 못하기 때문에, 새로운 공간을 생성할 때마다 동일한 수정 작업을 반복해야 하며 몰입형 환경에서 신체적 피로가 증가하는 한계가 있었다. SPHERE는 이러한 일회성 공간 생성을 사용자와 인공지능이 지속적으로 협력하는 인간-AI 공동 창작 과정으로 확장한다. SPHERE는 사용자의 음성 명령과 컨트롤러 기반 편집 행동에서 반복적으로 나타나는 공간 선호를 추출하고 이를 장기적으로 저장한다. 또한 개별 객체의 위치와 같은 단순한 편집 기록에 과도하게 의존하지 않도록, 사용자의 수정 행동을 지역적 기능 관계와 전역적 공간 구조를 포함하는 계층적 제약 조건으로 추상화한다. 이를 통해 공간의 크기나 형태가 변화하더라도 사용자의 기능적·위상적 배치 선호를 안정적으로 적용할 수 있다. 아울러 사용자가 최종적으로 편집한 장면을 피드백으로 활용하는 Human-in-the-Loop 강화학습 메커니즘을 도입하여, 사용자에게 적합한 공간 선호를 검색하는 정책을 지속적으로 갱신하도록 설계하였다. 총 42명을 대상으로 한 혼합 설계 사용자 실험과 오프라인 절제 실험을 수행한 결과, SPHERE는 기존 방식과 비교하여 사용자가 수행해야 하는 공간 수정 횟수와 신체적 부담을 유의하게 감소시켰다. 또한 단순한 객체 수준의 특성에 편향되지 않고 사용자의 기능적·공간적 선호가 반영된 개인화된 실내 레이아웃을 생성하는 것으로 나타났다. 이러한 결과는 SPHERE가 사용자의 지속적인 피드백을 기반으로 공간 생성 지능을 안전하고 신뢰성 있게 발전시키며, 몰입형 공간 설계에서 인간 중심의 지속적 공동 창작을 지원할 수 있음을 보여준다. 4) What If You Could Call Your Future Self? NicoCall as a Personalized Future-Self Video Call for Nicotine Cessation / UIST (Full paper) 왼쪽부터 LAMDA Lab 실감미디어공학과 석사과정 서주민, 졸업생 홍지흔, 인공지능융합학과 졸업생 김동명 학생 (지도교수 : 오하영) 본 연구는 니코틴 중독 금연을 지원하기 위해 AI 기반 미래자아와의 개인화된 비디오 통화 상호작용 시스템인 NicoCall을 제안한다. 기존의 금연 중재는 주로 일반적인 정보 제공이나 일방향 조언에 의존했으나, 금연의 핵심 어려움은 현재의 즉각적인 보상과 미래의 지연된 건강 이득 사이의 시간적 갈등이라는 점을 간과해왔다. 이를 해결하기 위해 본 연구에서는 ‘미래자아 연속성’ 이론에 기반하여, 사용자의 개인 정보(성격 특성, 가치관, 니코틴 의존성 지표)로부터 구축한 맞춤형 미래자아 페르소나를 시각화하고, 이와의 대화형 상호작용을 제공하는 시스템을 구현하였다. 특히 희망적 미래자아(성공적으로 금연한 긍정적 미래)와 두려운 미래자아(금연 실패로 인한 부정적 미래) 두 가지 상반된 프레이밍을 모두 지원하도록 설계하였다. 연구 방법론은 두 단계로 구성된다. 먼저 형성 연구를 통해 사용자들이 미래자아 상호작용을 어떻게 인식하는지 탐색하고, 신뢰성, 정서적 수용 가능성, 사용자 주체성 측면의 설계 요구사항을 도출하였다. 이를 바탕으로 LLM 기반 대화 생성, 사용자 사진으로부터의 3D 얼굴 재구성 및 나이 진행을 통한 시각적 미래 자신 생성, 조건별 대화 프레이밍 등을 구현하였다. 이후 본 실험에서는 희망적 자아, 두려운 자아, 대조군(표준 금연 교육 영상) 3가지 조건을 비교하는 무작위 배정 실험을 수행하였다. 주요 발견사항은 다음과 같다. NicoCall 상호작용 전반은 미래자아 연속성과 금연 자기효능감 증가, 흡연 갈망 감소와 관련되었다. 특히 희망적 미래자아 프레이밍은 미래자아 연속성과 자기효능감에서 더 일관되고 안정적인 심리적 변화를 보였으며, 1개월 후속 추적에서도 흡연 감소 효과가 더 잘 유지되었다. 반면 두려운 미래자아는 단기 흡연 감소에서 더 큰 즉각적 영향을 보였지만, 심리적 지속성과 장기 유지 측면에서는 혼합된 결과를 나타냈다. 질적 분석을 통해서는 미래자아가 사용자 자신의 목표와 경험을 반영할 때(개인적 적합성)와 상호작용이 생생한 사회적 현존감을 제공할 때 메시지 수용성이 높아짐을 확인하였다. 이는 미래자아 기반 중재의 효과가 단순한 정서적 충격이나 정보 내용이 아니라, 사용자가 그 미래자아를 자신으로 경험하는 정도에 달려 있음을 시사한다.

SW융합대학 실감미디어공학과, 2026 가상융합대학원 성과공유회’서 연구역량 입증

SW융합대학 실감미디어공학과, 2026 가상융합대학원 성과공유회’서 연구역량 입증 W융합대학(학장 이은석 교수) 실감미디어공학과 2026 가상융합대학원 성과공유회’서 우수논문·산학협력·포스터 발표 부문 수상 통해 가상융합 분야 연구 경쟁력 입증 성균관대학교 실감미디어공학과 (류은석 학과장) 및 가상융합대학원 사업단 (사업단장 류은석교수)이 지난 6월 10일~12일 서울 코엑스에서 개최된 「2026 가상융합대학원 성과공유회(가상융합혁신인재 심포지엄)」에 참가해 우수 연구성과를 선보이고 다수의 수상 실적을 거두며 가상융합 분야 연구 경쟁력을 입증했다. 과학기술정보통신부와 정보통신기획평가원(IITP)이 주관한 이번 행사는 AX(AI 전환) 시대를 견인할 가상융합 석·박사 인재들의 성과를 격려하고, 기술 시연과 성과 공유를 통해 지속 가능한 성장 비전을 제시하기 위해 마련됐다. 행사에는 과학기술정보통신부, 정보통신기획평가원, 가상융합대학원 8개 대학 연구책임자, 협력기업, 수혜학생 등 150여 명이 참석했다. 행사는 ▲연구 몰입 환경 조성 및 성장 지원을 위한 소통 간담회 ▲공간컴퓨팅 등 대학원별 핵심요소기술 구현 성과를 소개하는 전시 ▲글로벌 학술성과 및 산학협력 프로젝트(PBL) 성과를 공유하는 발표 세션으로 구성됐다. 특히 ‘AX를 현실로(Realizing AI via XR)’를 주제로 가상융합 기술구현 역량과 인재 양성 성과를 대외적으로 선보이는 자리로 마련됐다. 성균관대학교는 행사장 내 대학 전시부스를 통해 다양한 연구성과를 소개했다. 양이삭 연구원은 「로봇 기반 4D Gaussian Splatting 영상 취득 및 촬영 자동화 기술」을 선보였으며, 구래건 연구원은 「Library: A Large-Scale Outdoor Gaussian Splat Reconstruction Dataset」을 주제로 우수논문 구두발표를 진행했다. 또한 김영규 연구원은 「3차원 공간컴퓨팅을 위한 Gaussian Splat Coding 연구 및 국제표준 개발」을 주제로 산학협력 프로젝트 성과를 발표하며 공간컴퓨팅 분야의 기술 개발 및 국제표준화 추진 성과를 공유했다. 양이삭 연구원의 「로봇 기반 4D Gaussian Splatting 영상 취득 및 촬영 자동화 기술」 체험 전시 구래건 연구원의 「Library: A Large-Scale Outdoor Gaussian Splat Reconstruction Dataset」 우수논문 구두발표 김영규 연구원의 「3차원 공간컴퓨팅을 위한 Gaussian Splat Coding 연구 및 국제표준 개발」 산학협력 프로젝트 발표 우수논문 포스터 발표 부문에서는 정애천 연구원과 이현민 연구원이 각각 AI 기반 시각-언어모델 추론 효율화 연구와 VR 환경에서의 팀워크 경험 분석 연구를 발표하며 가상융합 분야의 연구성과를 선보였다. 이현민 연구원의 「VR 팀워크 내 사회적 평가·작업부하 분석」 우수논문 포스터 발표 정애천 연구원의 「시각-언어모델 추론 가속을 위한 학습 없는 토큰 프루닝」 우수논문 포스터 발표 이번 성과공유회에서 성균관대학교 가상융합대학원 사업단은 우수논문, 산학협력 프로젝트, 포스터 발표 등 다양한 부문에서 수상자를 배출하며 뛰어난 연구 역량을 입증했다. 우수논문 발표회에서는 구래건 연구원이 최우수상을 수상했으며, 산학협력 프로젝트 발표회에서는 김영규 연구원이 우수상을 수상했다. 또한 우수논문 포스터 발표회에서는 정애천 연구원과 이현민 연구원이 각각 우수상을 수상하며 연구 우수성을 인정받았다. 성균관대학교 가상융합대학원 사업단은 공간컴퓨팅, XR, 인공지능 기반 3차원 콘텐츠 생성 기술 및 국제표준화 연구 등 미래 가상융합 산업을 선도할 핵심 기술 개발과 전문인력 양성에 주력하고 있다. 앞으로도 글로벌 수준의 연구성과 창출과 산학협력 확대를 통해 AX 시대를 이끌 가상융합 혁신 인재 양성에 지속적으로 힘쓸 계획이다. ※본 성과는 과학기술정보통신부와 정보통신기획평가원(IITP) 정보통신방송혁신인재양성사업 「가상융합대학원」과제 지원을 받아 수행된 연구결과입니다.

dxlab(지도교수 : 박은일), IJCAI 2026 1편, INTERSPEECH 2편 논문 게재 승인

dxlab(지도교수 : 박은일), IJCAI 2026 1편, INTERSPEECH 2편 논문 게재 승인 Data eXperience Lab (dxlab, 지도교수: 박은일)의 논문이 인공지능과 음성처리 분야 top-tier 국제학술대회인 IJCAI 2026(1편)과 INTERSPEECH 2026(2편)에 게재 승인되었습니다. 제목: FedAMB: Adaptive Modality Balancing for Dominance-Robust Multimodal Federated Distillation 저자: 한승진, 이주엽, 이상민, 박은일 학술대회: International Joint Conference on Artificial Intelligence (IJCAI 2026, August 2026) 키워드: Multimodal Federated Learning, Federated Knowledge Distillation, Modality Dominance, Missing Modality Robustness Multimodal Federated Learning은 여러 modality를 분산 클라이언트 환경에서 프라이버시를 유지하며 학습할 수 있지만, modality별 학습 난이도 차이로 인해 특정 modality가 학습을 지배하는 modality dominance 문제가 발생합니다. 본 연구는 선택적 modality 학습과 knowledge distillation을 통해 multimodal accuracy와 unimodal robustness를 함께 향상시킵니다. 핵심 기여 ■ Contamination-Aware Modality Dominance 정의 Modality dominance를 Fed-KD의 global teacher contamination 문제로 재정의 ■ Selective-Modality Regulation (SMR) 제안 Dominance state를 감지하고, 필요한 경우 선택적으로 weak modality 학습을 강화 ■ Component-wise Modality Distillation (CMD) 제안 Global knowledge를 각 modality branch로 전달하여 unimodal robustness 향상 (a) FedAMB 프레임워크 그림 (a)는 FedAMB의 전체 프레임워크를 나타냅니다. 각 client는 먼저 modality dominance를 식별하고 SMR을 통해 local training을 조정한 뒤, proxy dataset에 대한 예측을 서버로 전달합니다. 서버는 이를 aggregation하여 global teacher를 구성하고, CMD를 통해 이 knowledge를 각 client의 modality branch에 distill함으로써 multimodal accuracy와 unimodal robustness를 함께 향상시킵니다. 제목: Temporal Transition-Aware Multi-Head Modeling for Partially Spoofed Audio Detection and Localization 저자: 김윤서, 이주엽, 박은일 학술대회: Interspeech 2026(September 2026) 키워드: Partially Spoofed Audio, Spoof Localization, Audio Boundary Detection 부분 조작 오디오 탐지(PSAL)는 하나의 발화 안에서 일부 구간만 가짜 오디오가 삽입된 경우, 이를 프레임 단위로 탐지하고 위치를 찾는 문제입니다. 기존 방법들은 주로 각 프레임의 진위 여부나 경계 예측에 집중했지만, 진짜 오디오와 가짜 오디오가 전환되는 순간의 시간적 변화를 충분히 활용하지 못했습니다. 본 논문은 인접 프레임 간의 시간적 변화를 핵심 단서로 활용하는 transition-aware localization framework를 제안하여, 가짜 오디오 구간의 시작과 종료를 더 정밀하게 탐지합니다. 핵심 기여 ■ Transition-aware PSAL 관점 제시 기존의 frame-wise authenticity prediction이나 boundary label 중심 접근을 넘어, 인접 프레임 간 temporal transition을 부분 조작 오디오 localization의 핵심 단서로 활용하는 새로운 관점을 제안 ■ Directional transition 기반 multi-head learning objective 제안 Real-to-Fake, Fake-to-Real과 같은 변화 방향을 명시적으로 학습하는 transition head와 frame-level score를 보정하는 refinement head를 결합하여, 조작 구간의 경계를 보다 정밀하게 탐지 ■ 세 가지 PSAL 데이터셋에서 성능 검증 PartialSpoof, PartialEdit-E1, PartialEdit-E2 데이터셋에서 실험을 수행하여, 제안 방법이 기존 기법 대비 우수한 frame-level localization 성능을 달성함을 확인 (a)Transition head와 refinement head 그림 (a) transition head는 각 프레임 쌍의 변화 양상을 분류하고, refinement head는 변화 정보와 프레임 독립적인 정보를 합쳐서 최종적으로 프레임을 분류합니다. (b) 하나의 발화에 대한 2D PCA trajectory 시각화 학습된 모델의 feature를 분석한 결과, 진짜 오디오와 가짜 오디오가 시간적으로 구분되는 표현을 가짐을 확인할 수 있습니다. 제목: K-DIALECT: Korean Dialect-Aware Face-Based Speech Synthesis 저자: 양성연, 이주엽, 박은일 학술대회: Interspeech 2026(September 2026) 키워드: Speech Synthesis, Multimodal Text-to-Speech, Korean Dialects Text-to-Speech는 주어진 텍스트를 읽는 발화 오디오를 생성하는 문제입니다. 기존 방법들은 정해진 음성으로만 텍스트를 읽거나 원하는 음성의 참고 오디오를 입력해야 했습니다. 하지만 원하는 대상에게 어울리는 음성을 자동으로 생성하는 연구는 부족했으며, 한국어 방언과 결합된 연구는 없었습니다. 본 논문은 원하는 대상의 이미지와 원하는 한국어 방언을 선택하면 대상에게 어울리는 음성으로 해당 방언으로 주어진 텍스트를 읽는 발화 오디오의 생성을 수행합니다. 핵심 기여 ■ 대상과 어울리는 음성으로 발화 오디오 생성 기존의 참고 오디오를 활용하는 발화 오디오 생성을 넘어, style encoder와 ID encoder를 통해 대상의 이미지에서 얼굴의 특징을 추출하여 대상에게 어울리는 음성으로 발화 오디오 생성 ■ 한국어 방언 발화 오디오 생성 서울, 강원, 경상, 전라, 제주, 충청 중 방언을 선택하면 T5 기반의 dialect translator와 pitch predictor를 통해 해당하는 방언으로 텍스트를 발화하는 오디오 생성 ■ 객관적·주관적 지표를 통한 성능 검증 참고 오디오를 활용한 기존 방법론과 비교실험을 수행한 결과 객관적 지표 뿐만 아니라, 한국인을 대상으로 평가한 주관적 지표에서도 더 우수한 성능 달성 (a) K-DIALECT 프레임워크 (b) Pitch Predictor (c)Image Encoder 그림 (a)는 텍스트와 대상의 이미지, 한국어 방언의 종류가 주어지면 대상에게 어울리는 음성으로 텍스트를 발화하는 오디오를 생성합니다. 그림 (b)는 방언의 종류에 따라 음성을 조정하고, 그림 (c)는 이미지에서 대상의 얼굴 특징을 추출합니다.

인공지능융합학과/실감미디어공학과 학생 13명, 2026년 AI 서울테크 대학원 장학생 선정

인공지능융합학과/실감미디어공학과 학생 13명, 2026년 AI 서울테크 대학원 장학생 선정 우리 학교 인공지능융합학과/실감미디어공학과 학생 13명이 AI 서울테크 대학원 장학생에 선정되었다. 선정된 장학생은 다음과 같다. 박사/석박통합과정: 류보곤, 김홍엽(지도교수 홍성은), 원현선(지도교수 한진영), 이유빈(지도교수 박은일) 석사과정: 김종한, 박지안, 양시현, 김지은, 이유진, 김지현(지도교수 한진영), 한승진, 박채원, 박신유(지도교수 박은일) 서울장학재단은 위 학생들에게 각 4천만원(박사과정)과 2천만원(석사과정)의 연구 장려금을 지원할 계획이다. 해당 장학금은 서울 소재의 AI 인재양성을 위해 서울특별시에서 신설한 사업으로 AI 기반의 전문 인재 양성을 위하여 조성되었다. *각 연구실 링크 박은일 교수 - dxlab (https://dsl.skku.edu/) 한진영 교수 - DSAIL (http://dsail.skku.edu/) 홍성은 교수 - AIM LAB (https://aim.skku.edu/)