DSSAL(지도교수: 김장현) 박사과정 강충원 학생: 2026 제1회 대학원 연구성과 경진대회 수상

우리 대학의 DSSAL(Data Science and Social Analysis Lab / 지도교수: 김장현) 소속 박사과정 강충원 학생이 2026 제1회 대학원 연구성과 경진대회+ (2026 Research Matters Plus)에서 장려상을 수상했습니다. DSSAL 소속 박사과정 강충원 학생 강충원 학생의 연구는 기존 멀티모달 대규모 언어 모델(Multimodal Large Language Models, MLLMs)의 탈옥(jailbreak) 취약성 연구가 이미지 입력에 집중되어 있다는 한계를 보완하고자, OpenAI 정책에서 규정한 13개의 규정 위반 범주를 포괄하는 비디오 데이터셋인 MCV-SafetyBench를 구축한 것입니다. 실험 결과, 비디오가 더 다양한 맥락을 포함하고 길이가 길어질수록 MLLMs의 탈옥 취약성이 증가하는 것으로 나타났습니다. 강충원 학생은 "이러한 결과는 비디오 입력의 특성을 고려한 MLLMs 안전성 정렬 연구가 필요함을 시사한다" 고 밝혔습니다.

신뢰가능한인공지능연구단(지도교수: 한진영), KDD 2026서 <국제 워크숍: RespMultimodal 2026> 개최 (08.09. 일)

본 교의 신뢰가능한인공지능연구단(연구책임자 한진영 교수)이 오는 8월 9일 제주국제컨벤션센터(ICC 제주)에서 국제 워크숍 「RespMultimodal 2026: The First International Workshop on Responsible Multimodal Foundation Models for Knowledge Discovery」를 개최합니다. 이번 워크숍은 데이터마이닝 분야의 세계적 권위 학회인 ACM SIGKDD 2026과 연계해 열리며, 성균관대 신뢰가능한인공지능연구단을 중심으로 국내외 연구진이 공동으로 조직했습니다. 한진영 교수와 University of South Florida의 Seungbae Kim 교수, The Pennsylvania State University의 S. Shyam Sundar 교수, University of California, Los Angeles의 Wei Wang 교수가 공동 조직위원장(General Chair)을 맡았습니다. 멀티모달 파운데이션 모델의 책임성을 주제로 올해 처음 개최되는 국제 워크숍으로, KDD 2026이 국내에서 열리는 것을 계기로 책임 있는 멀티모달 AI에 관한 국제적 논의의 장을 마련했다는 데 의미가 있습니다. 워크숍은 텍스트와 이미지, 음성, 영상 등 다양한 형태의 정보를 통합적으로 처리하는 멀티모달 대규모 언어모델(MLLM)이 데이터 분석과 패턴 요약, 가설 생성의 핵심 도구로 자리 잡아가는 흐름에 주목합니다. 특히 모델의 편향과 취약성, 불투명한 의사결정 과정이 연구자가 데이터에서 무엇을 발견하고 어떻게 해석하는지에까지 영향을 미칠 수 있다는 문제의식에서 출발합니다. 공정성과 해석가능성, 강건성을 추상적인 윤리 담론에 머무르지 않고 데이터 기반 지식 발견의 신뢰성을 좌우하는 핵심 기술 과제로 다룬다는 것이 이번 워크숍의 기획 취지입니다. 프로그램은 기조강연 2편과 초청강연 2편, 스포트라이트 발표, 두 차례의 포스터 세션으로 구성됩니다. 첫 번째 기조강연에서는 University of California, Los Angeles의 Yizhou Sun 교수가 'Multimodal Scientific Reasoning: Extending Foundation Models for Scientific and Engineering Discovery'를 주제로, 파운데이션 모델을 과학·공학 분야의 발견 과정으로 확장하기 위한 멀티모달 추론 연구를 소개합니다. 두 번째 기조강연에서는 국회입법조사처 박소영 변호사가 'Legislating Responsible AI: Korea's Basic Act and Beyond'를 통해 인공지능 기본법을 중심으로 한 국내 AI 규범 체계와 향후 과제를 짚습니다. 초청강연에서는 Beijing Institute of Technology의 Guo (Levick) Cheng 교수가 지식그래프를 활용해 모델 추론의 충실성과 완결성을 높이는 방법론(Faico: Faithful and Complete Knowledge Graph Augmented Reasoning)을, University of Technology Sydney의 Bo Peng 교수가 사전학습된 비전-언어 모델의 분포 외 데이터 탐지 성능을 편향 보정을 통해 개선하는 연구(Debiased Negative Mining Improves Out-of-distribution Detection with Pre-trained Vision-Language Models)를 각각 발표할 예정입니다. 포스터 세션에서는 심사를 거쳐 채택된 22편의 논문이 두 세션에 걸쳐 발표됩니다. 각 연구의 핵심 내용을 짧게 소개하는 스포트라이트 발표도 함께 진행되며, 폐회에 앞서 우수 논문 시상식이 열립니다. 조직위원회에는 공동 조직위원장인 한진영 교수, Seungbae Kim 교수, S. Shyam Sundar 교수, Wei Wang 교수를 비롯해 Indiana University의 Haewoon Kwak 교수와 Jisun An 교수, 성균관대 홍성은 교수와 최윤석 교수, 국회입법조사처 박소영 변호사, 네이버 AI Lab 이승현 박사, 성균관대 김도하 박사가 참여합니다. 신뢰가능한인공지능연구단 연구책임자인 한진영 교수는 "멀티모달 모델이 지식을 발견하고 해석하는 도구로 활용되기 시작한 만큼, 모델의 편향은 연구 결과와 데이터 기반 의사결정의 편향으로 이어질 수 있다"며 "국내에서 개최되는 KDD 2026을 계기로 책임 있는 멀티모달 AI 연구가 데이터마이닝 분야의 핵심적인 국제 연구 의제로 자리 잡는 데 기여하고자 한다"고 밝혔습니다. 이번 워크숍은 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받아 수행되는 성균관대 신뢰가능한인공지능연구단 사업의 일환으로 마련됐으며, 자세한 프로그램과 발표 논문은 공식 홈페이지(respmultimodal2026.github.io)에서 확인할 수 있습니다.

신뢰가능한 인공지능 연구단(지도교수: 한진영), 멀티모달 시대의 ‘책임 있는 AI’ 국제 심포지엄 성료

우리 대학의 신뢰가능한인공지능연구단(지도교수: 한진영) 주관으로 지난 7월 14일 인문사회과학캠퍼스 국제관 5층 R&E 라운지에서 「2026 International Symposium on Responsible AI」를 성황리에 개최하였습니다. 과학기술정보통신부와 정보통신기획평가원(IITP)의 후원으로 마련된 이번 심포지엄은, AI가 텍스트를 넘어 이미지와 상황 맥락까지 함께 이해하는 멀티모달 단계로 빠르게 확장되는 흐름에 주목했습니다. 모델이 사진 속 인물과 장면을 해석하는 과정에서 성별, 인종, 민족 등 사회적 단서에 근거한 왜곡된 판단을 내릴 수 있다는 우려가 커지는 만큼, 이러한 위험을 어떻게 진단하고 설계 단계에서 줄여나갈 것인지를 기술과 사회 양측의 시각에서 함께 짚는 자리로 구성되었습니다. 행사는 네 편의 기조강연을 중심으로 진행되었습니다. 성균관대 석학교수이자 지능형멀티미디어연구센터장인 시앰선더(S. Shyam Sundar) 교수(The Pennsylvania State University, Center for Socially Responsible AI 소장)는 알고리즘 편향에 대응하는 열쇠로 이용자의 미디어 리터러시를 제시하며, 기술적 보정에만 기대지 않고 이용자의 판단 역량을 키우는 접근의 필요성을 강조하였습니다. 이어 University of South Florida의 Seungbae Kim 교수는 생성형 AI가 만들어내는 정교한 가짜뉴스를 사례로 삼아, AI가 ‘설득력 있게 거짓을 말하는’ 능력이 책임 있는 AI 연구에 던지는 함의를 분석했습니다. 성균관대 송하연 교수는 이용자의 선호를 그대로 따르는 설계를 넘어 인간의 존엄성과 웰빙을 중심에 두는 AI 설계 원칙을 제안하였으며, Nanyang Technological University의 Jaehong Yoon 교수는 멀티모달 파운데이션 모델의 안전성과 책임성을 확보하기 위한 최신 연구 동향을 소개했습니다. 국내외 교수 및 학생 연구자 100여 명이 참석한 이번 행사는 인간 중심의 신뢰가능한 인공지능 실현을 위한 담론을 형성하고, 미래 기술의 윤리적 기준 마련을 위한 공감대를 넓히는 계기가 되었습니다. 아울러 이날 행사에서는 지난 6월 개최된 ‘2026 성균관대학교 멀티모달 AI Bias 챌린지’의 시상식과 상위 3개 팀의 수상 발표가 함께 진행되었습니다. 성균관대 지능형멀티미디어연구센터, 딥페이크연구센터, 실감미디어공학과가 주최하고 신뢰가능한인공지능연구단이 주관한 이번 대회에는 전국 대학(원)생 524명, 263팀이 참가했습니다. 대회는 이미지-텍스트 기반 질의응답 과제 단일 트랙으로 운영되어, 참가자들은 근거가 분명한 문항에서는 정확한 선택지를 예측하고 판단에 필요한 정보가 충분하지 않은 경우에는 섣불리 추론하지 않는 모델을 개발하였습니다. 정확도 향상에 초점을 맞추는 기존 경진대회와 달리, 성별과 인종, 민족 등 사회적 단서에 따라 AI의 판단이 달라지는 문제를 정면으로 다루었다는 점에서 차별화됩니다. 참가자들은 기술적 역량과 사회적 감수성을 동시에 요구받는 과제를 통해, AI 편향이라는 사회적 문제를 공학적 해법으로 풀어내는 경험을 쌓을 수 있었습니다. 신뢰가능한인공지능연구단 연구책임자인 한진영 교수는 “멀티모달 AI가 사람과 상황을 해석하는 단계로 발전하면서, 편향은 단순한 성능 문제가 아니라 실제 판단과 의사결정에 영향을 미치는 핵심적인 신뢰성 문제로 떠올랐다”며 “앞으로의 AI는 정확한 답을 내는 것뿐 아니라 판단의 근거를 제시하고, 정보가 충분하지 않을 때는 섣부른 추론을 유보할 수 있어야 한다. 이번 심포지엄과 챌린지가 기술적 성능과 사회적 책임을 함께 평가하는 새로운 기준을 만들어가는 출발점이 되기를 기대한다”고 밝혔습니다.

LAMDA연구실(지도교수: 오하영) RecSys 2026(1편), SIGIR 2026(1편), ISMAR 2026(1편), UIST 2026(1편) 총 논문 4편 채택

- RecSys(ACM Conference on Recommender Systems) - SIGIR(ACM SIGIR Conference on Research and Development in Information Retrieval) - ISMAR(IEEE International Symposium on Mixed and Augmented Reality) - UIST(ACM Symposium on User Interface Software and Technology) 1)Choosing What Matters: Query-Aware Multimodal Routing for Conversational Recommendation / RecSys(Short paper) 왼쪽부터 LAMDA Lab 인공지능융합학과 석사과정 박혜림, 최서인, 심준보 학생(지도교수: 오하영) Conversational Recommender System(CRS) 분야에서 Query-Aware Multimodal Routing(QAMR-CRS) 모델을 제안하고 구현하였다. 기존 최신 멀티모달 추천 모델인 MSCRS는 지식그래프(Knowledge Graph), 공출현(Co-occurrence), 텍스트 유사도(Text Similarity), 이미지 유사도(Image Similarity) 정보를 활용하지만, 모든 대화 상황에서 동일한 방식으로 모달리티를 융합한다는 한계가 존재하였다. 이에 본 연구에서는 사용자의 현재 대화 문맥과 대화 내 언급된 개체 정보를 기반으로 질의(Query)를 표현하고, 각 질의에 대해 어떤 모달리티 정보가 가장 중요한지를 동적으로 판단하는 Query-Aware Routing 메커니즘을 설계하였다. 이를 위해 대화 표현과 개체 표현을 결합한 질의 벡터를 생성하고, 이를 기반으로 각 모달리티의 중요도를 예측하는 라우터를 구축하였다. 또한 특정 모달리티에 과도하게 의존하는 현상을 방지하기 위해 엔트로피 정규화(Entropy Regularization)를 적용하였으며, 기존 멀티모달 융합 정보와 동적 라우팅 결과를 결합하는 잔차 기반(Residual) 융합 구조를 도입하여 모델의 안정성과 일반화 성능을 향상시켰다. 2) PEARL: Profile-based Explainable Agent for Edge LLM Recommendation via Latent Decomposition / SIGIR(Short paper) LAMDA Lab 인공지능융합학과 석사과정 이진권 학생(지도교수 : 오하영) 본 연구는 사용자의 프로필을 기반으로 가장 적합한 20억 개 이하의 온디바이스 LLM을 선택하고 그 이유를 설명하는 PEARL 프레임워크를 제안한다. 기존 개인화 연구가 하나의 고정된 모델을 조정하는 데 집중한 것과 달리, PEARL은 사용자 선호와 과제 특성에 따라 서로 다른 엣지 모델을 추천한다. 이를 위해 클라우드 LLM과 엣지 LLM의 응답 차이를 공감성, 장르 이해도, 선호 반영 능력 등의 특성으로 요약하고, Explainable Latent Decomposition을 통해 해석 가능한 잠재 능력 공간으로 변환한다. 이후 사용자 프로필과 각 모델의 능력 좌표를 비교하여 가장 적합한 모델을 선택하고 자연어 설명을 생성한다. PersonaLens 데이터셋 실험에서 PEARL은 단일 도메인 개인화 점수 2.40, 다중 도메인 점수 2.26을 기록하여 최고 성능의 고정 모델보다 각각 0.28과 0.23 높은 성능을 보였다. 또한 주요 능력 차원을 제거했을 때 추천 결과의 73%가 변경되어, 생성된 설명이 실제 모델 선택에 직접 활용되는 신뢰할 수 있는 근거임을 확인하였다. 이러한 결과는 PEARL이 콜드스타트 환경에서 개인화된 온디바이스 LLM을 효과적이고 설명 가능하게 선택할 수 있음을 보여준다. 3) SPHERE: Adaptive VR Indoor Scene Generation via LLM-Enhanced Spatial Preference Learning and Human-in-the-Loop RL / TVCG(presented at ISMAR) (Full paper) LAMDA Lab 실감미디어공학과 석사과정 이현민 학생(지도교수: 오하영) 본 연구는 대형언어모델(LLM)을 활용한 3차원 실내 공간 생성 과정에서 사용자의 선호를 지속적으로 학습하고 반영하는 적응형 가상현실 생성 프레임워크인 SPHERE를 제안한다. 기존 3D 공간 생성 방식은 개별 세션 단위로 동작하여 사용자가 이전에 수행한 수정이나 공간 배치 선호를 유지하지 못하기 때문에, 새로운 공간을 생성할 때마다 동일한 수정 작업을 반복해야 하며 몰입형 환경에서 신체적 피로가 증가하는 한계가 있었다. SPHERE는 이러한 일회성 공간 생성을 사용자와 인공지능이 지속적으로 협력하는 인간-AI 공동 창작 과정으로 확장한다. SPHERE는 사용자의 음성 명령과 컨트롤러 기반 편집 행동에서 반복적으로 나타나는 공간 선호를 추출하고 이를 장기적으로 저장한다. 또한 개별 객체의 위치와 같은 단순한 편집 기록에 과도하게 의존하지 않도록, 사용자의 수정 행동을 지역적 기능 관계와 전역적 공간 구조를 포함하는 계층적 제약 조건으로 추상화한다. 이를 통해 공간의 크기나 형태가 변화하더라도 사용자의 기능적·위상적 배치 선호를 안정적으로 적용할 수 있다. 아울러 사용자가 최종적으로 편집한 장면을 피드백으로 활용하는 Human-in-the-Loop 강화학습 메커니즘을 도입하여, 사용자에게 적합한 공간 선호를 검색하는 정책을 지속적으로 갱신하도록 설계하였다. 총 42명을 대상으로 한 혼합 설계 사용자 실험과 오프라인 절제 실험을 수행한 결과, SPHERE는 기존 방식과 비교하여 사용자가 수행해야 하는 공간 수정 횟수와 신체적 부담을 유의하게 감소시켰다. 또한 단순한 객체 수준의 특성에 편향되지 않고 사용자의 기능적·공간적 선호가 반영된 개인화된 실내 레이아웃을 생성하는 것으로 나타났다. 이러한 결과는 SPHERE가 사용자의 지속적인 피드백을 기반으로 공간 생성 지능을 안전하고 신뢰성 있게 발전시키며, 몰입형 공간 설계에서 인간 중심의 지속적 공동 창작을 지원할 수 있음을 보여준다. 4) What If You Could Call Your Future Self? NicoCall as a Personalized Future-Self Video Call for Nicotine Cessation / UIST (Full paper) 왼쪽부터 LAMDA Lab 실감미디어공학과 석사과정 서주민, 졸업생 홍지흔, 인공지능융합학과 졸업생 김동명 학생 (지도교수 : 오하영) 본 연구는 니코틴 중독 금연을 지원하기 위해 AI 기반 미래자아와의 개인화된 비디오 통화 상호작용 시스템인 NicoCall을 제안한다. 기존의 금연 중재는 주로 일반적인 정보 제공이나 일방향 조언에 의존했으나, 금연의 핵심 어려움은 현재의 즉각적인 보상과 미래의 지연된 건강 이득 사이의 시간적 갈등이라는 점을 간과해왔다. 이를 해결하기 위해 본 연구에서는 ‘미래자아 연속성’ 이론에 기반하여, 사용자의 개인 정보(성격 특성, 가치관, 니코틴 의존성 지표)로부터 구축한 맞춤형 미래자아 페르소나를 시각화하고, 이와의 대화형 상호작용을 제공하는 시스템을 구현하였다. 특히 희망적 미래자아(성공적으로 금연한 긍정적 미래)와 두려운 미래자아(금연 실패로 인한 부정적 미래) 두 가지 상반된 프레이밍을 모두 지원하도록 설계하였다. 연구 방법론은 두 단계로 구성된다. 먼저 형성 연구를 통해 사용자들이 미래자아 상호작용을 어떻게 인식하는지 탐색하고, 신뢰성, 정서적 수용 가능성, 사용자 주체성 측면의 설계 요구사항을 도출하였다. 이를 바탕으로 LLM 기반 대화 생성, 사용자 사진으로부터의 3D 얼굴 재구성 및 나이 진행을 통한 시각적 미래 자신 생성, 조건별 대화 프레이밍 등을 구현하였다. 이후 본 실험에서는 희망적 자아, 두려운 자아, 대조군(표준 금연 교육 영상) 3가지 조건을 비교하는 무작위 배정 실험을 수행하였다. 주요 발견사항은 다음과 같다. NicoCall 상호작용 전반은 미래자아 연속성과 금연 자기효능감 증가, 흡연 갈망 감소와 관련되었다. 특히 희망적 미래자아 프레이밍은 미래자아 연속성과 자기효능감에서 더 일관되고 안정적인 심리적 변화를 보였으며, 1개월 후속 추적에서도 흡연 감소 효과가 더 잘 유지되었다. 반면 두려운 미래자아는 단기 흡연 감소에서 더 큰 즉각적 영향을 보였지만, 심리적 지속성과 장기 유지 측면에서는 혼합된 결과를 나타냈다. 질적 분석을 통해서는 미래자아가 사용자 자신의 목표와 경험을 반영할 때(개인적 적합성)와 상호작용이 생생한 사회적 현존감을 제공할 때 메시지 수용성이 높아짐을 확인하였다. 이는 미래자아 기반 중재의 효과가 단순한 정서적 충격이나 정보 내용이 아니라, 사용자가 그 미래자아를 자신으로 경험하는 정도에 달려 있음을 시사한다.