AIM LAB(지도교수 : 홍성은 교수) , ICML 2026 논문 게재 승인

AIM LAB(지도교수 : 홍성은 교수) , ICML 2026 논문 게재 승인 인공지능 및 미디어 연구실(AI & Media Lab, AIM Lab, 지도교수: 홍성은 교수)의 논문이 머신러닝 분야 top-tier 국제학술대회인 ICML 2026 (International Conference on Machine Learning)에 게재 승인되었습니다. 제목: SyMerge: From Non-Interference to Synergistic Merging via Single-Layer Adaptation 저자: 정애천, 이승환, 한동윤, 홍성은 학술대회: International Conference on Machine Learning (ICML 2026), July 2026 키워드: Model Merging, Multi-task Learning, Test Time Adaptation Model merging은 각 태스크별로 독립적으로 학습된 모델을 파라미터 수준에서 결합함으로써, 대규모 multi-task learning에 필요한 높은 학습 비용을 줄일 수 있는 효율적인 접근법입니다. 기존 방법들은 model merging 적용 시 태스크 간 성능 저하를 막는 non-interference에 초점을 맞추어 왔지만, 본 논문은 태스크 간 간섭을 줄이는 것에서 나아가, 서로 다른 태스크 간의 시너지 효과를 유도하는 방향으로 model merging을 수행합니다. 핵심 기여 ■ Synergistic model merging 관점 제시 태스크 간 간섭을 줄이는 것을 넘어, 서로 다른 태스크가 상호 보완적으로 성능을 향상시킬 수 있는 model merging 방향을 제안 ■ Single-layer adaptation 기반 경량화 방법 제안 전체 모델을 재학습하지 않고, 단 하나의 task-specific layer와 merging coefficient만을 적응시켜 효율적으로 merged model의 성능을 향상시킴 ■ 다양한 태스크에서의 효과 검증 Vision, dense prediction, NLP benchmark에서 제안 방법의 효과를 검증하고, 적응된 layer가 다른 merging 방법에도 활용될 수 있음을 확인 그림 (a) 여러 task-specific 모델을 하나의 merged encoder로 결합한 뒤, classifier를 재학습하여 태스크 간 representation 정렬을 강화합니다. 이후 cross-task encoder 평가를 통해 서로 다른 태스크 간 호환성을 측정합니다. 그림 (b) 단 하나의 layer와 merging coefficient를 함께 적응시키는 방식이 가장 높은 성능을 보여, SyMerge의 경량성과 효과성을 확인할 수 있습니다.

소프트웨어융합대학 한진영 교수, 인공지능 안전성·책임성 연구로 국무총리표창 수상

소프트웨어융합대학 한진영 교수, 인공지능 안전성·책임성 연구로 국무총리표창 수상 소프트웨어융합대학 한진영 교수가 4월 21일 개최된 ‘2026년 과학·정보통신의 날’ 기념식에서 국무총리표창을 수상했다. 과학기술정보통신부와 방송통신위원회가 공동 주최하는 ‘과학·정보통신의 날 정부포상’은 정보통신기술(ICT) 발전과 국가 혁신에 기여한 개인 및 단체를 대상으로 수여되는 정부 최고 수준의 권위 있는 포상으로, 연구 성과뿐 아니라 산업·정책적 파급효과와 국가 기여도를 종합적으로 평가한다는 점에서 의미가 크다. 한 교수는 인공지능 안전성과 책임성(Responsible AI) 분야를 선도하는 연구자로, 의료 등 고위험 환경에서 신뢰 가능한 인공지능 기술 구현을 위한 연구를 지속해왔다. 특히 멀티모달 데이터 기반의 인공지능 모델링과 인간 중심 설계를 결합하여, 실제 임상 및 사회 환경에서 발생할 수 있는 오류와 편향 문제를 체계적으로 분석하고 이를 완화하기 위한 방법론을 제시해왔다. 또한 국제 공동연구를 통해 인공지능의 사회적 영향과 윤리적 문제를 심층적으로 탐구하며, 기술 개발을 넘어 안전하고 책임 있는 인공지능 활용을 위한 학문적 기반을 확장해왔다. 이러한 연구는 의료, 정신건강, 사회적 의사결정 등 고위험 영역에서 인공지능의 신뢰성을 확보하기 위한 핵심 기술로 평가받고 있다. 한 교수는 연구 성과를 실제 사회적 활용으로 연결하는 데에도 주력해왔다. 공공 및 산업 분야와의 협력을 통해 인공지능 기술의 적용 가능성을 검증하고, 고위험 환경에서의 안전한 활용을 위한 방향성을 제시하는 등 학문적 성과를 국가 경쟁력 강화와 정보통신 생태계 발전으로 확장해왔다. 이번 국무총리표창은 인공지능 안전성 및 책임성 분야에서의 선도적 연구와 국제 협력, 그리고 고위험 영역에서 신뢰 가능한 인공지능 기술의 개발과 확산을 통해 국가 및 사회에 기여한 공로를 종합적으로 인정받은 결과이다. 한 교수는 “이번 수상은 함께 연구해온 동료 연구자들과 학생들, 그리고 학교의 지원 덕분이라 생각한다”며 “앞으로도 인공지능의 신뢰성과 사회적 책임을 고려한 연구를 통해 안전한 기술 발전에 기여하겠다”고 밝혔다.

DSSAL (지도교수: 김장현 교수) ACL 2026 main conference 논문 1편 게재 승인

DSSAL (지도교수: 김장현 교수) ACL 2026 main conference 논문 1편 게재 승인 제목: Jailbreaking Multimodal Large Language Models using Multi-Clip Video 저자: 강충원*, 선승종*, 전현민, 김장현 (*공동 제1저자) (좌측부터 강충원. 선승종. 전형민. 김장현 교수) 내용: 본 연구는 MLLM의 영상 입력 기반 jailbreak 취약성을 분석하기 위해 다양한 맥락의 다중 클립으로 구성된 MCV SafetyBench를 구축했습니다. 실험 결과, 클립 수와 맥락 다양성이 증가할수록 공격 성공률이 높아지는 현상이 나타났습니다. 또한, 영상 데이터는 이미지 데이터보다 더 취약한 경향을 보였으며, 이를 바탕으로 이미지 모달리티의 상대적 강건성을 활용한 방어 전략을 제안합니다.

AIM LAB(지도교수 : 홍성은 교수) , CVPR 2026 논문 1편 게재 승인

AIM LAB(지도교수 : 홍성은 교수) , CVPR 2026 논문 1편 게재 승인 인공지능 및 미디어 연구실(AI & Media Lab, AIM Lab)의 논문이 컴퓨터 비전 및 패턴 인식 분야 top-tier 학술대회인 CVPR 2026 (“The IEEE/CVF Conference on Computer Vision and Pattern Recognition 2026”)에 게재 승인되었습니다. 본 논문은 올해 6월 미국 덴버에서 발표될 예정입니다. 제목: ZOO-Prune: Training-Free Token Pruning via Zeroth-Order Gradient Estimation in Vision-Language Models 저자: 김영은*, Youjia Zhang*, Huiling Liu, 정애천, 이선우, 홍성은 (*공동 1저자) 본 논문은 Vision-Language Model(VLM)의 높은 계산 비용 문제를 해결하기 위해, 추가 학습 없이 토큰을 효율적으로 제거하는 training-free token pruning 문제를 다룹니다. 최근 VLM은 이미지와 텍스트를 동시에 처리하며 높은 성능을 보이지만, 입력 토큰 수가 많아질수록 연산량이 급격히 증가하는 한계가 있습니다. 기존 토큰 pruning 방식들은 attention score나 heuristic 기준에 의존하거나, 별도의 재학습이 필요하다는 문제가 있었습니다. ZOO-Prune은 이러한 한계를 극복하기 위해, zeroth-order gradient estimation 기반의 새로운 pruning 프레임워크를 제안합니다. 핵심 기여 - Zeroth-Order Token Importance Estimation: backpropagation 없이도 각 토큰이 모델 출력에 미치는 영향을 추정하기 위해, 입력 perturbation을 활용한 zeroth-order gradient estimation을 적용합니다. - Training-Free Plug-and-Play Pruning: 추가 학습이나 파인튜닝 없이 기존 VLM에 그대로 적용 가능하며, 다양한 구조의 모델에 일반적으로 적용 가능한 높은 범용성을 제공합니다. - Adaptive and Stable Token Selection: 단순 attention 기반 방법 대비 더 안정적으로 중요한 토큰을 선택하며, aggressive pruning 환경에서도 성능 저하를 최소화합니다. 그림. (a) Attention-based 방법은 attention score를 기반으로 토큰을 선택합니다. 이 과정에서 중요하지 않은 토큰이 포함되거나, 예측에 필요한 핵심 정보를 놓치는 문제가 발생할 수 있습니다. (b) Diversity-based 방법은 서로 다른 토큰을 선택하여 중복을 줄이고자 합니다. 그러나 선택된 토큰이 실제 모델 출력에 중요한 정보와 일치하지 않을 가능성이 있습니다. (c) 제안하는 ZOO-Prune은 zeroth-order gradient를 활용하여 각 토큰이 출력에 미치는 영향을 직접 추정합니다. 이를 바탕으로 정보성이 높고 중복이 적은 토큰을 선택하며, 노이즈에 강하고 안정적인 토큰 선택이 가능합니다.