신뢰가능한인공지능연구단(연구책임자: 한진영) ‘Bias-A-Thon’ 연구 성과, EMNLP 2026 Findings 채택

신뢰가능한인공지능연구단(Pioneer Research Group for Socially Responsible AI, 연구책임자 한진영 교수)이 지난해 개최한 학생 참여형 연구 프로그램 ‘Bias-A-Thon’의 성과를 발전시킨 연구가 자연어처리 및 인공지능 분야의 세계 최고 수준 국제학술대회인 「2026 Conference on Empirical Methods in Natural Language Processing(EMNLP 2026)」 Findings에 채택됐다. 채택 논문의 제목은 「SCENE: A Scenario Completion Benchmark for Measuring Social Bias in Large Language Models」로, 대규모 언어모델(LLM)이 다양한 사회적 상황과 맥락에서 나타내는 사회적 편향(Social Bias)을 체계적으로 측정하고 평가하기 위한 새로운 벤치마크를 제안했다. EMNLP(Empirical Methods in Natural Language Processing)는 자연어처리(NLP)와 인공지능(AI) 분야에서 세계적으로 권위를 인정받는 최우수권 국제학술대회 중 하나다. 이번 논문 채택은 신뢰가능한인공지능연구단이 추진해 온 책임 있는 인공지능 연구와 국제 공동연구의 성과가 세계적 연구 커뮤니티에서 학술적으로 인정받았다는 점에서 의미가 크다. 이번 연구의 출발점은 신뢰가능한인공지능연구단이 지난해 개최한 ‘Bias-A-Thon’이다. Bias-A-Thon은 기존 해커톤의 형식을 인공지능의 사회적 편향 문제에 접목한 학생 참여형 연구 프로그램으로, 참가 학생들이 대규모 언어모델에서 나타날 수 있는 다양한 사회적 편향을 직접 탐색하고 이를 실제 연구에 활용할 수 있는 데이터로 구축하도록 기획됐다. 본교와 The Pennsylvania State University(Penn State) 학생들은 Bias-A-Thon을 통해 다양한 사회적 상황과 맥락에서 발생할 수 있는 편향 사례를 발굴했다. 이후 연구진은 학생들이 구축한 데이터를 체계화하고 분석해 대규모 언어모델의 사회적 편향을 측정할 수 있는 벤치마크 ‘SCENE’으로 발전시켰으며, 이러한 후속 연구가 이번 EMNLP 2026 논문 채택으로 이어졌다. SCENE은 특정 단어나 문장에 포함된 편향을 단순히 탐지하는 기존 방식에서 한 걸음 더 나아가, 대규모 언어모델이 다양한 사회적 상황과 맥락을 직접 완성하는 과정에서 어떠한 편향이 나타나는지를 평가하도록 설계됐다. 이를 통해 실제 생성형 AI 사용 환경에서 드러날 수 있는 보다 복합적이고 맥락적인 사회적 편향을 체계적으로 분석하는 것을 목표로 한다. 이번 연구에는 신뢰가능한인공지능연구단 연구책임자인 한진영 교수를 비롯해 최윤석 교수와 홍성은 교수, The Pennsylvania State University 교수이자 우리대학 석학교수인 S. Shyam Sundar 교수가 참여했다. 또한 본교 강미경, 정애천, 김민석 학생과 The Pennsylvania State University의 Eunchae Jang 학생이 연구에 함께 참여해 한·미 공동연구 성과를 만들어냈다. 특히 이번 성과는 연구단이 기획한 학생 참여형 연구 프로그램이 일회성 행사에 머무르지 않고, 학생들의 데이터 구축과 한·미 연구진의 후속 공동연구를 거쳐 세계 최고 수준 국제학술대회의 논문으로 발전했다는 점에서 의미가 크다. 과학기술정보통신부와 정보통신기획평가원(IITP)의 해외석학유치지원사업을 기반으로 조성한 국내외 교수진 및 학생 간 연구·교류 환경이 구체적인 국제 학술 성과로 이어진 대표적인 사례라는 점에서도 주목된다. ▲ 연구책임자 한진영 교수 한진영 신뢰가능한인공지능연구단 연구책임자는 “Bias-A-Thon은 학생들이 인공지능의 사회적 편향이라는 중요한 문제를 직접 탐색하고, 실제 연구 데이터 구축 과정에 참여할 수 있도록 기획한 프로그램”이라며 “성균관대학교와 Penn State 학생 및 연구진이 함께 만들어낸 결과가 후속 공동연구를 거쳐 자연어처리 및 인공지능 분야의 세계 최고 수준 국제학술대회인 EMNLP에 논문으로 채택됐다는 점에서 더욱 뜻깊다”고 밝혔다. 이어 “학생들이 국제 연구진과 함께 연구 문제를 발굴하고 데이터를 구축하는 데서 그치지 않고, 그 결과를 세계적인 학술 무대에서 연구 성과로 발전시키는 경험까지 할 수 있었다는 점 역시 중요한 의미가 있다”며 “앞으로도 해외석학유치지원사업을 기반으로 해외 연구진과의 실질적인 공동연구와 학생 교류를 확대하고, 신뢰할 수 있고 사회적으로 책임 있는 인공지능 분야에서 국제적으로 인정받는 연구 성과를 지속적으로 만들어 나가겠다”고 말했다. 신뢰가능한인공지능연구단은 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받는 해외석학유치지원사업의 일환으로 운영되고 있으며, 해외 우수 연구자와 국내 연구진 간 지속적인 공동연구와 인재 교류를 통해 사회적으로 책임 있고 신뢰할 수 있는 인공지능 기술 개발을 추진하고 있다.

신뢰가능한인공지능연구단(연구소장: 한진영), KDD 2026서 ‘책임 있는 멀티모달 AI’ 국제 워크숍 성료

본교 신뢰가능한인공지능연구단(연구책임자 한진영 교수)이 지난 8월 9일 제주국제컨벤션센터(ICC 제주)에서 국제 워크숍 「RespMultimodal 2026: The First International Workshop on Responsible Multimodal Foundation Models for Knowledge Discovery」를 성황리에 개최했다. 이번 워크숍은 데이터마이닝 분야의 세계적 권위 학회인 ACM SIGKDD 2026과 연계해 열렸으며, 성균관대 신뢰가능한인공지능연구단을 중심으로 국내외 연구진이 공동으로 조직했다. 공동 조직위원장으로는 성균관대 한진영 교수, University of South Florida의 Seungbae Kim 교수, The Pennsylvania State University 교수이자 성균관대 석학교수인 S. Shyam Sundar 교수, UCLA의 Wei Wang 교수가 참여했다. 멀티모달 파운데이션 모델의 책임성을 주제로 올해 처음 열린 이번 워크숍에는 한국, 미국, 중국, 싱가포르, 영국, 일본, 러시아, 브라질, 오스트레일리아, 인도, 이탈리아, 캐나다, 시에라리온 등 13개국에서 약 80명의 연구자가 참여했다. 성균관대학교, KAIST, UCLA, Peking University, Northwestern University 등 국내외 주요 대학을 비롯해 한국전자통신연구원(ETRI), 싱가포르 A*STAR 등 연구기관과 Google, Meta 등 글로벌 기업의 연구자들이 참석해 책임 있는 멀티모달 AI를 둘러싼 학계·연구기관·산업계의 국제적 논의를 이어갔다. 이번 워크숍에서는 멀티모달 대규모 언어모델(MLLM)이 데이터 분석과 지식 발견의 핵심 도구로 빠르게 활용되는 상황에서 모델의 편향과 취약성, 불투명한 의사결정 과정이 연구 결과의 신뢰성에 미치는 영향이 주요 의제로 다뤄졌다. 참석자들은 공정성과 해석가능성, 강건성을 단순한 윤리적 원칙을 넘어 신뢰할 수 있는 데이터 기반 지식 발견을 위해 해결해야 할 핵심 기술 과제로 바라보고 다양한 연구 결과와 접근법을 공유했다. 프로그램은 기조강연 2편과 초청강연 2편, 스포트라이트 발표, 두 차례의 포스터 세션으로 진행됐다. UCLA의 Yizhou Sun 교수는 “Multimodal Scientific Reasoning: Extending Foundation Models for Scientific and Engineering Discovery”를 주제로 파운데이션 모델이 다양한 형태의 정보를 종합해 복합적인 문제를 추론하고 과학·공학 분야의 새로운 발견을 지원할 수 있는 가능성과 향후 연구 방향을 제시했다. 이어 국회입법조사처 박소영 변호사는 “Legislating Responsible AI: Korea’s Basic Act and Beyond”를 주제로 인공지능 기본법을 중심으로 국내 AI 규범 체계를 소개하고, 빠르게 발전하는 AI 기술에 대응하기 위한 정책적 과제와 책임 있는 AI를 위한 제도적 방향을 제시했다. 두 편의 초청강연에서는 최신 연구 성과가 소개됐다. Beijing Institute of Technology의 Guo (Levick) Cheng은 지식그래프를 활용해 모델 추론의 신뢰성을 높이는 연구를, University of Technology Sydney의 Bo Peng은 사전학습 비전-언어 모델의 분포 외 데이터 탐지 성능을 향상시키는 연구를 각각 발표했다. 논문 발표 세션에서는 심사를 거쳐 채택된 22편의 연구가 두 차례의 포스터 세션을 통해 소개됐다. 각 세션에 앞서 연구의 핵심 내용을 소개하는 스포트라이트 발표가 진행됐으며, 포스터 세션에서는 멀티모달 모델의 신뢰성 평가와 편향 완화, 평가 데이터 구축, 모델 추론 등 다양한 주제를 놓고 활발한 논의가 이어졌다. 폐회에 앞서 열린 우수 논문 시상에서는 「PubTables-QA: A Benchmark Toward Cross-Page Table Reasoning in Table Visual Question Answering」이 최우수 논문상을 수상했다. 「AIRCL: Adaptive Importance-Weighted Retrieval Contrastive Learning for Hateful Meme Detection」은 우수 논문상을, 「EviRel: Evidence-Preserving Temporal Memory for Future Social Relation Reasoning in Videos」는 장려상을 각각 수상했다. 연구단은 이번 워크숍을 통해 형성된 국제 연구 네트워크를 바탕으로 참여 연구진과 공동연구 및 학술 교류를 이어갈 예정이다. 또한 향후 제2회 RespMultimodal 워크숍 개최를 추진해 책임 있는 멀티모달 AI 연구를 지속적인 국제 연구 의제로 발전시켜 나갈 계획이다. 신뢰가능한인공지능연구단 연구책임자인 한진영 교수는 “멀티모달 모델이 지식을 발견하고 해석하는 도구로 활용되기 시작한 만큼, 모델의 편향은 연구 결과와 데이터 기반 의사결정의 편향으로 이어질 수 있다”며 “이번 워크숍을 통해 세계 각국의 학계와 연구기관, 산업계 연구자들이 한자리에서 이 문제를 논의하고 다양한 연구 성과를 공유할 수 있었다”고 밝혔다. 이어 “앞으로도 국제 연구자들과의 공동연구와 학술 교류를 확대해 책임 있는 멀티모달 AI 연구가 데이터마이닝 분야의 핵심 국제 연구 의제로 발전하는 데 기여하겠다”고 말했다. 이번 워크숍은 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받아 수행되는 성균관대 신뢰가능한인공지능연구단 사업의 일환으로 마련됐으며, 발표 논문을 비롯한 자세한 정보는 공식 홈페이지에서 확인할 수 있다.

dxlab(지도교수 : 박은일), CIKM 2026 6편 논문 게재 승인

[연구] dxlab(지도교수 : 박은일), CIKM 2026 6편 논문 게재 승인 Data eXperience Lab (dxlab, 지도교수: 박은일)의 논문이 데이터 마이닝 분야 top-tier 국제학술대회인 CIKM 2026*에 6편의 논문이 게재 승인되었습니다(Main 5편, Short 1편)! *35th ACM International Conference on Information and Knowledge Management Main Track 5편 1) 제목: When Explanations Seem Helpful but Fail to Help: Evaluating XAI Interfaces for Model Diagnosis Across Modalities Data eXperience Lab 박은일 교수 왼쪽부터 박선영(인공지능융합학과 박사과정), 박수범(실감미디어공학과 석사 졸업), 김세희(인공지능융합학과 석사 졸업) 키워드: Explainable AI, Model Diagnosis, Multimodal Information Systems, Decision Support Systems, Task-Grounded Evaluation 주요 내용: 설명 가능한 AI(XAI) 기법(LIME, SHAP 등)은 모델의 작동 방식을 해석하고 오류를 진단하기 위해 널리 도입되고 있습니다. 그러나 이러한 설명 인터페이스가 실제 사용자의 모델 오류 진단 능력을 향상시키는지, 그리고 이러한 유용성이 다양한 데이터 모달리티(Tabular, Text, Image) 전반에 일관되게 적용되는지는 명확하지 않았습니다. 본 논문은 108개의 모달리티별 사용자 실험 세션을 통해 주관적 인식(선호도, 이해도)과 과업 기반 행위 성과(오류 진단 정확도, 소요 시간)를 종합적으로 평가하여, XAI 인터페이스의 진단적 유용성이 모달리티별로 다르게 나타남을 밝힙니다. 핵심 기여 ■ XAI 주관적 인식과 실제 과업 성과 간의 불일치 규명 사용자들은 설명 인터페이스를 일관되게 선호하고 이해하기 쉬우며 유용하다고 평가했으나, 주관적 높은 평가가 실제 모델 오류 진단 정확도의 향상으로 항상 이어지지는 않는다는 비대칭성을 확인 ■ 모달리티에 따른 XAI 진단 유용성의 차별적 효과 검증 정형(Tabular) 데이터 환경에서는 LIME을 중심으로 설명의 진단적 효과가 가장 명확했던 반면, 텍스트(Text) 데이터에서는 진단적 이점이 없었고, 이미지(Image) 데이터에서는 방법론 간 차이만 나타남을 비교 검증 ■ 과업 중심 및 모달리티 민감 평가 기준 제시 설명 인터페이스 제공이 전 모달리티에 걸쳐 과업 수행 시간을 증가시켰음을 밝히고, 멀티모달 시스템에서 XAI의 품질을 단순 사용자 만족도가 아닌 과업 기반 및 모달리티 맞춤형 기준으로 평가해야 한다는 진단적 가이드라인 제안 모달리티 별, XAI 기법 별 차이를 나타낸 요약 결과 2. 제목: Less is More: Concise Retrieval and Critic-based Re-ranking for Composed Image Retrieval 왼쪽부터 정우첸(인공지능융합학과 박사과정), 안효주(실감미디어공학과 석사과정), 안형진(인공지능융합학과 박사과정) 키워드: Composed Image Retrieval, Zero-shot Learning, Chain-of-Thought Reasoning 주요 내용 제로샷 조합 이미지 검색(ZS-CIR)은 기준 이미지(Reference Image)와 수정 텍스트(Modification Text)를 결합하여 목표 이미지(Target Image)를 검색하는 기술입니다. 최근 접근 방식들은 대형 비전-언어 모델(LVLM)을 활용해 목표 이미지의 캡션을 생성하는 방식을 주로 사용하지만, 기존 방식이 생성한 캡션에는 불필요하거나 환각(Hallucination)된 세부 정보가 포함되어 검색 시 노이즈(Semantic Noise)를 유발하고 성능을 저하시키는 문제가 있습니다. 본 논문은 무분별한 세부 묘사를 억제하는 Concise Retrieval과 LVLM 기반 비평을 통해 정밀 재정렬을 수행하는 Critic Re-ranking을 결합한 2단계 학습 프리(Training-free) 프레임워크인 LM-CIR(Less-is-More CIR)을 제안합니다. 핵심 기여 ■ Concise Retrieval을 통한 노이즈 감소 기존의 장황한 캡션 생성 방식에서 벗어나, Concise CoT 프롬프팅을 통해 불필요한 세부 정보 및 부정어 표현을 배제하고 목표 이미지 검색에 핵심적인 최소한의 discriminative 캡션만을 생성하여 검색 시 발생하는 세만틱 노이즈를 효과적으로 감소시킴. ■ Critic Re-ranking 기반의 다각도 정밀 검증 LVLM을 평가자(Critic)로 활용하여 초기 검색된 상위 후보군에 대해 수정 의도 반영 여부(EDIT)와 기준 이미지의 핵심 속성 보존 여부(PRESERVE)를 명시적으로 평가 및 통합 점수화함으로써 텍스트-이미지 유사도 기반 검색의 한계를 보완하는 정밀 재정렬 메커니즘을 제안. ■ 세 가지 ZS-CIR 벤치마크에서 SOTA 성능 달성 CIRCO, CIRR, FashionIQ 데이터셋에서의 실험을 통해 별도의 추가 학습 없이 기존 제로샷 조합 이미지 검색 기법 대비 뛰어난 검색 성능 및 뛰어난 견고성(Robustness)을 달성함을 검증. 제안된 LM-CIR 프레임워크 요약 3. 제목: SAVER: Selective and Adaptive Multi-View Routing for Visual Emotion Reasoning in Vision-Language Models 왼쪽부터 이유빈(인공지능융합학과 석박통합과정), 이상은(ETRI, 인공지능융합학과 석사 졸), 차준엽(인공지능융합학과), Jufeng Yang(Nankai Univ.) 키워드: Visual Emotion Reasoning, Vision-Language Models, Multi-View Fusion, Selective Routing, Parameter-Efficient Fine-Tuning 주요 내용 시각적 감정 추론(Visual Emotion Reasoning)은 이미지 내의 다양한 시각적 요소를 종합하여 감정을 이해하는 과제입니다. 기존 방법들은 이미지를 단일 표현으로 처리하거나 모든 시각적 요소를 일률적으로 융합하여, 감정 형성에 기여하는 개별 시각 단서의 중요도를 맥락에 맞게 반영하지 못하고 노이즈가 개입하는 한계가 있었습니다. 본 논문은 텍스트 쿼리와 이미지 맥락에 맞춰 6가지 주요 시각 관점(얼굴 표정, 장면, 객체, 인간 행동, 색상, 밝기)의 중요도를 동적으로 선택 및 융합하는 SAVER(Selective and Adaptive Multi-View Routing) 프레임워크를 제안하여 감정 추론 성능과 해석 가능성을 정밀하게 향상시킵니다. 핵심 기여 ■ Selective & Adaptive Multi-View Routing 관점 제시 단일 이미지 표현이나 균일한 다중 관점 융합 방식에서 벗어나, 쿼리와 비전 맥락에 맞게 필요한 시각 단서를 동적으로 선택 및 가중치를 할당하여 통합하는 새로운 다중 관점 라우팅 구조 제안 ■ Semantic-Aware Router 및 Residual Fusion Structure 제안 이미지의 전역 비전 특징과 사용자 쿼리를 기반으로 관점별 중요도를 계산하는 의미 인지 라우터(Semantic-Aware Router)와, 특정 관점에 편향되거나 노이즈가 발생하는 것을 방지하는 잔차 융합(Residual Fusion) 메커니즘 구축 ■ 파라미터 효율적인 학습 및 최고 성능(SOTA) 달성 VLM 백본을 동결한 채 전체 파라미터의 약 0.30%만 학습하는 효율성을 극대화하였으며, 7개 주요 감정 분석 데이터셋에서 기존 비전 전용 모델 및 최신 VLM 기반 감정 추론 기법 대비 우수한 감정 추론 성능을 확인 제안된 SAVER 프레임워크 4. 제목: Auditing Multimodal Claims: A Controlled Reproducibility Study of Graph-Based Conversational Recommendation 저자: 박성현(이모션웨이브), 박혜림, 이정태, 최서인, 박은일(인공지능융합학과) 키워드: Conversational Recommender Systems, Multimodal Recommendation, Reproducibility Analysis, Graph-Based Recommendation 주요 내용 그래프 기반 대화형 추천 시스템(CRS) 분야에서는 최근 텍스트 및 지식 그래프 정보에 비전(이미지) 신호를 결합하여 추천 성능을 크게 향상시켰다고 보고하고 있습니다. 하지만 이러한 기존 모델들은 시각적 임베딩 도입, 결손된 이미지 노드의 0(Zero) 채움 처리, LLM 기반 합성 대화 데이터 추가 등을 동시에 적용하고 있어, 성능 향상이 순수 시각적 정보 덕분인지 아니면 데이터 증강 및 그래프 변형에 의한 착시인지 불분명했습니다. 본 논문은 기존 모델의 백본 구조와 학습 파이프라인을 동일하게 고정한 상태에서, 시각적 임베딩을 방해 조건(교란인자)으로 교체하거나 데이터 구성을 통제하는 재현성 감사(Controlled Reproducibility Audit)를 수행하여 실제 시각적 모달리티의 기여도를 정밀하게 검증합니다. 핵심 기여 ■ CRS 모달리티 기여도 검증을 위한 Distractor Audit 프레임워크 제안 이미지 임베딩을 가우시안 무작위 벡터, Zero 벡터, Shuffled-real 벡터 등 통제된 방해 조건(Distractor)으로 대체하여, 추천 성능 향상이 실제 아이템의 시각적 의미(Semantic)에서 기인한 것인지 검증하는 분석 방식 제시 ■ 시각적 정보와 대화 데이터 증강의 영향력 분리 및 비대칭성 규명 시각적 임베딩을 완전히 손상시킨 방해 조건에서도 기존 모델과 성능 차이가 거의 나타나지 않는 반면(R@10 편차 0.007 수준), LLM 생성 합성 대화 데이터를 추가했을 때는 명확한 성능 향상()이 나타남을 확인하여 성능 개선의 주요 원인이 시각 신호가 아닌 데이터 증강임을 입증 ■ 멀티모달 CRS 평가를 위한 재현성 감사 프로토콜 제안 결손 데이터(Missingness)의 영향 및 검증 데이터셋 기준 체크포인트 선택(Valid-best) 규칙 등, 향후 그래프 기반 멀티모달 추천 시스템 연구에서 각 모달리티의 효과를 올바르게 평가하기 위한 엄격한 감사 절차 제시 제안된 감사/검증 절차 프레임워크 5. 제목: Latent Query Retrieval of Acoustic-Prosodic Evidence for Speech Toxicity Detection 왼쪽부터 김윤서(인공지능학과 석사과정), 박신유(인공지능융합학과 석사과정), 김지현(인공지능융합학과 석사과정) 키워드: Speech Toxicity Detection, Acoustic-Prosodic Evidence, Learnable Queries, Late Interaction Retrieval, Early Detection 주요 내용 Speech Toxicity Detection는 음성 기반 실시간 소통 환경에서 유해 발화를 빠르게 식별하기 위한 핵심 기술입니다. 기존 방법들은 음성을 텍스트로 변환(ASR)한 뒤 분류하거나 음성을 단일 임베딩으로 압축하는 방식을 주로 사용했으나, 이는 억양·어조·음색 등의 음향·운율적(Acoustic-Prosodic) 단서를 손실하고 ASR 오류 전파 및 지연 시간(Latency) 증가 문제를 야기했습니다. 본 논문은 ASR 텍스트 변환이나 사전 정의된 프롬프트 없이, 음성 토큰으로부터 독성 관련 국소 단서를 직접 검색(Retrieval)하는 학습 가능한 잠재 쿼리 기반 음향·운율 증거 검색 프레임워크를 제안합니다. 핵심 기여 ■ 잠재 쿼리 기반 음향·운율 증거 검색 관점 제안 음성 독성 탐지를 증거 검색 문제로 재정의하고, ASR 전사문 없이 음성 토큰에서 직접 독성/비독성 클래스별 국소 단서를 찾아내는 학습 가능한 잠재 쿼리(Learnable Latent Queries) 기반 Late Interaction 검색 구조 제안 ■ 효율적이고 낮은 지연 시간의 실시간 및 조기 독성 탐지 달성 ASR 기반 파이프라인 대비 추론 지연 시간(Mean Latency)을 175.24ms에서 15.43ms로 크게 단축하면서도, 발화 일부만 제공되는 조건(Prefix-Cropping)에서 우수한 조기 탐지 성능(AUPRC@50: 0.5115 0.6565) 달성 ■ 학습된 쿼리 기반 증거 및 메커니즘의 정밀 분석 Ablation, 쿼리 교란(Perturbation), 토큰 마스킹 분석 등을 통해 학습된 쿼리가 시간적으로 다양하고 클래스 특화된 음향·운율적 단서를 일관되게 포착하여 예측에 직접적으로 기여함을 입증 제안된 프레임워크; 스피치 정보를 근거로 사전 학습 없이 충분한 효과를 보이는 방법론 제시 Short Track 1편 6. 제목: CAPA: Context-Aware Prototype Adaptation for Weakly Supervised Histopathology Segmentation 왼쪽부터 안효주(실감미디어공학과 석사과정), 김희진(실감미디어공학과 석사과정) 키워드: Weakly supervised semantic segmentation, Histopathology segmentation, Prototype learning, Contrastive Learning 주요 내용 약지도 의미론적 분할(WSSS)은 병리 조직 이미지 분석에서 경계의 모호성, 클래스 간 시각적 유사성, 클래스 내 형태적 다양성, 패치 단위 처리 시 공간적 문맥 손실 등으로 인해 정확한 CAM(Class Activation Map)을 생성하는 데 어려움이 있습니다. 기존 방법들은 패치를 독립적으로 처리하거나 CAM 기반 표본의 신뢰도를 고려하지 않고 프롬프트를 학습하는 한계가 있었습니다. 본 논문은 공간적 이웃 문맥을 반영하는 Neighbor Context Attention(NCA)과 신뢰도 기반의 대조 학습을 수행하는 Reliability-Aware Contrastive Loss(RACL)를 결합하여 CAM의 품질과 분할 성능을 대폭 향상시킨 CAPA 프레임워크를 제안합니다. 핵심 기여 ■ 공간적 이웃 문맥을 활용한 NCA(Neighbor Context Attention) 제안 패치 경계를 넘어선 조직의 연속성을 반영하기 위해 인접 패치들의 특징을 교차 주의집중(Cross-Attention) 메커니즘으로 집일하여 중심 패치의 표현력을 강화 ■ 신뢰도 기반 대조 학습(RACL) 및 동적 프로토타입 업데이트 CAM으로 추출된 표본의 마진(Margin)을 바탕으로 신뢰도를 측정하고, 고신뢰도 표본 위주로 대조 학습 손실과 프로토타입 은행(Prototype Bank)을 동적으로 업데이트하여 노이즈 전파를 방지 ■ 병리 조직 분할 데이터셋에서 SOTA 성능 달성 BCSS-WSSS 및 LUAD-HistoSeg 데이터셋에서 기존 최상위 기법(PBIP) 대비 mIoU를 각각 +6.40%p, +4.15%p 향상시키며 우수한 분할 성능 검증 제안된 CAPA 프레임워크; 여러 패치의 활용으로 문맥 활용이 가능하여 성능 향상에 기여함. 해당 연구들은 과학기술정보통신부와 정보통신기획평가원의 대학ICT연구센터와 AI최고급신진연구자지원사업, 학석사연계지원사업으로 수행되었습니다.

신뢰가능한인공지능연구단(지도교수: 한진영), KDD 2026서 <국제 워크숍: RespMultimodal 2026> 개최 (08.09. 일)

본 교의 신뢰가능한인공지능연구단(연구책임자 한진영 교수)이 오는 8월 9일 제주국제컨벤션센터(ICC 제주)에서 국제 워크숍 「RespMultimodal 2026: The First International Workshop on Responsible Multimodal Foundation Models for Knowledge Discovery」를 개최합니다. 이번 워크숍은 데이터마이닝 분야의 세계적 권위 학회인 ACM SIGKDD 2026과 연계해 열리며, 성균관대 신뢰가능한인공지능연구단을 중심으로 국내외 연구진이 공동으로 조직했습니다. 한진영 교수와 University of South Florida의 Seungbae Kim 교수, The Pennsylvania State University의 S. Shyam Sundar 교수, University of California, Los Angeles의 Wei Wang 교수가 공동 조직위원장(General Chair)을 맡았습니다. 멀티모달 파운데이션 모델의 책임성을 주제로 올해 처음 개최되는 국제 워크숍으로, KDD 2026이 국내에서 열리는 것을 계기로 책임 있는 멀티모달 AI에 관한 국제적 논의의 장을 마련했다는 데 의미가 있습니다. 워크숍은 텍스트와 이미지, 음성, 영상 등 다양한 형태의 정보를 통합적으로 처리하는 멀티모달 대규모 언어모델(MLLM)이 데이터 분석과 패턴 요약, 가설 생성의 핵심 도구로 자리 잡아가는 흐름에 주목합니다. 특히 모델의 편향과 취약성, 불투명한 의사결정 과정이 연구자가 데이터에서 무엇을 발견하고 어떻게 해석하는지에까지 영향을 미칠 수 있다는 문제의식에서 출발합니다. 공정성과 해석가능성, 강건성을 추상적인 윤리 담론에 머무르지 않고 데이터 기반 지식 발견의 신뢰성을 좌우하는 핵심 기술 과제로 다룬다는 것이 이번 워크숍의 기획 취지입니다. 프로그램은 기조강연 2편과 초청강연 2편, 스포트라이트 발표, 두 차례의 포스터 세션으로 구성됩니다. 첫 번째 기조강연에서는 University of California, Los Angeles의 Yizhou Sun 교수가 'Multimodal Scientific Reasoning: Extending Foundation Models for Scientific and Engineering Discovery'를 주제로, 파운데이션 모델을 과학·공학 분야의 발견 과정으로 확장하기 위한 멀티모달 추론 연구를 소개합니다. 두 번째 기조강연에서는 국회입법조사처 박소영 변호사가 'Legislating Responsible AI: Korea's Basic Act and Beyond'를 통해 인공지능 기본법을 중심으로 한 국내 AI 규범 체계와 향후 과제를 짚습니다. 초청강연에서는 Beijing Institute of Technology의 Guo (Levick) Cheng 교수가 지식그래프를 활용해 모델 추론의 충실성과 완결성을 높이는 방법론(Faico: Faithful and Complete Knowledge Graph Augmented Reasoning)을, University of Technology Sydney의 Bo Peng 교수가 사전학습된 비전-언어 모델의 분포 외 데이터 탐지 성능을 편향 보정을 통해 개선하는 연구(Debiased Negative Mining Improves Out-of-distribution Detection with Pre-trained Vision-Language Models)를 각각 발표할 예정입니다. 포스터 세션에서는 심사를 거쳐 채택된 22편의 논문이 두 세션에 걸쳐 발표됩니다. 각 연구의 핵심 내용을 짧게 소개하는 스포트라이트 발표도 함께 진행되며, 폐회에 앞서 우수 논문 시상식이 열립니다. 조직위원회에는 공동 조직위원장인 한진영 교수, Seungbae Kim 교수, S. Shyam Sundar 교수, Wei Wang 교수를 비롯해 Indiana University의 Haewoon Kwak 교수와 Jisun An 교수, 성균관대 홍성은 교수와 최윤석 교수, 국회입법조사처 박소영 변호사, 네이버 AI Lab 이승현 박사, 성균관대 김도하 박사가 참여합니다. 신뢰가능한인공지능연구단 연구책임자인 한진영 교수는 "멀티모달 모델이 지식을 발견하고 해석하는 도구로 활용되기 시작한 만큼, 모델의 편향은 연구 결과와 데이터 기반 의사결정의 편향으로 이어질 수 있다"며 "국내에서 개최되는 KDD 2026을 계기로 책임 있는 멀티모달 AI 연구가 데이터마이닝 분야의 핵심적인 국제 연구 의제로 자리 잡는 데 기여하고자 한다"고 밝혔습니다. 이번 워크숍은 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받아 수행되는 성균관대 신뢰가능한인공지능연구단 사업의 일환으로 마련됐으며, 자세한 프로그램과 발표 논문은 공식 홈페이지(respmultimodal2026.github.io)에서 확인할 수 있습니다.