인공지능 편향 문제 다룬 국제 심포지엄 성료

인공지능 편향 문제 다룬 국제 심포지엄 성료 국내외 AI 석학 참여… Bias-A-Thon 수상 발표 및 편향 해결방안 논의 공정한 인공지능 실현 위한 기술적·사회적 접근 제시 우리 대학은 신뢰가능한인공지능연구단(연구책임자 한진영 교수) 주관으로 지난 6월 4일 인문사회과학캠퍼스 600주년기념관 조병두홀에서 「2025 International Symposium on AI Bias」를 성황리에 개최하였다. 이번 심포지엄은 과학기술정보통신부와 정보통신기획평가원(IITP)의 후원을 받아, 인공지능 시스템에서 발생할 수 있는 편향 문제와 이를 해결하기 위한 기술적·사회적 접근 방안을 다각도로 모색하는 자리로 마련되었다. 이날 심포지엄에는 연세대학교 박남기 교수, University of South Florida의 김승배 교수, Indiana University Bloomington의 곽해운 교수 등 국내외 인공지능 분야의 저명한 전문가들이 연사로 참여하여 AI 편향의 다양한 사례와 최신 연구 동향을 발표하였다. 특히 성균관대학교 석학교수이자 미국 펜실베이니아주립대학교(PSU) Center for Socially Responsible AI 소장인 시앰선더(S. Shyam Sundar) 교수의 진행으로 열린 패널 토의 세션에서는, 인공지능 기술이 사회와 인간의 삶에 미치는 장기적 영향과 학제 간 시각에서의 AI 편향 해결방안에 대해 활발한 논의가 이어졌다. 100여 명이 넘는 국내외 교수 및 학생 연구자들이 참석한 이번 행사는 인간 중심의 신뢰가능한 인공지능 실현을 위한 담론을 형성하고, 미래 기술의 윤리적 기준 마련을 위한 공감대를 형성하는 계기가 되었다. 아울러, 지난 5월 신뢰가능한인공지능연구단이 지능형멀티미디어연구센터, 딥페이크연구센터와 공동 주관한 ‘2025 Bias-A-Thon’ 경진대회 수상팀에 대한 시상식과 발표도 함께 진행되었다. 전국 대학(원)생 400여 명이 참여한 이번 대회는 ▲LLM 응답의 편향을 분석하는 ‘Bias 발견 챌린지’, ▲프롬프트 및 RAG 기법을 활용한 ‘Bias 대응 챌린지’ 두 개 트랙으로 구성되어, 참가자들은 기술적 역량과 윤리적 감수성을 바탕으로 AI 편향 문제 해결을 위한 참신한 아이디어를 제시하였다. 한진영 교수는 “AI 기술의 발전 속에서 공정성과 신뢰성 확보는 필수 과제가 되었다”며, “이번 국제 심포지엄과 Bias-A-Thon이 인공지능의 윤리적 기준 정립과 함께 실질적 인사이트를 제공하는 전환점이 되기를 기대한다”고 밝혔다. https://www.skku.edu/skku/campus/skk_comm/news.do?mode=view&articleNo=128207

김장현 교수 칼럼 [김장현의 테크와 사람] 〈78〉연결망 단절의 날

김장현 교수 칼럼 [김장현의 테크와 사람] 〈78〉연결망 단절의 날 https://www.etnews.com/20250626000040

보안공학연구실(지도교수: 김형식), ACL 2025에 논문 Oral 세션 채택

보안공학연구실(지도교수: 김형식)은 국가보안기술연구소와 KAIST와 공동으로 수행한 연구 결과가 인공지능 자연어처리 분야 최우수 국제학술대회인 ACL 2025 메인 컨퍼런스에 채택되었으며, 특히 전체 3,000여 편 이상의 채택 논문 중 상위 243편에만 주어지는 Oral 발표 세션에 선정되었습니다. 해당 논문은 국보연 소속이자 KAIST 박사과정인 고우영 연구원이 제1저자로 참여하였고, 김형식 교수는 공동연구자로 참여하였습니다. XDAC: XAI-Driven Detection and Attribution of LLM-Generated News Comments in Korean 본 논문은 거대언어모델(LLM)이 생성한 한국어 뉴스 댓글을 탐지하고, 작성한 AI 모델까지 식별할 수 있는 설명가능 인공지능(XAI) 기반 탐지 프레임워크 ‘XDAC’을 세계 최초로 제안한 연구입니다. 특히 평균 50자 내외의 짧고 구어체인 한국어 댓글이라는 현실적 조건 속에서도 AI 생성 여부를 98.5%의 정밀도로 탐지하고, 어떤 LLM이 생성했는지도 84.3%의 정확도로 식별할 수 있다는 점에서 기존 SOTA 기술을 뛰어넘는 성과를 입증했습니다. 이번 연구는 AI를 활용한 여론 조작 가능성이 현실적인 위협으로 떠오르고 있는 상황에서, 짧고 비정형 적인 한국어 댓글 환경에서도 실효성 있는 방어 기술을 제시하였다는 점에서 높은 평가를 받았으며, 향후 포털 플랫폼 및 정부 차원의 기술 도입 가능성까지 고려할 수 있는 핵심 기술로 주목받고 있습니다. 프로젝트 소스 코드: https://github.com/airobotlab/XDAC/tree/main 뉴스 기사: https://www.ddaily.co.kr/page/view/2025062717211207639

김유성 교수팀-SK인천석유화학, 정유공장에 AI 자동제어 기술 세계 최초 적용

김유성 교수팀-SK인천석유화학, 정유공장에 AI 자동제어 기술 세계 최초 적용 - Air Fan Cooler Louver 자동제어로 압력 정밀도 12.8% 향상 ▲왼쪽부터 김유성 교수(교신저자), 서동찬 AI Expert (삼성디스플레이), 김동일 PM(SK이노베이션), 손효은 계장(SK인천석유화학) 우리 대학은 25일 소프트웨어학과 김유성 교수 연구팀이 실제 정유공정에 강화학습(Reinforcement Learning) 기술을 성공적으로 적용한 ‘강화학습 기반 압력 제어 시스템(RLPCS, Reinforcement Learning-based Pressure Control System)’을 개발하고, 세계 최초로 상용화에 성공했다고 밝혔다. 본 연구는 인공지능(AI) 기반 자동제어 기술의 산업 현장 실증 적용이라는 점에서 혁신적인 성과로 평가받으며, 세계적으로 권위 있는 학술지 『Engineering Applications of Artificial Intelligence』에 2025년 5월 26일자로 게재되었다. 이번 연구는 김유성 교수와 서동찬 AI Expert(현 삼성디스플레이), 김동일 PM(SK이노베이션), 손효은 계장(SK인천석유화학) 의 협업으로 수행되었으며, SK인천석유화학이 수년간 축적한 공정 데이터와 현장 노하우, 그리고 AI 기술 내재화에 대한 강한 의지를 바탕으로, 다양한 오픈소스 강화학습 알고리즘과 석유화학 산업에 최적화된 딥러닝 제어 기법을 지속적으로 적용·검증해온 결과이다. 2021년부터 부트 워터 레벨, 2022년 Lt.Naph RVP, 2023년 상압증류탑 압력 등 다양한 공정에 AI 제어를 단계적으로 적용하며, 알고리즘의 성능과 안정성을 검증해왔다. 연구팀은 하루 20만 배럴의 원유를 처리하는 중대형급(상위권) 상압증류탑(#2 CDU)에서 공기 조절장치(Air Fan Cooler Louver) 제어를 강화학습 기반 압력 제어 시스템(RLPCS)을 통해 자동화하였다. 기존에는 운전원이 수동으로 조작하던 루버(Louver)를 AI 기반 실시간 제어함으로써, 압력 제어의 정밀도를 향상시키고 공정의 변동성은 물론 운전자의 업무 부담까지 효과적으로 줄이는 데 성공했다. 연구팀은 이러한 문제를 해결하기 위해 수년간 축적된 운전 로그 데이터를 기반으로 강화학습 모델을 개발하였다. 도메인 전문가들과 협력해 마르코 프 결정과정(MDP:Markov Decision Process)*을 정교하게 설계한 뒤, 실제 시스템에 영향을 주지 않는 안전한 방식으로 오프라인 강화학습을 수행하 였다. 이후 학습된 모델은 SK인천석유화학 정유공장의 하루 200,000배럴 규모 상압증 류탑(CDU) 제어 시스템에 통합되었으며, 환경 변화에 능동적으로 적응할 수 있도록 온라인 학습 기법 또한 적용되었다. * 마르코프 결정과정(MDP:Markov Decision Process): 강화학습을 위한 수학적 모델로, AI 에이전트가 환경 속에서 최적의 의사결정을 내리도록 돕는 체계 ▲ 정유 공정 압력 제어에 필요한 상압증류탑 공기 조절장치(Air Fan Cooler Louver) 자동화를 위한 오프라인 강화학습과 기존 관리 시스템으로 통합 및 온라인 적응 학습 개략도 약 1년간의 실제 산업 환경 운용 결과, 공기 조절장치(Air Fan Cooler Louver)의 자동 제어를 통해 압력 오차를 12.8% 줄이는 데 성공했으며, 원유 성상 변화나 제품 규격(Specification) 변화에 따른 공정 변동성도 효과적으로 제어할 수 있음을 입증했다. 이는 실제 산업현장에서 강화학습 기술이 숙련된 운전원의 반복적이고 노동 집약적인 작업을 보조해 정유공정의 안정성과 효율성을 동시에 향상시킬 수 있음을 실증한 세계 최초의 사례로 평가된다. 김유성 교수는 “이번 연구는 이론적 강화학습 알고리즘을 실제 산업 제어 시스템에 통합하고, 이를 실시간으로 운영하며 지속적인 성능 향상을 달성 했다는 점에서 큰 의미가 있다”며, “압력 제어를 시작으로 향후 온도 제 어, 유량 제어 등 다양한 공정 제어로 확장해 나갈 수 있을 것”이라고 밝 혔다. 또한 “AI 기술과 산업 자동화의 융합을 통해 스마트 팩토리 구현의 핵심 기반을 제시할 수 있을 것”이라고 강조했다. SK인천석유화학 관계자 역시 “AI 기술 내재화와 스마트 플랜트 구현을 위한 지속적인 데이터 분석과 현장 적용 노력이 이번 혁신의 밑바탕이 되었다”고 강조했다. ※ 논문명: Implementation of reinforcement learning for enhanced pressure control in a 190,000-barrel crude distillation unit: The first full-scale commercial deployment ※ 학술지: Engineering Applications of Artificial Intelligence ※ 논문링크: https://doi.org/10.1016/j.engappai.2025.110907