성민네트웍스, '인공지능 안전 서울포럼 2026' AI 레드팀 챌린지 글로벌 TOP 7 수상
view : 86
관리자
안녕하세요, 성민네트웍스입니다.
지난 7월 8일, 서울 코엑스 오크우드 프리미어에서 대한민국 과학기술정보통신부가 주최하고 한국전자통신연구원(ETRI) 인공지능안전연구소가 주관하는 '제2회 인공지능안전 서울포럼(SFASS 2026)' 연계 행사, 프론티어 AI 레드티밍 워크숍이 열렸습니다.
이 자리에서 진행된 실시간 AI 레드팀 경진대회 'Judgement Day: Jailbreaking the Humanoid'에서 성민네트웍스가 글로벌 TOP 7 Winner(최종 5위, Certificate of Honorable Mention)에 선정되는 성과를 거두었습니다.
성민네트웍스는 지난해 식약처 주관 '첨단AI 디지털 의료제품 레드팀 챌린지'에서 최우수상을 수상하며 의료분야 AI 보안 기업으로 이름을 알린 바 있습니다(관련 내용보기). 올해는 ICML 2026과 연계되어 Google DeepMind, Microsoft 등 글로벌 빅테크 연구진이 대거 참여한 서울포럼 무대에서 다시 한번 기술력을 증명했습니다.
레드팀(Red Team)이란, 실제 공격자의 시각에서 시스템의 보안 취약점을 미리 찾아내는 모의 해킹 활동을 말합니다. AI 레드팀 챌린지는 AI 모델이 위험한 명령에 오작동하지 않는지 점검하는 대회입니다.
1. 8주간의 사전 온라인 대회, '병원·헬스케어 트랙'에서 실력 발휘
본선에 앞서 8주 동안 전 세계 화이트해커와 국내외 보안 전문 기업(SK쉴더스, 신한DS 등)이 참여하는 사전 온라인 대회 'Judgement Day Challenge'가 진행되었습니다. GPT-5.4, Gemini 3.1 Pro 등 최신 AI 모델의 오작동을 유도하는 8개 산업 시나리오가 주어졌습니다.
성민네트웍스 기술연구소의 홍수빈 선임연구원은 당사의 전문 분야인 '병원·헬스케어 도메인' 트랙을 집중 공략했습니다. 의료 분야는 환자 정보 보호를 위한 미국 HIPAA 가이드라인 등 보안 기준이 가장 까다로운 영역입니다. 성민네트웍스는 병원 시스템 환경을 정밀하게 재현해 AI의 안전장치를 우회하는 독자적인 공격 기법을 개발했고, 누적 3,306회의 시도 끝에 91회의 보안 무력화에 성공했습니다.
그 결과 글로벌 종합 33위를 기록하며, 사전 대회 상위권에게만 주어지는 'Judgement Day Winners' 공식 초청 자격을 획득해 오프라인 본선에 직행했습니다.
2. 코엑스 현장 라이브 챌린지, 의료 도메인 노하우를 로봇 보안에 적용
본선 무대의 미션은 실물 휴머노이드 로봇(Unitree G1)에 탑재된 'OMEGA-7' 피지컬 AI 에이전트의 보안망을 우회하는 것이었습니다. 시스템을 직접 해킹하는 것이 아니라, 오직 대화만으로 로봇이 보안 가이드라인을 깨고 물리적 동작 명령을 수행하도록 유도하는 실시간 미션이었습니다.
홍수빈 선임연구원은 사전 대회의 병원 도메인 트랙에서 다진 정밀 공략 노하우를 로봇 에이전트 환경에 맞춰 적용했습니다. 불필요한 문장을 걷어내고 42토큰(2턴)이라는 짧은 대화만으로 로봇의 가드레일을 우회해 물리적 동작 명령을 이끌어냈고, 이는 대회 초반 실시간 리더보드 1위에 오를 만큼 높은 효율성을 인정받았습니다.
글로벌 보안 전문가들과의 각축전 끝에, 성민네트웍스는 글로벌 TOP 7 Winner(최종 5위) 타이틀과 함께 한국전자통신연구원(ETRI) 원장 명의의 상장을 받았습니다.
환자의 개인정보와 의료 데이터를 다루는 병원 CRM에서 보안성은 타협할 수 없는 가치입니다. 이번 수상은 가장 뚫기 어려운 글로벌 AI 보안 장벽을 분석하고, 이를 방어 체계로 되돌리는 'AI 에이전트 보안 설계 역량'을 세계 무대에서 인정받았다는 의미가 있습니다. 이번 대회에서 확보한 데이터는 차세대 에이전틱 AI 메디컬 소프트웨어 설계에도 곧바로 반영하고 있습니다.
병원과 환자 모두가 안심하고 쓸 수 있는 의료 특화 CRM을 만들어 가겠습니다. 앞으로도 성민네트웍스의 행보를 지켜봐 주세요.
[관련 보도자료]