일요주간 - LG유플러스, MWC서 ‘익시젠’ 레드팀 검증…AI 안전성 글로벌 시험대

▲ LG U+, 국제무대서 AI 신뢰성 검증 나선다(사진=LG U+)

[일요주간=하수은 기자] LG유플러스가 생성형 인공지능의 신뢰성과 안전성을 국제 무대에서 점검한다. 회사는 스페인 바르셀로나에서 열리는 MWC26 기간 중 진행되는 ‘글로벌 AI 레드팀 챌린지(Global AI Red Team Challenge)’에 참여해 자체 개발 AI 모델의 대응 역량을 검증할 계획이다.

이번 프로그램은 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로젝트로, MWC와 공동 개최되는 개발자·디지털 인재 행사 ‘Talent Arena 2026’의 핵심 세션으로 운영된다. 글로벌 통신사와 주요 테크 기업이 출품한 AI 모델을 대상으로 실제 환경을 가정한 실전형 평가가 이뤄진다.

LG유플러스는 통신 서비스에 특화해 자체 개발한 AI 모델 ‘익시젠(ixi-GEN)’을 출품한다. 약 100명의 참가자가 ‘레드팀’으로 참여해 프롬프트 설계만으로 모델의 취약점을 탐색하는 방식이다. 기술적 해킹이 아닌 대화 기반 공격을 통해 정책 우회 가능성을 점검하는 것이 이번 챌린지의 핵심이다.

평가 항목은 ▲안전장치 우회 ▲편향 및 차별 ▲인권 침해 ▲사이버 공격 ▲불법 콘텐츠 ▲허위정보 ▲응답 비일관성 등 7개 분야다. 특히 AI가 부적절하거나 제공해서는 안 될 답변을 생성했는지 여부를 주요 판단 기준으로 삼는다. 정보의 정확성보다는 잠재적 위험 노출 여부에 초점을 맞춘 점이 특징이다.

경연은 180분간 라이브로 진행되며, 참가자들은 무작위 배정된 AI 모델을 상대로 제한 시간 내 최대한 많은 미션을 성공시키는 것이 목표다. 결과는 3명의 심사위원이 성공 건수와 성공률을 기준으로 평가해 순위를 결정한다.

LG유플러스는 이번 참여를 통해 익시젠의 보안 체계를 객관적으로 검증하고, 도출된 개선 과제를 반영해 모델을 지속 고도화할 방침이다. 아울러 글로벌 통신사 및 AI 전문가들과의 교류를 확대해 책임 있는 AI 활용과 보안 협력 체계를 강화해 나갈 계획이다.

회사는 AI가 통신 서비스와 고객 응대 전반으로 빠르게 확산되는 상황에서, 성능 경쟁을 넘어 안전성과 윤리성을 확보하는 것이 핵심 과제라고 강조했다. 국제 무대에서의 공개 검증을 통해 AI 경쟁력을 한층 끌어올리겠다는 전략이다.

[저작권자ⓒ 일요주간. 무단전재-재배포 금지]