네이버-셀렉트스타, ‘생성 AI 레드팀 챌린지’에 대표 파트너 참여
에이단 고메스 코히어 CEO와 에마드 모스타크 스태빌리티 AI CEO 등 글로벌 유명 생성 인공지능(AI) 대표들이 방한, 과학기술정보통신부 주최 컨퍼런스에 강사로 나선다.
네이버(대표 최수연)는 셀렉트스타(대표 김세엽)와 4월11~12일 열리는 ‘생성 AI 레드팀 챌린지(Gen AI Korea 2024)’에 대표 파트너사로 참여, 인공지능(AI) 안전성 기술 교류 및 논의를 진행한다고 21일 밝혔다.
생성 AI 레드팀 챌린지는 과기정통부가 주최, 한국정보통신기술협회(TTA) 및 초거대AI추진협의회가 주관한다. 최근 급격하게 성장하는 대형언어모델(LLM)의 안전성, 신뢰성, 보안 강화 등을 목표로 한다.
고메스 CEO와 모스타크 CEO는 12일 '안전한 AI 개발'을 주제로 강연을 펼친다. 코히어는 기업 전용 대형언어모델(LLM) 서비스로 잘 알려진 캐나다 스타트업이며, 스태빌리티 AI는 스테이블 디퓨전을 개발한 생성 AI 간판 기업이다. 특히 고메스 CEO는 '트랜스포머' 논문 저자로도 유명하다.
이들은 해외 빅테크의 공동 출자로 만들어진 AI 윤리-안전 포럼 ‘프런티어 모델 포럼'의 크리스 메세롤 대표, 댄 헨드릭스 비영리기구 AI 안전센터 총괄 등 산업계와 학계에서 대표 인사들과 함께 연사로 나선다. 이 행사는 국내외 기술 리더들의 발표, 의견 교류 등으로 구성된다.
11일에는 실제 서비스 중인 LLM에 참가자들이 모의로 프롬프트 공격을 진행, 모델의 안전성을 검증하는 ‘생성 AI 레드팀 챌린지’ 대회를 연다. AI 윤리나 안전에 관심이 있는 국민 누구나 사전 신청을 통해 참여할 수 있다. 우수 참가자들에게는 총 1700만원 규모 상금을 제공한다.
네이버는 대표 파트너사로서 행사를 운영, LLM 안전성 검증 및 강화, 안전한 AI 개발을 위한 전문가 논의에 적극 참여할 예정이다. 생성 AI 레드팀 챌린지 참가자들이 국내 최고 수준 LLM의 안전성을 직접 검증, 실험할 수 있도록 ‘하이퍼클로바X’를 제공한다.
또 이번 대회를 통해 축적한 검증 데이터를 기반으로 하이퍼클로바X의 안전성을 한층 강화할 계획이다.
이 외에도 하정우 네이버 퓨처 AI 센터장이 컨퍼런스 연사로 참여해 안전한 AI 개발을 위한 네이버의 노력을 소개할 예정이다. 김유원 네이버클라우드 대표도 행사 주관 기관인 초거대AI추진협의회 회장사 대표로서 축사를 진행한다.
하정우 네이버 퓨처 AI 센터장은 “기업과 정부가 협력해 생성 AI의 안전성을 논의할 수 있는 기회를 마련해 의미있게 생각한다”라며 “하이퍼클로바X의 안전성을 검증, 강화하는 것은 물론 AI 안전성 기술 역량과 노하우를 공유할 것”이라고 말했다.
황민영 셀렉트스타 부대표는 "AI의 안전성과 윤리는 앞으로도 더욱더 중요해질 것"이라며 "이번 행사를 통해 한국이 AI 분야에서 선도적 역할을 수행, 전세계적으로 인정받는 AI 강국으로 자리매김하도록 기여하겠다"라고 전했다.
한편 참가 신청은 공식 홈페이지를 통해 할 수 있다.
장세민 기자 semim99@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com