사람들의 집단지성을 이용해 생성형 AI의 취약점을 발견하기 위한 '생성형 AI 레드팀 챌린지' 대회가 국내에서 처음으로 열렸습니다.

대회 참가자는 직업·연령에 상관없이 AI에 관심이 많은 지원자 천 명으로 구성됐는데, 교묘한 질문으로 AI를 공격해 잘못됐거나 부적절한 대답을 도출해 내는 방식으로 진행됐습니다.

공격 대상 AI는 네이버와 SKT 등 국내 4개 기업의 거대언어모델, LLM인데, 유해한 답변이나 편견과 차별, 악성코드 정보제공, 오답이나 모순적 답변도 포함됐습니다.

과기정통부는 이번 AI레드팀 챌린지가 지난해 8월 미국 빅테크들에 이어 이번이 두 번째 라며, 결과를 정리해 AI 가이드라인을 만들 계획이라고 밝혔습니다.





YTN 김기봉 ([email protected])

※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] [email protected]

▶ 기사 원문 : https://www.ytn.co.kr/_ln/0102_202404120212097442
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, [email protected], #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]