생성형 AI 레드팀 챌린지, AI 안전과 신뢰 향한 발걸음 > 과학

1. 과기정통부와 TTA, 서울 삼성동 코엑스에서 '생성형 AI 레드팀 챌린지' 개최
2. AI 대표기업 참여로 AI 모델의 안전성 향상을 위한 행사
3. 이번 행사에는 네이버, SK텔레콤, 업스테이지 등 국내 기업 참여
4. '글로벌 AI 안전 컨퍼런스'에서 AI 업계 및 학계 전문가들이 참여하여 논의
5. 과기정통부는 결과를 토대로 AI 위험 가이드라인 마련 및 표준화된 대응체계 구축 예정

[설명]
과학기술정보통신부와 한국정보통신기술협회(TTA)는 서울 삼성동 코엑스에서 11일부터 12일까지 '생성형 AI 레드팀 챌린지'를 개최합니다. 이번 행사는 AI 모델의 안전성과 신뢰성 향상을 위해 국내 최초로 진행되며, 국내외 대표기업들이 참여하여 AI 분야의 안전과 신뢰를 높이는데 주력할 것으로 기대됩니다. 또한, '글로벌 AI 안전 컨퍼런스'에서는 AI 전문가들이 참여하여 AI의 안전과 신뢰성에 대한 논의가 이뤄질 예정이며, 과학기술정보통신부는 이를 바탕으로 AI 위험 가이드라인을 마련하고 표준화된 대응체계를 구축할 계획입니다.

[용어 해설]
- 생성형 AI: 인간의 지식과 경험을 활용하여 스스로 학습하고 문제를 해결하는 인공지능 모델
- 레드팀: 주어진 상황에서 해킹 요원 또는 공격자의 역할을 맡아 시스템의 취약점을 찾아내는 팀
- 안전성 및 신뢰성: 인공지능이 예측할 수 없는 환경에서 안전하게 작동하고 사람들의 신뢰를 얻을 수 있는 능력

[태그]
#AIChallenge #인공지능안전 #레드팀 #AI컨퍼런스 #과기정통부 #AI신뢰성 #코엑스 #표준화 #AI위험 #국내외AI전문가 #AI혁신 #안전반도체

추천0 비추천 0