네이버, AI 안전성 강화를 위한 체계 '네이버 ASF' 발표 > 과학

1. 네이버가 '네이버 ASF'라는 인공지능(AI) 안전성 실천 체계를 발표했다.
2. AI의 잠재적 위험을 인식, 평가, 관리하기 위한 대응 체계로 설계되었다.
3. '통제력 상실 위험'과 '악용 위험'에 대응하기 위한 방법을 제시하고 있다.
4. AI 시스템의 사용 목적과 안전 조치의 필요성에 따라 위험을 관리하는 매트릭스를 적용한다.
5. 네이버는 AI 안전성 체계를 발전시켜가며, 소버린 AI를 개발할 계획이다.

[설명]
네이버는 인공지능(AI)의 안전성을 강화하기 위해 '네이버 ASF(인공지능 세이프티 프레임워크)'를 발표했습니다. 이 체계는 AI 시스템을 개발하고 배포하는 과정에서 발생할 수 있는 위험을 감지하고 대응하는 체계로 설계되었습니다. '통제력 상실 위험'과 '악용 위험'에 대응하기 위한 방법을 제시하고, AI 시스템의 안전성을 평가하고 관리하는 과정을 거칩니다. 또한 AI 시스템의 사용 목적과 안전 조치의 필요성에 따라 위험을 관리하는 'AI 위험 평가 매트릭스'를 적용하여 안전성을 강화할 계획이라고 밝혔습니다. 네이버는 이를 통해 문화적 다양성을 반영한 AI 안전성 체계를 구축하고 소버린 AI를 발전시켜갈 예정입니다.

[용어 해설]
1. 인공지능(AI): 인공 지능은 기계가 인간과 유사한 지능을 보일 수 있는 기술을 가리킵니다.
2. 통제력 상실 위험: 인공지능 시스템이 인간의 통제를 벗어나는 상황을 뜻합니다.
3. 악용 위험: 인공지능 시스템이 부정한 목적으로 사용될 가능성을 의미합니다.
4. 매트릭스: 특정 상황에 대한 평가와 조치를 담은 행렬이나 틀을 말합니다.
5. 소버린 AI: 자주적인 AI 시스템으로, 외부의 인간 개입 없이 자체적인 판단과 행동을 할 수 있는 기술입니다.

[태그]
#Naver #AI안전성 #소버린AI #인공지능 #통제력상실위험 #악용위험 #매트릭스 #안전성체계 #한국어데이터셋 #ACL2023 #평가프레임워크

추천0 비추천 0