소프트웨어정책연구소 'AI 인덱스 보고서 2025

소프트웨어정책연구소 'AI 인덱스 보고서 2025' 주요 내용 분석 (서울=연합뉴스) 조성미 기자 = 인공지능(AI) 기술이 발전하며 지난해 AI가 범죄 등 부정적인 일과 연루된 사건 수가 많이 늘어난 것으로 파악됐다. 미국, 중국 등 AI 기술 강대국이 AI 분야에 대규모 투자를 단행하는 데 반해 지난해 우리나라의 투자 규모·순위가 떨어졌지만, 신규로 투자받은 국내 기업 수는 증가하는 추세였다. 소프트웨어정책연구소(SPRi)는 16일 스탠퍼드대 인간중심AI연구소가 최근 발표한 'AI 인덱스 보고서 2025'의 주요 내용과 시사점에 대해 이같이 분석한 보고서를 발간했다.AI 관련 사건 수 [소프트웨어정책연구소 보고서 캡처. 재판매 및 DB 금지] AI 연루 부정적 사건 역대 최고치…AI 관련 입법도 늘어 소프트웨어정책연구소 분석 보고서에 따르면 딥페이크 음란물 제작, 청소년 자살에 연루된 AI 챗봇 등 AI가 부정적인 사건에 관련된 경우가 지난해 233건으로 2023년보다 56.4% 증가하며 역대 최고치를 기록했다. 이 수치는 2019년 민간 주도로 시작된 'AIAAIC 프로젝트' 데이터베이스에 포함된 AI 관련 부정적 사건을 집계한 것이다. AIAAIC 프로젝트는 AI 기술과 관련된 윤리적 이슈를 추적·기록하는 독립적인 공공 데이터베이스다. 보고서는 AI 모델의 사실성과 진실성, 환각 등을 평가하기 위한 새로운 윤리 평가 지표들이 등장하고 있지만 주요 AI 모델 개발사들 사이에서 표준화된 책임 있는 AI 평가는 여전히 부족하다고 지적했다. 오픈AI의 GPT4, 앤스로픽 클로드 3.5 소넷 등 최신 모델에서도 인종·성별 등과 관련한 암묵적인 편견이 드러나거나 환각(할루시네이션) 현상이 여전한 것이 이를 뒷받침했다. 보고서에 따르면 AI 기업이 개인 정보를 안전하게 보호할 것이라는 전 세계 응답자의 비율이 2023년 50%에서 2024년 47%로, AI가 차별 없이 작동할 것이라는 응답은 2023년 56%에서 2024년 54%로 조금씩 줄었다. 향후 5년 이내에 AI가 자신의 업무 수행 방식을 바꿀 것이라고 생각한 전 세계 응답자의 비율은 같은 기간 57%에서 60%로 증가했다. AI가 고용시장, 경제, 건강에 긍정적인 영향을 미칠 것이라고 생각한 전 세계 응답자 비율은 각각 31%소프트웨어정책연구소 'AI 인덱스 보고서 2025' 주요 내용 분석 (서울=연합뉴스) 조성미 기자 = 인공지능(AI) 기술이 발전하며 지난해 AI가 범죄 등 부정적인 일과 연루된 사건 수가 많이 늘어난 것으로 파악됐다. 미국, 중국 등 AI 기술 강대국이 AI 분야에 대규모 투자를 단행하는 데 반해 지난해 우리나라의 투자 규모·순위가 떨어졌지만, 신규로 투자받은 국내 기업 수는 증가하는 추세였다. 소프트웨어정책연구소(SPRi)는 16일 스탠퍼드대 인간중심AI연구소가 최근 발표한 'AI 인덱스 보고서 2025'의 주요 내용과 시사점에 대해 이같이 분석한 보고서를 발간했다.AI 관련 사건 수 [소프트웨어정책연구소 보고서 캡처. 재판매 및 DB 금지] AI 연루 부정적 사건 역대 최고치…AI 관련 입법도 늘어 소프트웨어정책연구소 분석 보고서에 따르면 딥페이크 음란물 제작, 청소년 자살에 연루된 AI 챗봇 등 AI가 부정적인 사건에 관련된 경우가 지난해 233건으로 2023년보다 56.4% 증가하며 역대 최고치를 기록했다. 이 수치는 2019년 민간 주도로 시작된 'AIAAIC 프로젝트' 데이터베이스에 포함된 AI 관련 부정적 사건을 집계한 것이다. AIAAIC 프로젝트는 AI 기술과 관련된 윤리적 이슈를 추적·기록하는 독립적인 공공 데이터베이스다. 보고서는 AI 모델의 사실성과 진실성, 환각 등을 평가하기 위한 새로운 윤리 평가 지표들이 등장하고 있지만 주요 AI 모델 개발사들 사이에서 표준화된 책임 있는 AI 평가는 여전히 부족하다고 지적했다. 오픈AI의 GPT4, 앤스로픽 클로드 3.5 소넷 등 최신 모델에서도 인종·성별 등과 관련한 암묵적인 편견이 드러나거나 환각(할루시네이션) 현상이 여전한 것이 이를 뒷받침했다. 보고서에 따르면 AI 기업이 개인 정보를 안전하게 보호할 것이라는 전 세계 응답자의 비율이 2023년 50%에서 2024년 47%로, AI가 차별 없이 작동할 것이라는 응답은 2023년 56%에서 2024년 54%로 조금씩 줄었다. 향후 5년 이내에 AI가 자신의 업무 수행 방식을 바꿀 것이라고 생각한 전 세계 응답자의 비율은 같은 기간 57%에서 60%로 증가했다. AI가 고용시장, 경제, 건강에 긍정적인 영향을 미칠 것이라고 생각한 전 세계 응답자 비율은 각각 31%, 36%, 38%에 불과했다. AI가 경제에 긍정적 영향