AI 안전

우리나라와 영국 정부가 5월 21일부터 22일까지 이틀간 서울에서 온라인·오프라인 방식으로 공동주최한 정상급 회의다. G7(미국, 일본, 영국, 프랑스, 독일, 이탈리아, 캐나다)와 싱가포르, 국제연합(UN), 유럽연합(EU) 등 정상과 장관, 유력 기업인들이 참여했다 우리나라와 영국 정부가 5월 21일부터 22일까지 이틀간 서울에서 온라인·오프라인 방식으로 공동주최한 정상급 회의다. G7(미국, 일본, 영국, 프랑스, 독일, 이탈리아, 캐나다)와 싱가포르, 국제연합(UN), 유럽연합(EU) 등 정상과 장관, 유력 기업인들이 참여했다

인공지능(AI) 서울 정상회의에 모인 글로벌 AI·디지털 분야 장관들은 AI 안전과 지속가능한 발전 중요성을 강조했다. 특히 세계 ‘AI 안전 연구소’ 설립 현황을 공유하고 글로벌 공조 방안을 논의했다. 22일 오후 서울 성북구 한국과학기술연구원(KIST)에서 열린 ‘ 인공지능(AI) 서울 정상회의에 모인 글로벌 AI·디지털 분야 장관들은 AI 안전과 지속가능한 발전 중요성을 강조했다. 특히 세계 ‘AI 안전 연구소’ 설립 현황을 공유하고 글로벌 공조 방안을 논의했다. 22일 오후 서울 성북구 한국과학기술연구원(KIST)에서 열린 ‘

아시아투데이 박진숙 기자 = 22일 서울 성북구 한국과학기술연구원(KIST)에서 열린 ‘AI 글로벌 포럼’에서 세계적인 AI 석학과 구글 딥마인드, 마이크로소프트(MS), LG AI 연구소 등 국내외 AI 전문 기업들이 AI의 안전한 활용과 AI 거버넌스 체계 개발을 위한 방안을 모색하며 다양한 의견을 교환했다. 이날 포럼은 오전 한덕수 국무총리가 축사를 했으며, 이어서 이종호 과학기술정보통신부 장관과 함께 오픈AI·구글·마이크로소프트·앤트로픽·IBM·세일즈포스·코히어 등 해외기업과 네이버·카카오·SK텔레콤·KT·LG AI 연구원·삼성전자 등 국내 기업이 안전한 AI 사용을 위한 ‘서울 AI 기업 서약’을 발표했다. 이후 AI 분야 세계적 석학인 앤드류 응 미국 스탠퍼드대 교수가 ‘AI의 기회와 리스크’를 주제로 기조발표를 했다. 응 교수는 AI 규제에 대해 기술이 아닌 앱을 규제해야 한다며 규제 방향을 ‘전기모터’를 예로 들어 소개했다. 전기모터 기술을 활용한 전기차의 안전성을 높..

한국이 인공지능(AI) 안전·혁신·포용을 기치로 세계 정상과 기업의 협력을 주도하고 있다. 우리 정부는 역대 최대 규모로 개최된 AI 서울 정상회의에서 서울선언문 등 국제 합의를 이끌어냈다. 글로벌 AI 거버넌스가 나아가야할 방향도 제시했다. 정부는 지난 21일 청와대 한국이 인공지능(AI) 안전·혁신·포용을 기치로 세계 정상과 기업의 협력을 주도하고 있다. 우리 정부는 역대 최대 규모로 개최된 AI 서울 정상회의에서 서울선언문 등 국제 합의를 이끌어냈다. 글로벌 AI 거버넌스가 나아가야할 방향도 제시했다. 정부는 지난 21일 청와대

윤석열 대통령이 21일 리시 수낵 영국 총리와 ‘AI 서울 정상회의’를 주재하고 안전·혁신·포용의 3대 원칙을 담은 합의를 도출했다. 윤 대통령은 이날 청와대 영빈관에서 화상으로 주재한 AI 서울 정상회의 개회사에서 “대한민국은 국제사회의 책임 있는 일원으로서 인공지능 윤석열 대통령이 21일 리시 수낵 영국 총리와 ‘AI 서울 정상회의’를 주재하고 안전·혁신·포용의 3대 원칙을 담은 합의를 도출했다. 윤 대통령은 이날 청와대 영빈관에서 화상으로 주재한 AI 서울 정상회의 개회사에서 “대한민국은 국제사회의 책임 있는 일원으로서 인공지능

인공지능(AI) 서울 정상회의에서는 안전하고 신뢰할 수 있는 AI 생태계 구축을 위한 주요국 정책을 함께 논의한다. 특히 정부 주도 AI 안전성 연구와 평가를 위한 ‘AI 안전연구소’ 설립이 핵심 의제로 다뤄진다. 우리나라도 AI 정상회의 개최를 계기로 미국·영국·일본 인공지능(AI) 서울 정상회의에서는 안전하고 신뢰할 수 있는 AI 생태계 구축을 위한 주요국 정책을 함께 논의한다. 특히 정부 주도 AI 안전성 연구와 평가를 위한 ‘AI 안전연구소’ 설립이 핵심 의제로 다뤄진다. 우리나라도 AI 정상회의 개최를 계기로 미국·영국·일본

과학기술정보통신부와 외교부가 오는 21일 개막하는 ‘AI 서울 정상회의’ 성공적 수행을 위한 막바지 준비에 한창이다. 이번 정상회의는 한국, 영국, 미국, 프랑스, 독일 등 AI 분야 정부 리더와 오픈AI, 구글, 마이크로소프트 등 글로벌 기업이 대거 참여한다. AI 과학기술정보통신부와 외교부가 오는 21일 개막하는 ‘AI 서울 정상회의’ 성공적 수행을 위한 막바지 준비에 한창이다. 이번 정상회의는 한국, 영국, 미국, 프랑스, 독일 등 AI 분야 정부 리더와 오픈AI, 구글, 마이크로소프트 등 글로벌 기업이 대거 참여한다. AI

11~12일 ‘생성형 AI 레드팀 챌린지’ 네이버·카카오 등 1000여 명 참석 LLM 편견·차별 등 취약점 개선 과학기술정보통신부와 한국정보통신기술협회(TTA)가 11일부터 이틀간 서울 코엑스 B2홀에서 ‘생성형 인공지능(AI) 레드팀 챌린지’를 개최한다. 국내에서 처음으로 개최되는 이번 ‘레드팀 챌린지’는 AI에 관심 있는 국민 누구나 참여해 국내 생성형 AI 모델(LLM)을 대상으로 잠재적 위험·취약점(부정확 정보, 유해 정보 등)을 찾는 행사다. 이번 행사는 최근 생성형 AI에 대한 사회 전반의 관심을 반영해 AI·정보통신기술(IT)분야 종사자뿐만 아니라, 제조·금융·의료분야 종사자, 대학생 등 다양한 분야의 국민 총 1000여 명이 챌린지 참가자로 참여한다. 글로벌 AI 혁신을 선도해 나가는 국내 AI 대표기업 네이버·SKT·업스테이지·포티투마루가 참여한 가운데, 챌린지 참가자들은 세션별(1~4) 참여기업 LLM 모델을 차례로 배정받아 총 7개 챌린지 주제를 대상으로 잠재적 취약점을 찾기 위한 프롬프트 공격을 진행했다. 이 밖에도 ‘레드팀 챌린지’의 공정하고 전문적인 평가를 위해 챌린지 평가단도 구성·운영한다. 레드팀 수행 경험 등이 있는 데이터 분야 전문가, 의료‧금융‧법률 전문가 120여 명으로 구성된 평가단은 사전에 마련된 평가 세부기준에 기초하여 챌린지 참가자의 프롬프트 공격을 객관적으로 평가한다. 행사 2일 차인 12일에는 ‘글로벌 AI 안전 콘퍼런스’에서 하정우 네이버 퓨처 AI 센터장, 에릭 데이비스 SKT 부사장, 김경훈 카카오 AI Safety 리더, 오혜연 카이스트 교수 등 국내·외를 대표하는 AI 업계·학계 전문가가 참여해 최근 생성형 AI 시장의 기술동향과 생성형 AI 안전·신뢰성 확보 방안에 대한 발표와 토론을 진행한다. 과기정통부는 이번 ‘레드팀 챌린지’ 결과를 분석하여 생성형 AI 분야의 공통·포괄적인 위험을 도출하고, 업계에서 활용할 수 있는 ‘생성형 AI 레드팀 가이드라인’을 마련하는 등 표준화된 생성형 AI 위험 발굴·대응체계를 구축해 나갈 계획이다. 강도현 과기정통부 2차관은 “AI 발전에 제약이 되는 문제들은 조속히 해결해 나가고, 대통령께서 밝히신 ‘AI-반도체 이니셔티브’를 차질 없이 추진해 글로벌 AI 혁신을 주도해 나갈 것”이라며 “특히, 올해 5월에 개최되는 AI 서울 정상회의를 통해 AI 혁신과 안전, 포용 논의를 주도해 글로벌 AI 리더십을 확보하고, AI G3 강국 도약의 발판으로 삼겠다”고 강조했다. ©(주) 데일리안 무단전재 및 재배포 금지 [속보] 조국 “국민이 승리…개원 즉시 한동훈 특검법 발의” [전국] 민주 170석·국힘 109석·조국 12석·개혁 3석·진보 3석·새진보 2석·새미래 1석(종합) 총선 참패 결정타, 대부분 ‘용산발 리스크’였다 [정국 기상대] 탄핵·개헌저지선 붕괴 직면…與 ‘무거운 침묵’ 한동훈 “실망스럽다” 국민의힘 누가 이끄나…살아남은 다선 중진 ‘역할론’