Moonyframe

(지디넷코리아=장유미 기자)미국이 정부 주도로 안전하고 신뢰할 수 있는 인공지능(AI)을 개발하기 위한 본격적인 움직임에 착수했다. 11일(현지시간) 미국 상무부에 따르면 AI 역량평가, 위험 관리, 합성 콘텐츠 워터마킹 지침 개발 등을 위해 '인공지능 안전 연구소 컨소시엄(AISIC)'이 발족됐다. 이곳에는 정부를 비롯해 학계, AI 개발자 뿐만 아니라 오픈AI, 구글, 마이크로소프트, 아마존 등 관련 기업과 퀄컴 등 하드웨어 기업, 금융업 등도 함께 한다. 상무부는 "컨소시엄은 지금까지 설립된 테스트 및 평가팀 가운데 가장 큰 집합체"라며 "AI 안전에 대한 새로운 측정(measurement) 과학의 토대를 구축하는 데 초점을 맞출 것"이라고 말했다. 미국이 이처럼 나선 것은 AI가 빠른 속도로 발전..

음란물을 즉석에서 만드는 ‘생성 AI 챗봇’이 텔레그램 등 SNS를 중심으로 이용자를 모으고 있다. 별다른 규제 없이 사진만으로도 간단하게 음란물을 만들어 문제라는 지적이다. 또 SNS상에서 유명인이나 지인의 사진을 이용해 만들어진 음란물들이 공유되고 있는 정황도 포착돼 관련 단속이 필요한 상황이다. 12일 한국경제신문 취재에 따르면 사진으로 간단하게 음란물을 만드는 생성 AI 프로그램을 포함한 챗봇을 텔레그램에서 별도의 인증 절차 없이 이용할 수 있었다. 음란물로 변환을 원하는 사진을 텔레그램의 챗봇이 안내하는 절차에 따라 올리는 식이다. 이와 같은 음란물 생성 챗봇은 X(옛 트위터)의 홍보성 게시글을 통해 손쉽게 찾아볼 수 있었다. "n번방과 다를 게 없다"…10초면 음란물 뚝딱 만드는 AI챗봇© 제..