[Article Scrap] AI가 ‘정답’ 몰라도 대답하는 진짜 이유

[TV리포트=한아름 기자] 인공지능 회사 앤트로픽의 CEO 겸 물리학자 자레드 캐플란이 생성형 AI가 정답을 모르는 데도 대답하는 이유에 대해 밝혔다.

 

지난 12일(현지 시간), CIO 네트워크 서밋에 참여한 인공지능 회사 ‘앤트로픽’의 공동 창업자 자레드 캐플란은 생성형 인공지능의 대답 실수는 잘못이 아니라고 밝혔다.

 

자레드 캐플란은 “생성형 인공지능이 자신의 오류에 불안해하면 모든 정보를 의심하게 된다. 그렇게 되면 사용자에게 쓸모가 없어진다”라며, 생성형 인공지능이 모든 질문에 대답하는 이유에 대해 설명했다. 그는 “가끔씩 발생하는 오류는 인공지능 시스템을 위한 ‘절충안’의 일부다”라며 “생성형 인공지능에게 실수를 하지 않도록 훈련시키면 모든 질문에 ‘모른다’고 대답할 것이다”라고 덧붙였다.

 

인공지능 산업은 정확성과 실용성 사이의 타협점을 찾는 데 어려움을 겪고 있다. 지난해 구글의 ‘제미나이 에이아이'(Gemini AI)가 잘못된 답변을 내놓아 많은 비판을 받았다. 많은 사용자는 인공지능은 논란이 되는 주제에 답변하기를 꺼린다며 불편함을 토로했다.

 

앤트로픽은 생성형 인공지능의 윤리를 중시하는 회사다. 자사 홈페이지에 앤트로픽을 “인공지능 안전 및 연구 회사”라고 소개하고 있다. 

 

마이크로소프트의 투자로 영리화된 오픈AI에 불만을 품은 직원이 앤트로픽에 대거 입사해 앤트로픽은 공익 기업을 표방한다.

 

한편, 앤트로픽은 오픈AI에 이어 규모가 가장 큰 생성형 인공지능 기업으로 지난해 기준 기업 가치는 44억 달러(한화 약 5조 8,762억 원)에 달한다.

 

한아름 기자 har@tvreport.co.kr /