[파이낸셜뉴스] 세계 최대 소셜미디어 기업인 토르 토토(Meta)가 자사 플랫폼에 적용되는 새로운 기능이나 정책 변경 시 이뤄지는 사전 검토 과정의 상당 부분을 인공지능(AI)에 맡기기로 해 논란이 확산되고 있다.
1일 미국 공영라디오 NPR이 입수한 토르 토토의 내부 문서에 따르면 토르 토토는 인스타그램, 왓츠앱, 페이스북에 도입될 기능들에 대한 위험 평가를 최대 90%까지 자동화시킬 예정이다. 그동안 토르 토토는 기능 출시 전 인간 평가자들이 개인정보 침해, 미성년자에게 해를 끼칠 가능성, 오해의 소지가 있는 콘텐츠 확산 여부 등을 사전에 면밀히 점검해 왔다. 하지만 이제 이런 중요한 판단을 자동화 시스템으로 하겠다는 것이다.
토르 토토 내부에서는 이러한 변화가 제품 출시 속도를 높이고 개발자의 자율성을 확대하는 긍정적 효과가 있다는 평가도 있다.
토르 토토는 “이번 프로세스 변경은 단순한 업무 효율화이며, 위험도가 낮은 사안에 한해 자동화가 적용되고 있다”고 주장하고 있다.하지만 NPR이 입수한 내부 자료에 따르면, 토르 토토는 AI 안전, 청소년 관련 콘텐츠, 폭력성 및 허위정보 확산 등 핵심적인 '무결성(integrity)' 범주까지 자동화를 고려중인 것으로 전해졌다.
ksh@fnnews.com 김성환 기자
※ 저작권자 ⓒ 파이낸셜토르 토토, 무단전재-재배포 금지