"악의적 가짜 기사, AI 구별 못해” - NYT
"악의적 가짜 기사, AI 구별 못해” - NYT
  • 박성용 시니어 기자
  • 승인 2018.11.01 06:30
  • 댓글 0
이 기사를 공유합니다

주커버그 “AI 가짜 뉴스 식별? 최소 5~10년 기다려야”에 전문가들 비관
NYT는 데이터 통계 분석을 바탕으로 한 현재의 인공지능(AI)은 가짜 뉴스를 구별하는 데 한계가 있다고 보도했다. /이미지=pixabay
NYT는 데이터 통계 분석을 바탕으로 한 현재의 인공지능(AI)은 가짜 뉴스를 구별하는 데 한계가 있다고 보도했다. /이미지=pixabay

인공지능(AI)이 가짜 뉴스를 자동 식별하고자 하려면 근본적으로 새로운 AI 패러다임 개발이 필요한데 그 중 하나는 데이터 통계 추세를 분석하는 것이 아니라 데이터 사이의 연관관계를 밝히는 것이라고 뉴욕타임즈(NYT)가 전했다.

최근 NYT 보도에 따르면, 주커버그는 미 의회 증언에서 2016년 대선 결과에 영향을 미칠 수 있는 가짜 뉴스가 유포된 것에 우려를 제기하면서 “해결방안은 최소 5년에서 10년이 걸릴 것”이라고 말했다. 하지만 NYT는 단기적으로 그의 비전이 타당하지 않다고 평가했다. 가짜 뉴스 탐지 자동화는 AI 기술의 큰 발전이 필요하기 때문이라는 이유다.

NYT는 게리 마커스 교수(심리학 및 신경학과)와 어니스트 데이비스 교수(컴퓨터과학)의 이 같은 주장을 담은 칼럼을 소개했다. 

이들은 현재 AI는 키워드 수준에서 작동하는데, 그것은 단어 패턴에 플래그를 매기고 그 단어와 그 출처 사이의 통계적 상관관계를 찾는다고 평가했다. 하지만 “이는 어느 정도 유용할 뿐”이라는 게 그들의 견해다.이들은 자동화된 가짜 뉴스 탐지에 필요한 기술을 다루기 위해 지난 5월, 극우 웹사이트 WorldNetDaily, 또는 WND에 게재된 기사를 예로 제시했다. 

보이스카우트에 소녀, 게이, 레즈비언들을 받아들이기로 한 결정을 알린 보도였다. 이어 WND는 ‘국제적 모임’에서 콘돔을 사용할 수 있어야 한다는 보도를 소개했으며, 이 두 기사가 말하고자 하는 맥락을 분석했다.

보이스카우트가 게이와 레즈비언도 받아들이기로 결정한 것은 사실이다. 소녀들 역시 스카우트의 이름을 BSA로 바꾼 이 조직을 환영했다. WND는 이어 국제회의의 ‘모든 참가자들’에게 콘돔을 반드시 제공하도록 한다는 내용을 보도했다.

사실 확인 사이트인 Snopes의 조사자들은 이 기사가 ‘대부분 거짓’이라고 판단했다고 NYT는 보도했다. 그러나 AI는 이 보도가 왜 가짜뉴스인지 판단할 수 없다고 이들은 지적했다.

스카우트가 참석하는 세계적인 모임에서 콘돔은 실제 이용 가능했고, 보이스카우트 조직은 동성애자들과 레즈비언들을 수용했다. 문제는 ‘존재하지 않는 인과관계’다. 콘돔 정책은 1992년에 시작됐고, 게이, 레즈비언을 수용하는 보이스카우트 최근 정책과는 아무런 관계가 없다는 것이다.

두 교수는 “마치 콘돔 정책이 최근에 변경됐음을 암시하는 WND 기만적인 기사의 인과적 의미를 이해해야만 하는데, AI는 이를 분별하지 못한다”고 지적했다.

스카우트를 국제 조직 관점에서 볼 때, 3만~4만 명의 호르몬이 풍부한 청소년들의 모임에서 콘돔을 제공하는 것은 신중한 공중 보건 조치다. 그럼에도 WND는 소녀들, 게이들, 레즈비언들이 보이 스카우트에 들어가는 것을 허락하고, 거기서 콘돔의 이용가능성만을 부각, 명예로운 기관이 부패했다는 신호로 해석했다는 것이다.

이들은 “일종의 도덕적 논리에 의해 보이스카우트의 정책이 콘돔을 스카우트에 공급하도록 이끌었다는 것을 암시하는 것은 사실의 데이터베이스에서 확인할 수 있는 간단한 문제가 아니다”라고 지적했다고 매체는 전했다.

 

관련기사

https://www.nytimes.com/2018/10/20/opinion/sunday/ai-fake-news-disinformation-campaigns.html?action=click&module=Opinion&pgtype=Homepage

 


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.