2000년대 초 실검 서비스가 도입됐을 때는 새로운 첨단 기술서비스인 듯 착각하고 온 국민과 정치권, 뉴스매체, 잡초처럼 돋아난 카페, 논객들이 실검 키워드에 휩쓸렸다. 냄비같은 대한민국의 갈등지수가 당시 미친 듯 요동치고 급상승한 데는 실검 서비스가 상당 부분 기여했을 거란 사실을 부인하기 어려울 것이다.

포터들은 AI로 키워드를 추천한다고 하는데, 생성AI 분야의 개척자 중의 한 사람인 제프린 힌튼 박사는 지난 5월 요즘 MS(마이크로소프트)와 구글 등이 서비스 경쟁을 벌이고 있는 챗GPT 서비스의 위험성을 경고했다. 힌튼 박사는 무분별한 AI개발을 비판하는 대열에 참여하기 직전에 구글에서 이 분야 책임자 중의 한 사람으로 근무했다. 

AI가 실검을 조정한다면 이전보다 더 큰 사회 갈등, 계층 충돌, 정파 분열을 불러일으킬 가능성이 커 보인다. AI가 진실과 거짓을 교묘하게 배합하고 과학적 사실과 검증되 지 않은 유사과학적 지식 등을 혼합해 사람들이 만든 허구보다 더 진실처럼 보이는 뉴스와 지식과 정보를 생산할 수 있을 것이다. 생성AI가 만들어낸 가짜 뉴스와 정보는 공동체를 송두리째 혼돈으로 빠져들게 만들지도 모른다.   

‘실검’ 영향력 커지면 실검 인용하는 기사 급증할 것

뉴스 매체들에게 인용 기사를 못 쓰게 할 수는 없는 노릇인데, 한국 뉴스매체들의 안이한 인용 남발기사는 심한 편에 속한다. 정치인들의 발언만 가지고 기사 한 편 뚝딱 쓴다. 뿐만 아 니라 한 물 간 정치인들, 논문쓰기보다는 잡글에 능한 폴리페셔들, 본업이 무엇인지 헷갈리는 유명 인사들의 SNS 글을 수시로 인용한다.

이들의 SNS 글들이 뉴스 가치가 전혀 없다고 말할 수는 없지만 이렇게 쉽게 쓰는 기사들이 너무 난무한다. 이것은 실시간 속보 경쟁 때문이다. 심지어 해외 인터넷을 샅샅이 뒤져 한국과 한국인을 비방하는 듯 한 글들을 부단히 퍼다 나르는 기사를 쓰고 있다.

한국 뉴스매체들의 이런 침소봉대형 기사화 관행이 ‘반중 정서’와 ’반일 또는 반미 감정‘을 과다하게 조장하고 있다. 이런 판에 또 실검이 등장한다면 한국기자들이 실검 인용 기사를 열심히 인용할 게 뻔하다. 실검 인용 기사들이 증가하면 실검 영향력이 갈수록 커질 것이고 뉴스 매체들이 예전처럼 포털 종속이 심화되는 사태가 빚어질지 모른다. 깃털 같은 실검에 놀아나다 보면 그나마 있던 단독기사도 사라 지고 심층 분석 기사들은 종적을 감추어버릴 것 같다.

AI로 만든 가짜 뉴스사진 소동 벌어져

지난 5월 22일 트위터 등 소설미디어에 미국 국방성 펜타곤 건물 옆에 검은 연기가 치솟는 한 장의 사진이 뉴스속 보처럼 퍼져나갔다. 러시아 국영뉴스채널인 RT가 인용 보도했다가 취소했다. 한때 미국 증시가 이 가짜 뉴스와 사진으로 출렁거리기도 했다. 펜타곤 건물도 아니었다. 사람들은 사진을 자세히 살피지 않고 사진과 짧은 멘트에 속아 넘어간 것이다. 생성AI가 불러올 사태가 현실화될 우려가 급속히 커지고 있다.

포춘지 보도에 따르면 지난 3월 시카고 시장 선거 투표 전날, ‘시카고 레이크프론트 뉴스’라는 이름의 트위터 계정에 시장 후보로 나선 이의 공약을 전하는 뉴스가 후보자의 목소리를 함께 올려졌다. 이 뉴스계정은 선거 직전에 개설했으며 문제의 기사는 후보자의 사진과 함께 후보자의 목소리 녹음까지 올린 까닭에 사람들을 감쪽같이 믿게 만들었다.

녹음 내용은 경찰이 시민을 죽일 수도 있으나 그렇다고 경찰에 대한 예산 펀딩을 멈춰서는 안 된다는 등 앞 뒤가 맞지 않은 횡설수설 수준의 오디오 커트였다. 뉴스의 신뢰를 높이기 위해 녹음을 올렸는데, AI앱으로 쉽게 가짜 녹음을 만들 수 있다고 한다.

문제의 뉴스계정은 가짜 뉴스를 올리고 난 뒤 곧 조용히 사라졌다. 그러나 그 가짜뉴스는 이미 퍼 나르기로 다른 계정들로 번져나가고 말았다. 선거 전날 올렸기 때문에 가짜뉴스로 확실하게 판명하고 사람들에게 이런 사실을 알리기에는 시간이 너무 촉박 했다. 가짜뉴스를 올린 사람은 바로 이런 점을 노린 것일 터이다. 

가짜뉴스 전문가는 생성AI로 인해 내년 대통령 선거에 얼마나 많은 가짜뉴스가 혼란을 일으킬지 심히 걱정된다고 말했다. 생성AI를 이용해 나쁜 의도를 가졌던 장난 끼로 조작하든 간에, 가짜 뉴스 분석, 전문가와 애널리스트가 작성한 것 같은 가짜 투자리서치 보고서, 가짜 경제 분석 스토리가 쉽게 만들어 유포됐을 경우, 어떤 일이 벌어질지 상상조차 안 된다.

그 진실여부를 판별하기도 어쩌면 불가능한 상황이 나타날지 모른다.  

컴퓨터가 등장하면서 컴퓨터 바이러스가 생겨났듯이 생성AI 서비스가 본격적으로 사용되면 가짜뉴스가 컴퓨터 바이러스보다 더 무섭게 광범위하게 번져나갈 게 틀림없어 보인다. 이제 바이러스를 잡는 백신이 있듯이 가짜뉴스 를 가려내고 제거하는 앱 개발이 필요할 것 같다. 아울러 가짜뉴스 문제를 전문적으로 다루는 학문 분야와 전담 정부기관의 탄생도 충분히 예상되는 상황이다. >>(이어서