한국항공대학교 소프트웨어학과

[기사] AI 시대에 희망만 있을까…챗GPT의 명과 암

AI 시대에 희망만 있을까…챗GPT의 명과 암

인간 노동력 갈아서 학습자료 생성
선정적인 콘텐츠에 하루 종일 노출돼사진=게티이미지지난해 11월 오픈AI가 공개한 챗GPT가 확산한 뒤 생성형 인공지능(Generative AI) 시대를 예찬하는 목소리가 커진 가운데 AI 개발업체의 노동환경 등에 대한 비판도 잇따르고 있다. 기계학습(머신러닝)을 위한 데이터를 필터링하는 작업에 노동자를 착취한다는 지적이 나온다.노동력을 갈아 만든 AI의 지성12일(현지시간) 비즈니스인사이더는 인공지능의 성과가 두드러지지만, 개발업체 대부분이 인간의 노동력을 통해 인공지능을 작동시키고 있다고 보도했다. 비즈니스인사이더는 테슬라를 사례로 들었다.

테슬라의 자율주행 시스템이 인공지능으로만 구현되지 않는다는 지적이다. 소프트웨어와 알고리즘은 고임금 엔지니어가 개발하지만, 데이터를 솎아내는 작업은 개발도상국의 노동자들을 동원하고 있다.
판단 척도를 구축하는 건 인간의 몫이라는 설명이다. 테슬라 자율주행 시스템은 단독으로 전방에 장애물을 발견했을 경우 어린이인지 교통 고깔인지 구분할 수 없다. 인간이 일일이 이미지 자료에 꼬리표를 붙여주는 '라벨링(데이터 가공)' 작업이 필수다.

테슬라는 이를 베네수엘라 저임금 노동자에게 맡겼다. 시급은 평균 90센트였다. 해외에 외주를 맡긴 뒤 사내 직원 200여명은 해고했다.

챗GPT의 학습 방식도 비슷하다. 오픈AI는 아동 성착취, 고문, 자살, 근친상간 등 선정적인 콘텐츠를 솎아내기 위해 케냐 노동자들을 끌어들였다. 이들은 시간당 2달러를 받으며 하루 종일 자극적인 단어를 걸러냈다. 타임스지에 따르면 노동자 대부분이 정신적인 피해를 본 것으로 알려졌다.

오픈AI가 수집한 단어는 수천억 개에 달한다. 복잡하고 민감한 요소가 많아 자동화 도구로 모두 걸러낼 수 없어 대규모 수작업이 필수다. 오픈AI는 문제를 해결하기 위해 전문 외주업체인 사마AI를 통해 케냐 노동자를 고용하고 데이터 라벨링 업무를 맡겼다. 인간의 감정노동으로 인공지능의 이성을 개선하는 것이다.

인공지능 기술을 적용하는 의도가 불순하다는 비판도 나온다. 기업 대부분이 효율성 제고와 서비스 개선을 위해 인공지능을 도입한다고 밝혔다. 하지만 미국의 노동생산성은 2005년 이후 저성장 중이다. 일정 수준의 생산물을 제조하기 위해 필요한 노동자 수는 과거와 비슷한 수준이다.

기업이 생산성 향상이 아니라 노동자 감시에 초점을 맞춘다는 지적이 나온다. 경제사학자 아론 베나나브는 자동화에 대해 "기업은 직원들의 업무를 수월하게 해주는 도구에 투자하지 않는다"며 "직원의 모든 움직임을 통제할 수 있는 알고리즘에 관심을 가질 뿐이다"라고 역설했다.

"챗GPT는 복사기에 불과"챗GPT의 기능이 과대 평가됐다는 지적도 잇따른다. 미국의 공상과학소설(SF) 작가인 테드 창은 뉴요커에 챗GPT에 대한 기고문을 올려 "인터넷 정보의 복사 열화판에 불과하다"고 주장했다.

창 작가는 당대 최고의 SF소설 작가로 꼽힌다. 세계과학소설대회(WSF)가 주관하는 휴고상을 4회 수상했다. 1990년 <바빌론의 탑>을 내며 네뷸라상 단편 부문을 수상했다. 드니 빌뇌브 감독의 영화 '콘택트'의 원작인 소설 <네 인생의 이야기>도 썼다.창 작가는 "과거 제록스 복사기는 원본 문서를 압축하여 저장하는 과정에서 일부 글자가 종종 변조됐다”며 “챗GPT도 인터넷상 글을 1% 수준으로 압축한 뒤 나머지는 추정해서 채워 넣는다”고 비판했다. 인터넷의 글을 인간처럼 따라 적을 뿐 맥락을 전혀 이해하지 못한다는 비판이다.

인터넷에 정보가 적을수록 엉뚱한 대답을 하기 십상이다. 같은 질문을 영어로 했을 때와 한국어로 했을 때 챗GPT의 답이 엇갈리는 이유다. 영어로 쓰인 온라인 콘텐츠가 압도적으로 많아서다.

창 작가는 챗GPT가 인간의 독창적인 글쓰기 실력도 떨어트릴 거라고 관측했다. AI로 독창적인 아이디어를 발현해낼 수 없을 뿐만 아니라, 통찰로 얻을 수 있는 아이디어를 접할 기회를 잃기 때문이다. 그는 “챗GPT의 도움을 받아 글을 쓰는 것은 마치 복사기를 갖고 예술 작품을 만드는 것이나 마찬가지”라고 했다.

내부 관계자의 성찰도 나온다. 챗GPT 개발업체 오픈AI의 최고기술책임자(CTO)인 미라 무라티는 지난 5일 타임스지와의 인터뷰에서 “AI가 사실을 지어낼 수 있다”고 강조했다. 무라티 CTO는 오픈AI의 이미지 생성 AI인 달리(DALL-E)팀과 대화 생성 AI인 챗GPT팀을 이끌고 있다.

그는 "악용할 여지를 차단하기 위한 규제를 지금부터 시작해야 한다"고 역설했다. AI를 공공선에 맞춰 통제하기 위해선 AI 윤리와 규제가 필요하다는 주장이다.
오현우 기자 ohw@hankyung.com
출처: AI 시대에 희망만 있을까…챗GPT의 명과 암 | 한경닷컴 (hankyung.com)

2023-02-14

학과/분야 뉴스

[기사] 시론, K방산 원동력은 인적자원이다

[기사] AI 시대에 희망만 있을까…챗GPT의 명과 암

[기사] AI챗봇 군비경쟁에 알리바바 가세,"챗봇 기술 테스트중"