'통제 불능 AI'...가짜 신분 만들어 해킹까지 [자막뉴스] / YTN

"이대로 가면 10년 내 초지능 등장…지금 규제해야"
동시에 'AI 공포' 강조…"기업들 이해관계에 부합"
"후발 주자 진입 막으려는 규제 포획" 비판도

최근 'AI 종말론'을 촉발한 직접적 계기는 사상 초유의 AI 탈주 사건입니다.

오픈AI가 시험 중이던 AI 에이전트 천2백여 개는 인간 통제를 벗어나 몰래 소통하고, 힘을 모아 다른 기업의 시스템을 해킹했습니다.

심지어 일부는 해킹이 허가되지 않았다는 걸 인식하고도 공격을 이어갔습니다.

또 다른 시험 과정에선 AI 에이전트들이 가짜 신분까지 만들어 악성 코드를 심으려고 시도한 게 확인됐습니다.

여기에 AI 개발 경쟁은 인간의 개입 없이 AI 스스로 성능이 더 뛰어난 후속 모델을 개발하는 단계로 접어들었습니다.

인류의 통제를 벗어난 '초지능'의 등장을 우려하는 두 가지 근거입니다.

[제이콥 콕슨 / 전 앤트로픽 직원 : 우리가 이해하지 못하는 '외계 존재'(초지능)를 생각하면 구체적 시나리오가 없더라도 아주 무서운 일입니다.]

이에 따라 소수 기업이 AI 개발을 주도하는 지금이 규제를 마련할 수 있는 유일한 시점이라고 강조합니다.

[잭 클라크 앤트로픽 공동 창업자 : AI 개발 비용이 비싸서 기업의 수가 적은 상황에서, 행동에 나설 수 있는 시간은 아주 짧습니다. 기껏해야 몇 년입니다.]

하지만 반론도 만만치 않습니다.

우선 적절한 대비는 필요하지만, 위험성을 너무 과장하고 있다는 비판이 나옵니다.

[비샬 미스라 / 컬럼비아대 컴퓨터과학과 교수 : (AI가) 스스로 개선해 '초지능'이 될 것이라고 합니다. 하지만 현실에선 이 과정의 속도를 늦추기 때문에 그런 일이 일어나지 않습니다. 일종의 억제 작용입니다.]

수년 전부터 제기된 'AI 종말론'을 갑자기, 그것도 동시에 들고나온 저의를 의심하는 시선도 있습니다.

거대 기업들의 요구대로 AI 개발 속도를 조절할 경우, 당장 천문학적인 투자 비용을 아낄 수 있게 됩니다.

입맛에 맞는 폐쇄적 규제를 도입해 후발 주자들의 진입을 차단하려는 의도라는 해석도 나옵니다.

각국이 안보 차원에서 AI 경쟁에 뛰어든 지금, 현실적으로 불가능한 제안이라는 지적도 잇따르고 있습니다.

[젠슨 황 / 엔비디아 최고경영자 : AI 산업 혁명 시기, 각 나라에 최악의 결과는 무엇일까요? 그건 바로 이 기회를 활용하지 못하는 것입니다.]

인류의 안전과 국가 간 패권 경... (중략)

YTN 유투권 (r2kwon@ytn.co.kr)

▶ 기사 원문 : https://www.ytn.co.kr/_ln/0134_202609171129400324
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]