(서울=뉴스1) 김민석 기자 = 인공지능(AI) 기술의 기하급수적 발전에 힘입어 인간 수준을 넘어선 초지능(Super Intelligence) 개발 단계에 진입했다는 주장이 나오면서 '인간의 통제력 상실'이란 근본적 우려가 제기되고 있다. 2일 IT 업계에 따르면 마크 저커버그 메타 CEO는 최근 연례 서한과 페이스북 글·인스타그램 릴스 영상 등을 통해 초지능 구현이 가시권이라고 선언했다. 저커버그는 "지금까지 몇 달간 동안 AI 시스템이 스스로를 개선하는 모습을 목격했다"며 "(페이스북·인스타그램 등에서 수많은 AI 알고리즘을 살핀 결과) '초기 자기개선'(바다이야기 pc버전 self-improvement)의 징후를 보이기 시작했다"고 말했다. 이어 "초지능은 다른 차원의 새로운 안전 우려를 제기할 것이기에 위험을 완화하기 위해 엄격해야 한다"며 "초지능 기술 혜택은 전 세계에 공유될 것이지만, 오픈소스로 공개하는 것은 신중히 선택해야 한다"고 선을 그었다. 메타가 지금까지 라마(Llama) 무료게임 시리즈를 통해 견지한 오픈소스 정책에서 폐쇄형 전략으로 전환하겠다는 중대 변화를 의미한다. 저커버그는 지난달 중순 초지능 실현 시기와 관련 "2년이나 5년, 또는 7년이 걸릴 수도 있지만, 우리는 2~3년 이내에 준비될 것처럼 사고하고 베팅해야 한다"고 언급했다.
민박사 샘 올트먼 오픈AI CEO가 팟캐스트에 출연해 "GPT-5 테스트 일부 세션에선 매우 긴장했고 방 안에 어른이 없는 것 같은 느낌을 받았다"고 말하고 있다.(영상 갈무리)
샘 올트먼 오픈AI CEO도 오픈웨이트(오픈소스) 모델을 올해 7월 공개한다고 예고했다가 추가 안전 테스트가 필요하다며놀이터 릴박스 출시를 연기했다. 차세대 통합모델 'GPT-5'(GPT시리즈+o시리즈)도 안전성 기준 충족을 이유로 출시를 계속 지연하다가 이르면 이달 중 출시한다. 회사는 오픈웨이트 모델도 GPT-5 출시 전 공개할 계획이다. 올트먼은 최근 팟캐스트 방송(This Past Weekend)에 출연해 "GPT-5 테스트 중 두려움을 느꼈한국사이버결제 주식 다"며 "맨해튼 프로젝트와 같은 순간이었다"고 털어놨다. 그는 "테스트 일부 세션에선 매우 긴장했고 시작할 때 방 안에 어른이 없는 것 같은 느낌을 받았다"며 "AI 개발자들도 핵폭탄을 만든 맨해튼 프로젝트 과학자들처럼 '우리가 뭘 만든 거지'라는 질문을 던지게 될 수도 있을 것"이라고 말했다. 올트먼은 GPT-5가 언어 이해력, 추론 능력, 콘텐츠 생성 정확도 등 전반에 혁신적 개선을 달성한 모델이라고 강조해 왔다.
데미스 허사비스 구글 딥마인드 CEO가 2024 노벨상 시상식에서 스웨덴 칼 16세 구스타프 국왕으로부터 노벨 화학상을 수상하는 모습. 2024.12.11/뉴스1 ⓒ News1 박지혜 기자
글로벌 리더와 학계는 오래전부터 AGI 또는 초지능 구현 시 인간의 통제력 상실 위험을 강하게 경고해 왔다. 노벨화학상 수상자(알파폴드 개발 공로)인 데미스 허사비스 구글 딥마인드 CEO는 올해 6월 CNN과의 인터뷰에서 AI 시스템의 통제 불능 상황이 일자리 대체 문제보다 더 심각한 결과를 초래할 수 있다고 경고했다. 허사비스는 "나쁜 의도를 가진 사람들이 AI를 악용할 가능성이 있다"며 "AI 기술이 선한 목적에만 활용되도록 글로벌 합의가 필요하다"고 했다. 맥스 테그마크 MIT 물리학과 교수는 MIT 학생 3명과 공동 저술한 논문에서 "초지능 AI가 인간 통제를 벗어날 확률은 90% 이상"이라며 선도 AI 기업들이 철저한 책임감을 가질 것을 촉구했다. ideaed@news1.kr<용어설명>■ 초지능(Super Intelligence)초지능(Super Intelligence)은 인간의 지능을 모든 분야에서 뛰어넘는 인공지능 시스템을 말한다. 과학·예술·의학·공학·사회·감정 등 대부분 영역에서 인간보다 월등한 문제 해결 능력과 창의성·추론 능력을 갖출 것으로 보인다.■ 자기개선자기개선(Self-Improvement)이란 인공지능(AI) 모델이 인간의 개입 없이 내부 피드백이나 자체 학습 메커니즘을 통해 점진적으로 성능·능력을 향상시키는 과정을 말한다. 마크 저커버그가 언급한 초기 자기개선의 징후는 페이스북·인스타그램 등에서 작동 중인 여러 알고리즘이 자체적으로 학습 루프를 돌리며 스스로 최적화를 시도했다는 의미다.■ AGIAGI(Artificial General Intelligence·범용인공지능)은 인간과 유사한 수준의 지능을 가진 인공지능으로 인간이 수행할 수 있는 모든 지적 작업을 이해하고 학습할 수 있는 능력을 갖춘 시스템을 말한다. AGI는 특정 분야에 한정된 현재의 좁은 인공지능(Narrow AI)과 달리 다양한 분야와 상황에 유연하게 적응하며 복잡한 문제 해결하고 창의적 작업·추론·학습·이해 등 인간의 인지 능력을 포괄적으로 모방하는 인공지능을 목표로 한다.
