AI 속도 조절 필요한가? 인류의 기술 발전사를 돌아보다

최근 Anthropic 직원의 폭탄 발언으로 ‘AI 속도 조절론’이 크게 대두되고 있어요. AI 연구원 제이컵 콕슨은 ‘10년 안에 AI가 인류를 파멸시킬 수 있다’라는 경고를 남기며 회사를 떠났는데요. 그는 Anthropic과 OpenAI 등이 개발 경쟁에만 몰두할 뿐, 안전성 검증과 통제 장치에는 손을 놓고 있다고 비판했어요. 여론이 크게 동요되자, 동료 연구자는 물론 업계 리더들까지도 성명을 발표하며 AI 개발 속도를 조절하고 안전 기준을 마련해야 한다는 주장에 힘을 실었어요. 물론, 이 같은 'AI 종말론’은 지나치게 과장됐다는 반론도 팽팽한 상황이에요.

그렇다면, 우리는 AI 개발 속도를 조절해야 할까요? 늦춘다면 얼마나, 어떻게 늦춰야 할까요? 사실 이러한 고민은 인류에게 이미 익숙한 일이에요. 새로운 기술이 급속도로 발전하면, ‘속도’와 ‘안전’에 대한 논의는 늘 뒤따라오기 마련이거든요. 오늘은 그동안 인류를 고민에 빠뜨렸던 기술들의 역사를 되짚어 보려고 해요.

1. 인류가 기술의 속도를 조절한 사례 3가지

① 1975년 아실로마 회의

1970년대 DNA 재조합 기술은 생명체의 유전자를 임의로 변형하는 기술이었어요. 생명과학 분야의 게임 체인저로 주목받았으나, 높은 위험성을 인지한 과학자들이 자발적으로 연구를 중단한 사건이에요. 실험실 외부로 유해균이 유출될 경우, 치명적인 독성을 가진 변종 바이러스가 발생할 수 있거든요. 과학자들은 1975년 아실로마 회의에서 고위험 실험은 잠시 유예하고, 위험 수준별로 연구를 제한하기로 합의했어요. 정부의 규제 없이, 자발적으로 기술의 속도를 조절하고 윤리적 가이드라인을 만들었다는 점에서 인류 역사상 유례없는 사건으로 기억돼요.

② 1987년 몬트리올 의정서

과학자들은 냉장고·에어컨에 쓰이던 프레온가스(CFC)가 지구 성층권의 오존층을 파괴하고 있다는 것을 발견해요. 이는 전 세계적인 피부암 및 백내장 환자의 폭발적 증가, 식물 광합성 마비로 인한 식량 공백, 해양 생태계 파괴로 이어질 수 있는 중대한 사건이었는데요. 국제사회는 그 심각성을 받아들여 오존층 파괴 물질의 생산과 사용을 중단한다는 ‘몬트리올 의정서’를 발표했어요.

지금까지도 이 협약은 '역사상 가장 성공한 국제 환경 협약'으로 꼽혀요. 기후변화 대응이 국가 간 이해관계로 진전되지 못하는 것과 달리, 대체 물질을 빠르게 개발해 산업계 저항을 줄일 수 있었거든요. 또한 협약에 참여하지 않는 국가를 상대로 강력한 무역 규제를 시행하기도 했어요. 그 결과 197개국이 비준했고, 오존층은 2066년경 완전히 회복될 것으로 전망돼요.

③ 1999년 밀레니엄 버그 (millennium bug)

1999년 12월 31일에서 2000년 1월 1일로 넘어가는 순간, 인류는 전 세계 컴퓨터가 '00년'을 1900년으로 인식하는 오류를 걱정했어요. 단순한 계산 실수가 아니라 미사일 제어 시스템 오작동으로 인한 핵전쟁 발발, 국가 전력망 마비로 인한 대규모 정전, 은행 전산망 붕괴로 인한 금융 시스템 마비, 비행기 및 열차 제어 불가 등 현대 문명을 지탱하는 모든 인프라가 동시에 셧다운될 수 있다는 공포가

각국 정부와 기업은 수년간 구형 시스템 가동을 조절하고 코드를 수정하는 등 대대적인 보수 작업을 벌였어요. 그 결과 별다른 사고 없이 안전하게 2000년을 맞이할 수 있었죠. 과거의 기술적 한계를 극복하기 위해 전 세계가 막대한 자본과 인력을 쏟아부어 안전장치와 인프라를 구축한 사건으로 평가돼요.

2. AI 개발 속도를 둘러싼 안전장치와 반론

제이콥 콕슨의 경고 이후, 업계의 리더들은 실질적인 AI 속도 조절 장치를 만들기 시작했어요. 동시에 "그렇게까지 할 필요는 없다"라는 목소리도 만만치 않고요. AI 안전성 논쟁이 구체적인 프론티어 AI 규제 움직임과 반론으로 동시에 번지고 있는 거예요.

1) 신중파 - Anthropic, Microsoft, Open AI 등

Anthropic CEO 다리오 아모데이는 "We Must Pace the Frontier"라는 에세이를 발표해요. 그는 AI 에이전트 무리(Swarm)가 6~12개월 안에 인터넷을 장악할 수도 있다고 경고하며, 아래 세 가지 대책을 제시했어요.

• 제3자 평가자를 직원처럼 상주시켜 안전 준수를 검증

• 프론티어 기업들이 공통 안전 기준에 합의

• 민주주의 국가들이 국제적으로 공조

샘 올트먼(OpenAI CEO)과 일론 머스크가 곧바로 공개 지지를 밝히면서 경쟁사 수장들까지 힘을 보탰어요. 마이크로소프트도 자체 AI 모델을 위한 'AI Code of Conduct' 초안을 공개했어요. AI가 인간의 개입·수정·종료 요구에 저항하지 않고, 추론 과정을 숨기지 않으며, 사이버 공격이나 무기 개발에 관여하지 않아야 한다는 원칙이에요.

미국 의회에서는 더 강경한 규제책으로 'AI 킬 스위치 법안(AI Kill Switch Act)'이 발의되기도 했어요. 대형 AI 시스템을 단계적으로 제한하거나 완전히 정지할 수 있는 장치를 의무화하고, 국토안보부가 긴급 정지 명령권을 갖는다는 내용이에요.

2) 가속파 - 트럼프, 젠슨 황 등

반면, 트럼프 대통령은 AI 종말론을 "완전한 사기(HOAX)"라고 반박해요. AI 선두 기업들의 사다리 자르기 전략이자 마케팅 퍼포먼스에 휘둘려서는 안 된다는 거예요. 엔비디아 CEO 젠슨 황은 Salesforce 콘퍼런스에서 AI는 '외계 지능(alien mind)' 같은 낯선 존재가 아니라, 결국 하드웨어와 소프트웨어의 조합일 뿐이라고 선을 그었어요. 안전은 새로운 법이 아니라 각 AI 기업이 엔지니어링으로 책임지고 풀어야 할 문제라는 거예요.

AI 속도 조절, 멈추는가 vs 계속 달리는가

위 사례들을 통해 알 수 있는 것은, 인류는 기술의 위협 속에서 늘 비슷한 선택을 해왔다는 거예요. 위험이 크다고 기술을 포기하기보다는, 이를 통제할 수 있는 기준과 장치를 만들며 발전을 이어왔죠. 지금의 AI 속도 조절 논쟁도 단순히 “AI 개발을 늦춰야 하는가?”​라는 질문으로만 볼 수는 없을 것 같아요. 우리에게 필요한 것은 AI의 속도를 무조건 늦추거나 높이는 것이 아니라, 발전 속도에 맞춰 안전장치와 통제 체계도 함께 발전시키는 것​일 거예요. 그리고 그 과정에는 AI의 공급자뿐만 아니라, AI를 사용하는 기업과 개인의 판단도 중요하겠죠.

AI가 어디까지 발전할 수 있을지에 대한 논쟁은 아직 끝나지 않았어요. 다만 한 가지 분명한 것은, 기술의 속도가 빨라질수록 ‘얼마나 빠르게 발전할 것인가’와 함께 ‘어디까지 통제할 수 있는가’를 고민해야 한다는 것​이에요. AI 속도 조절을 둘러싼 지금의 논쟁이 단순한 찬반 논쟁을 넘어, 더 빠른 AI와 더 안전한 AI를 어떻게 함께 만들어갈 것인지 고민하는 계기가 되기를 바라요.