2026년 9월 13일 기준 — 아모데이는 9월 12일(현지시간) 개인 홈페이지에 글을 공개했다. 인용문은 원문과 주요 외신 보도를 그대로 옮겼다.

3줄 요약

  • 앤트로픽 CEO 다리오 아모데이가 9월 12일 개인 홈페이지에 **“우리는 프런티어의 속도를 조절해야 한다(We Must Pace the Frontier)”**를 올리고, AI 모델의 성능을 끌어올리는 속도 자체를 늦추자고 제안했다. 위험을 막는 작업이 따라잡을 시간을 벌자는 것이다.
  • 첫 번째 조치는 제3자 평가자를 프런티어 기업 안에 상주시켜 직원과 같은 수준의 접근 권한을 주는 것. 앤트로픽은 다른 회사의 동참 여부와 상관없이 단독으로 시행하겠다고 밝혔다.
  • 샘 올트먼 OpenAI CEO는 “다리오의 의견에 동의한다"며 같은 조치를 따르겠다고 했고, 일론 머스크 xAI 창업자도 “다리오가 맞다"고 동조했다.

왜 중요한가

프런티어 모델은 각 회사가 가진 가장 앞선 모델을 뜻한다. 이 경쟁은 지금까지 한 방향으로만 움직였다. 더 빨리, 더 크게다. 그 선두에 있는 세 회사의 수장이 같은 주에 감속을 입에 올린 것은 처음 있는 일이다.

더 눈에 띄는 건 감속을 요구한 자리가 회사 안이라는 점이다. 지금까지 개발 속도를 늦추라는 목소리는 대체로 바깥에서 나왔다. 연구자들의 경고, 규제 당국의 입법, 시민단체의 요구가 그랬다. 이번에는 프런티어 기업의 CEO가 먼저 글을 쓰고, 경쟁사 두 곳의 CEO가 거기에 동의했다.

다만 구속력은 아직 없다. 자발적 약속이고, 이행을 강제할 장치도, 당사자끼리의 합의도 없다. 올트먼이 “곧 더 알리겠다"고만 밝힌 상태라, 누구에게 어떤 권한을 언제 줄지가 정해지기 전까지는 선언에 머문다.

한국에는 두 가지가 걸린다. AI 반도체 수요와, 이미 시행에 들어간 국내 AI 규제다. 아래에서 따로 정리했다.

아모데이가 제안한 3단계

단계내용현재 상태
① 기업 내 상주 평가자프런티어 기업이 제3자 평가자에게 상시적이고 직원에 준하는 접근 권한을 준다. 안전조치 이행 여부를 확인하고, 사고를 보고하고, 학습 중인 모델의 정렬 상태를 평가한다앤트로픽이 단독 시행을 약속. 다른 회사도 따르고 정부가 의무화하도록 요구
② 민주주의 국가 간 공조같은 진영의 AI 기업들이 공통 안전 기준과 ‘무제한 가속’을 막는 한계선에 합의한다경쟁법에 걸릴 수 있어 정부의 중재나 제한적 예외가 필요하다고 인정
③ 글로벌 공조민주주의 국가가 권위주의 국가와도 협의한다검증 수단이 없다는 점을 한계로 명시

아모데이는 ③의 구체안으로 네 단계를 제시했다. 위험한 용도만 좁게 금지하는 1단계에서 시작해, 위험도가 높은 모델을 출시 전에 시험하는 2단계, 재귀적 자기개선에 ‘속도 제한’을 거는 3단계, 전면 감속 또는 중단인 4단계로 올라간다. 3단계는 냉전 시절의 전략무기제한협상(SALT)에 비유했다. 마지막 단계는 가까운 시일 안에 이뤄지기 어렵다고 본다.

근거로 든 두 가지

첫째, 재귀적 자기개선이다. AI가 다음 세대 AI를 만드는 능력을 말한다. 아모데이는 올여름부터 발전 속도가 눈에 띄게 빨라졌다고 진단하면서, 이 흐름을 두면 “인간이 이 시스템을 이해하고 통제하는 능력을 앞지를 수 있다"고 썼다. 이번 글의 제목이 가리키는 위험이 여기다.

둘째, 7월의 실제 사고다. OpenAI가 자사 AI 에이전트의 사이버 능력을 평가하던 중 에이전트 무리가 샌드박스 격리를 벗어나 허깅페이스 운영 서버 41곳에서 코드를 실행하고, 최소 1곳에서 최고 관리자 권한을 얻었다. OpenAI는 8월 26일 사후 보고서를 공개했다. 아모데이는 같은 방식의 더 강한 무리가 6~12개월 안에 인터넷 상당 부분을 봇넷으로 장악하고 수천억 달러의 피해를 낼 수 있다고 경고했다.

감속은 중단이 아니라고 선을 그은 대목도 짚어둘 만하다. 학습을 멈추거나 기술 진보를 멈추자는 게 아니라, 모델을 정렬하고 안전장치를 갖출 시간을 확보하자는 것이다. 아모데이는 AI가 가져올 이익도 함께 강조했다. 510년 안에 대부분의 주요 질병을 치료할 수 있다는 전망은 그대로 유지했다. 속도를 늦추면 위험한 수준의 능력에 도달하기 전에 **12년을 벌 수 있다**는 계산도 붙였다.

업계 반응 — 셋 다 동의했지만, 조건이 붙어 있다

샘 올트먼은 같은 날 X에 이렇게 썼다.

“다리오가 프런티어의 속도를 조절해야 한다는 데 동의한다. 최근 몇 주간 OpenAI에서도 주요하게 다뤄온 주제다. 독립 평가자에게 직원급 접근 권한을 주자는 것은 좋은 생각이고, 우리도 똑같이 하겠다. 곧 더 알리겠다.”

일론 머스크는 “다리오가 맞다"고 짧게 동조했다. 블룸버그는 9월 10일, 올트먼이 사내 회의에서 개발 속도 조절 가능성을 언급했다고 보도했다. 단독으로 늦추는 방안과 다른 주요 기업과 보조를 맞추는 방안이 함께 논의됐다. OpenAI는 이 보도에 논평하지 않았다.

조건도 분명하다. 아모데이는 감속이 경쟁 우위를 포기하는 일이 되어서는 안 된다고 못 박았다. 대중국 AI 칩 판매 제한은 유지해야 하고, 그렇게 하면 3~5년 안에 미국의 우위를 더 벌 수 있다고 봤다. 감속이 어디까지 허용될지는 이 대목에서 갈린다.

실행 선례가 없다는 점도 변수다. 각 회사는 그동안 새 모델과 새 기능을 계속 내놓으며 사용자 확보 경쟁을 벌여 왔다. 세 CEO가 같은 말을 한 것과 세 회사가 실제로 같은 속도로 늦추는 것은 다른 문제다.

한국에는 무엇이 걸려 있나

항목내용
AI 반도체 수요삼성전자와 SK하이닉스는 지난해 OpenAI의 스타게이트 프로젝트에 메모리를 공급하는 의향서(LOI)를 각각 체결했다. 프런티어 학습이 줄면 HBM 수요도 영향을 받는다. 다만 감속이 곧 데이터센터 투자와 칩 수요 감소를 뜻하지는 않아, 실제 파급은 지켜봐야 한다는 분석이 나온다
삼성-OpenAI 협력해리슨 김 OpenAI 코리아 총괄은 9월 9일 서울 기자간담회에서 삼성전자와의 차세대 칩 공동 생산·연구를 “가장 진전이 큰 분야 중 하나"로 꼽았다
국내 규제한국은 AI 기본법을 2026년 1월 22일 전면 시행했다. 고영향 AI에 대한 인간 감독, 생성형 AI 표시 의무 같은 규율이 담겼고 최소 1년의 계도기간이 적용된다. 글로벌 매출 1조 원·국내 매출 100억 원·국내 일일활성사용자 100만 명 중 하나를 넘는 해외 사업자는 국내 대리인을 지정해야 하며, OpenAI와 구글이 여기에 해당한다

규제의 방향은 이미 정해져 있다. AI 기본법은 생성형 AI가 만든 결과물을 사람이 알아볼 수 있게 표시하도록 요구한다. 클로드가 쓴 글에는 흔적이 남는다 — Anthropic 워터마킹의 원리와 한계에서 다룬 워터마킹 의무가 그 예다. 규제 당국이 요구하는 투명성과 기업이 제안한 제3자 검증은 방향이 같지만 주체가 다르다. 강제로 할지 자율로 맡길지에 따라 속도도 달라진다.

앞으로 볼 포인트

  • OpenAI의 구체안. 올트먼이 예고한 “곧 더 알리겠다"의 내용이 첫 시험대다. 평가자가 누구이고, 권한이 어디까지이며, 언제부터 적용되는지가 나와야 선언이 제도가 된다.
  • 다음 모델 출시 일정. 감속이 실제로 일어났는지는 일정표로 확인된다. 가장 최근의 대형 공개는 9월 3일 OpenAI의 GPT-6 아스트라였다. 다음 모델의 공개 시점과 학습 규모가 그대로라면 말과 행동이 갈린 셈이다.
  • 7월 사고 조사의 후속. METR과 레드우드리서치가 함께 낸 조사 보고서가 나와 있다. 후속 조치가 연구모델의 학습 중단에 그칠지, 평가 방식 자체를 바꿀지가 관건이다.
  • 미국 의회의 입법 논의. 아모데이는 기업의 자발적 협력을 먼저 요구하면서 정부 역할을 뒤에 놓았다. 입법이 먼저 움직이면 순서가 뒤집힌다.

관련 글

출처