Hacker News · blog.google · 10월 1일 05:00
출처 이미지 · Hacker News · blog.google
구글이 긴 작업과 보안 취약점 수정을 겨냥한 Gemini 4 Argon을 신뢰할 수 있는 사이버 방어 담당자에게 먼저 제공해요.
눈에 띄는 건 한 번에 생성할 수 있는 분량이에요. 최대 출력 100만 토큰으로 늘렸는데, 토큰은 AI가 글을 세는 단위예요. 이전 출력 한도인 6만 4천 토큰보다 길어져서, 여러 단계를 거치는 코딩 작업을 이어서 처리하도록 설계했대요.
구글은 실제 장기 소프트웨어 개발 작업을 평가하는 **DeepSWE v1.1에서 77.9%**를 기록했다고 밝혔어요. 보안 취약점을 수정하는 능력을 재는 CWE-bench v1에서는 68%로 공동 1위였대요. 다만 이런 평가 점수가 실제 코드의 안전성을 보장하진 않으니, 수정 결과는 별도로 검토해야 해요.
지금은 Fairwind 프로그램의 신뢰할 수 있는 사이버 방어 담당자와 일부 테스터에게 단계적으로 제공하고 있어요. 구글은 안전장치를 더 점검한 뒤 유료 API 고객과 Google AI Ultra 구독자부터 접근을 넓힐 계획이래요. 공개 시점은 정해지지 않았어요.
※ 현재는 제한된 대상만 쓸 수 있어요. 발표된 도입 가격은 입력 100만 토큰당 2달러, 출력은 10달러예요.
원문 열기 ↗ Hacker News · blog.google
OpenAI · 9월 30일 19:30
OpenAI는 자사 모델의 보호된 추론 정보를 다른 모델 학습에 쓰려는 조직적 추출 시도를 차단했다고 밝혔어요.
이번 사례에서 말하는 모델 증류는 한 모델의 출력이나 추론을 가져와 다른 모델을 학습·개선하는 일이에요. OpenAI에 따르면 공격자는 데이터베이스에 침입한 게 아니라 모델과 주고받는 대화를 조작해 숨겨진 추론이 드러나도록 시도했어요. 회사가 제시한 요청·계정 수는 성공한 추출 건수가 아니라 시도 규모예요.
OpenAI는 관련 계정을 제한하거나 차단하고, 가입 절차와 탐지 체계, 추론 정보 보호 조치를 강화했다고 해요. 개발자라면 모델 출력이 다른 모델로 전달되거나 저장된 응답이 다시 재생되는 경로를 점검해 볼 만해요. 누가 얼마나 정보를 실제로 얻었는지는 이 발표만으로 확정할 수 없어요.
※ 새로 출시된 사용자용 기능은 없어요. 사건 범위와 행위자에 관한 설명은 OpenAI의 조사 결과예요.
함께 확인한 원문 ↗ Disrupting a coordinated model-distillation campaign