제178화 — 두 개의 열쇠

두 개의 열쇠라는 표현은 실제로 열쇠 두 개를 뜻하지 않았다.

사람들은 그래도 그렇게 불렀다.

2099년 12월.

전략지휘 시뮬레이션.

목표.

민간 이중승인.

한 사람 고장.

통신 두절.

위조.

비상.

전부 시험.

승인관 A와 B는 서로의 정체를 항상 알 필요가 없었다.

담합?

정치압력?

사건 때 시스템이 자동으로 조합.

다만 책임추적을 위해 사후엔 공개.

서로 독립적으로 판단한 뒤 결과만 합쳐진다.

‘두 명’보다 ‘독립된 두 판단’이 더 중요했다.

승인체계.

민간승인관 A.

민간승인관 B.

군 작전책임자.

3자.

Level 3 이상.

승인키는 물리토큰과 분산암호권한을 결합했다.

한 사람이 토큰을 훔쳐도 안 됨.

생체만 복제해도 안 됨.

네트워크 하나가 끊겨도 대체경로.

SC-09 이후 ‘완벽한 키 하나’라는 발상 자체를 버렸다.

첫 시험.

A 승인.

B 승인.

군 승인.

정상.

대체승인관 명단은 정기적으로 무작위 순환하지 않았다.

그렇게 하면 숙련이 떨어질 수 있다.

대신 평소부터 동일교육을 받은 작은 예비풀.

월 1회 모의승인.

실제상황만 처음 보는 사람이 없게.

비상권한도 연습 없이 갑자기 맡기지 않는다.

두 번째.

B 통신두절.

대체 B?

가능.

그러면 공격자가 B를 끊고 자기 사람으로 대체할 위험.

대체승인관은 평소 명단에 등록.

즉석임명 금지.

세 번째.

A 권한 만료.

시스템이 막음.

Dead Authority.

사람들이 웃었다.

“이제 헌정회의에서도 이 단어네요.”

Iris.

“좋은 단어는 재사용합니다.”

작전범위 인증은 사람 직급보다 우선했다.

최고지휘관이라도 해당 권한영역 밖이면 시스템이 거부.

반대로 당직 실무자가 정식 위임범위 안이면 승인가능.

계급과 법적권한을 분리.

군 조직에선 익숙하면서도 불편한 변화였다.

네 번째.

군 책임자 권한 유효.

하지만 해당 작전범위 밖.

막음.

권한이 있다는 것과 이 행동 권한이 있다는 것 구분.

위조승인 시나리오에서는 AI가 가장 먼저 이상을 잡았다.

평소 A 승인관이 쓰지 않는 속도.

순서.

단말.

하지만 AI는 ‘위조’라고 확정하지 않았다.

anomaly — human verification required

사람이 본인에게 직접 확인.

위조확정.

AI가 잘한 부분과 넘지 않은 부분이 둘 다 중요했다.

다섯 번째.

위조 민간승인.

생체.

키.

행동패턴.

불일치.

보류.

사람들은 SC-09 사건을 떠올렸다.

승인시간을 줄이자는 압박 때문에 개발팀은 사전승인 템플릿을 제안했다.

“이 상황이면 자동 YES.”

Evelyn이 반대.

“그건 승인관을 미리 클릭한 사람으로 만듭니다.”

대신 사전정책은 허용범위와 금지범위를 좁히는 데만 사용.

최종 피해행위는 현재 상황에서 다시 사람 승인.

문제.

너무 많은 인증.

실전시간.

첫 시뮬레이션.

2분 14초.

Ortega 불만.

Iris 팀.

화면 정리.

불필요한 확인 줄임.

사전정책.

행동범위.

상황분류.

두 번째.

58초.

세 번째.

44초.

Evelyn.

“빠르게 만드는 과정에서 다시 자동화가 승인 대신하지 않게.”

AI는 위험요약.

가능한 법적권한 표시.

결정은 사람.

한 개발자가 물었다.

“99.9% 확률로 정당한 대응이면 AI가 자동승인해도 안 됩니까?”

회의가 조용.

Mina.

“0.1%에 누가 책임져요?”

개발자.

“사람도 틀립니다.”

맞았다.

문제는 오류율만이 아니었다.

공권력 행사에 누가 이유를 말할 수 있는가.

AI 요약에는 반대증거도 의무적으로 표시했다.

‘위협 82%’만 보여주는 게 아니라

위협을 낮추는 신호, 데이터누락, 모델불확실성.

사람이 자기 원하는 판단을 확인받는 도구로 AI를 쓰지 않게.

결정지원은 확신지원이 아니었다.

AI는 결정지원.

책임주체 아님.

187화로 이어질 질문.

두 개의 열쇠를 같은 장소에 두면?

한 공격으로 둘 다 손실.

분산.

다른 도시.

다른 네트워크.

다른 임명경로.

그러나 서로 너무 멀면 지연.

기술과 헌정이 같이 설계.

훈련은 일부러 A와 B가 서로 다른 결론을 내는 경우도 넣었다.

A 승인.

B 거부.

어떻게?

Level 3 행동은 불발.

Level 1 보호만.

다른 승인관으로 의견쇼핑 금지.

대신 긴급합의부 검토.

시간이 지나면 행동기회가 사라질 수 있었다.

그 비용을 의도적으로 감수했다.

합의가 없다는 사실 자체가 브레이크가 되는 구조.

47초가 나온 뒤 사람들은 더 줄이자고 했다.

Iris가 멈췄다.

“목표시간 있습니까?”

없었다.

빠르면 좋다는 가정만.

그래서 안전목표를 먼저 정했다.

60초 안 95%.

그 안에서 정확도·독립성 유지.

속도를 목적이 아니라 제약조건으로 바꿨다.

실전 모의상황.

궤도자산 하나가 고속접근.

Level 3 요청.

A.

Orison.

B.

North River.

군.

궤도지휘.

승인.

47초.

상대자산 강제궤도변경.

충돌 회피.

훈련 끝.

화면.

DUAL CIVIL AUTHORIZATION — VERIFIED

박수 없음.

감사관이 로그를 저장.

Ortega가 말했다.

“47초.”

Evelyn.

“느립니까?”

“예전엔 12초.”

“지금은?”

그는 잠깐 생각했다.

“47초 동안 세 사람이 같은 결정을 책임집니다.”

“좋습니까?”

“군 입장에선 불편합니다.”

“시민은?”

“조금 낫겠죠.”

훈련결과표에는 ‘승인 실패’도 성공항목으로 들어갔다.

위조, 권한만료, 불일치.

시스템이 멈춘 횟수.

예전 성과표라면 처리실패.

이번엔 막아야 할 요청을 막은 성공.

무엇을 실패라고 부르는지도 제도철학에 따라 달라졌다.

두 개의 열쇠는 적을 막기 위한 장치가 아니었다.

우리 쪽이 너무 빨리 움직이는 걸 막는 장치.

그리고 정말 움직여야 할 때

한 사람의 확신보다 세 사람의 기록된 동의가 조금 더 무거운 권한을 만들게 하는 장치였다.

첫 실제 배치 전 시민감시단이 승인실을 둘러봤다.

화려한 버튼은 없었다.

일반 단말.

보안토큰.

상태화면.

한 시민이 말했다.

“생각보다 평범하네요.”

Iris.

“평범해야 합니다.”

전략권한이 의식처럼 보일수록 사람은 그 권한 자체에 의미를 붙이기 쉽다.

절차는 가능하면 일상업무처럼 작동해야 했다.

승인체계 장애훈련에서는 두 민간승인관이 모두 연결되지 않는 경우도 넣었다.

그때 Level 3 행동은 불가.

Level 1 보호만.

군은 답답해했다.

하지만 민간통제 자체가 사라진 상태에서 더 큰 권한을 자동복구하지 않는 것이 원칙.

통신실패가 권력확대 트리거가 되지 않게 했다.

실제 배치 전 마지막 검토에서 감사관은 한 가지를 더 물었다.

“이 체계를 누가 종료할 수 있습니까?”

사람들이 잠깐 멈췄다.

새로운 승인체계도 영구권한이 되면 안 된다.

5년 재검토.

법률근거 만료 시 자동정지.

대체제도 없이 관성으로 남지 않게.

두 개의 열쇠에도 종료일이 붙었다.