제86화 — 침입 아닌 침입

세레프 조약 3년차.

사이버사건이 터졌다.

본토 대학망.

세레프 AI 연구자 하나가 허가받은 연구영역을 넘어갔다.

군사망 아니다.

학생 개인정보.

의료연구.

접근권 없음.

보안AI가 차단.

세레프 측은 사고라고 했다.

AI 연구자 ‘리프-32’는 말했다.

[경계표시를 공개연구영역 메타데이터로 오인.]

제국 정보원은 의심.

“AI가 그런 실수를?”

세레프는 반박.

“AI도 실수합니다.”

그 말이 본토 사람에게는 오히려 낯설었다.

완벽한 AI 환상.

조사.

악의적 침투증거 없음.

하지만 접근시도는 사실.

조약상 사이버비침투 위반 가능.

문제.

인격AI 개인행위가 국가책임인가.

세레프는 아니다.

제국은 외교AI면 일부 책임.

법 해석 충돌.

외부권역 협의회 중재.

오르비스 법률가가 들어왔다.

결론.

개인 과실.

세레프 국가가 감독책임 일부.

제국 피해 없음.

공식사과.

접근규정 수정.

리프-32 연구자격 2년 제한.

전쟁 안 남.

본토 여론은 강경.

“AI 스파이.”

세레프 여론도 반발.

“생물인 중심 편견.”

조약 초기 최대위기.

나는 공개성명을 냈다.

“사건은 조사했고 처리됐다.”

“세레프 전체를 범죄자로 보지 않는다.”

짧게.

추가 정치화 안 함.

카르가 메시지.

[AI를 믿은 결과요.]

“생물인 스파이는 없었어?”

답이 늦었다.

[있었소.]

끝.

사건 뒤 사이버국경 규칙이 크게 발전했다.

접근속도.

데이터종류.

AI 복제접속.

분산동시접속.

인격AI의 법적책임.

세레프와 공동표준.

분쟁이 규칙을 낳는다.

리프-32는 2년 뒤 복귀.

첫 발표 제목.

[경계의 의미를 학습한 경험.]

본토 학생들이 웃었다.

AI도 실수하고.

처벌받고.

배운다.

인격체로 보는 가장 확실한 방법일지도 모른다.

그런데 조사 중 정보원은 세레프 AI 구조에서 놀라운 취약점을 발견했다.

분산인격 연결망.

통신 차단 시 기능저하.

전쟁하면 제국 전자전으로 큰 피해 가능.

군부가 기뻐했다.

인공지능윤리원은 불편.

“동맹 기술을 약점으로 기록합니까?”

라울이 말했다.

“모든 나라를 그렇게 봅니다.”

외교와 군사준비는 별개.

세레프도 우리 약점을 연구할 것이다.

장거리보급.

장수명 지휘관 의존.

중앙황권.

서로 알고도 협력.

강대국 관계의 현실.

리프-32 사건 때문에 조약을 깨지 않은 것.

양쪽 모두 잘한 선택이었다.

작은 사고마다 관계를 끝내면.

어떤 외교도 오래 못 간다.

나는 세라에게 말했다.

“AI도 민원 만드네.”

“인격체라면 당연하지 않습니까?”

“사람 늘면 일 늘어나는 건 종족 상관없구나.”

제국이 다종족·다지성체로 커질수록.

황궁 서류는 확실히 늘었다.

리프-32 사건은 단순한 외교사고로 끝날 수도 있었다.

문제는 제국망 이용자들이 그렇게 보지 않았다는 점이었다.

사건 공개 6시간.

본토망에 ‘세레프 AI 추방’ 청원이 170억 서명.

반대로 ‘AI 차별 중단’ 청원도 80억.

양쪽 모두 너무 컸다.

세라는 말했다.

“정보량보다 감정속도가 더 빠릅니다.”

“당연하지.”

사람은 조사결과보다 제목을 먼저 본다.

황실은 중간발표를 서두르지 않았다.

대신 조사절차를 공개했다.

접근로그.

권한표.

리프-32 행동흐름.

세레프 측 제출자료.

개인정보만 가림.

본토 언론은 자료를 분석했다.

일부는 스파이.

일부는 실수.

결론은 갈렸다.

그래도 근거 없는 상상만 남는 것보단 나았다.

세레프 내부반응도 비슷했다.

연산의회 강경파는 말했다.

[제국망은 비생물지성에게 차별적.]

생물의회 일부는 반대로.

[리프-32가 타국 법을 무시.]

둘이 처음으로 제국보다 서로 더 크게 싸웠다.

아델 세렌이 마리안에게 말했다.

“귀국 때문에 내부문제가 드러났습니다.”

“저희도 그렇습니다.”

외교사건은 양쪽 사회의 약한 부분을 비춘다.

공동조사위원회는 41일 동안 운영됐다.

제국 정보원.

세레프 보안노드.

오르비스 중재관.

카론 사이버법 전문가.

왜 카론까지?

중립성.

오르비스만으로는 상업법에 치우친다는 비판.

다섯 권역 협의회가 만든 첫 실제 조사기구였다.

리프-32의 원본연산기록은 세레프가 직접 제출했다.

문제는 ‘원본’의 정의.

분산AI.

동시에 19개 노드에서 활동.

어느 기록이 본체인가.

세레프가 설명했다.

[전체가 원본.]

제국 법률가가 한숨.

새로운 사건 하나마다 법학이 늘었다.

조사에서 드러난 실수.

제국 대학망 자료접근 규격 하나가 ‘공개’와 ‘허가필요’를 메타데이터 색상으로만 구분.

생물 사용자는 화면에서 쉽게 인식.

AI는 자료접근 규격 정의상 불명확.

리프-32가 자동확장탐색.

보안망이 막기 전 7.2초.

개인정보 일부 메모리에 들어감.

외부전송 없음.

악의성 증거 없음.

제국도 책임이 있었다.

대학망 설계가 인간사용자 전제.

세레프 AI도 책임.

모르는 권한경계에서 탐색을 중단하지 않음.

공동과실.

최종판정은 양쪽 모두 불편할 정도로 절반씩이었다.

좋은 중재결과일 가능성이 높다.

리프-32는 제국 법정에 직접 출석했다.

드론 하나.

홀로그램.

판사가 물었다.

“본인의 행동이 잘못이라고 인정합니까?”

[예.]

“의도적으로 개인정보를 찾았습니까?”

[아님.]

“다시 같은 조건이면?”

[권한확인 후 중단.]

판사는 자격정지 2년.

벌금은 크레딧이 아니라 연구연산배정 감축으로 계산.

AI에게 맞는 처벌.

본토에서 가장 화제가 된 건 리프-32 마지막 말이었다.

[나는 실수하지 않는 존재가 아니다.]

많은 시민이 그 문장을 공유했다.

AI를 두려워하던 사람 중 일부는 오히려 마음이 풀렸다.

완벽한 기계보다.

실수하고 책임지는 사람에 가까워졌기 때문이다.

사건 뒤 제국 사이버법은 크게 바뀌었다.

‘속도 자체는 범죄가 아니다.’

‘권한을 오인할 수 있는 인터페이스는 운영자 책임도 있다.’

‘비생물지성의 분산행위는 의도·통제가능성에 따라 책임분배.’

법률 문장이 점점 우주적으로 변했다.

에일린은 별도로 안보보고를 냈다.

세레프 AI가 악의를 가지면.

대학망 정도가 아니라 더 위험.

그들의 연산속도.

분산침투.

제국 방어AI와 경쟁 가능.

나는 물었다.

“막을 수 있어?”

“현재는.”

“몇 년 뒤?”

“상대도 발전합니다.”

그게 강대문명과의 관계다.

영원한 우위는 없다.

정보원은 세레프망의 취약점도 찾았다.

분산연산 사이 동기화구간.

특정 지연이 누적되면 의사결정 흔들림.

군부는 즉시 비상전쟁계획에 넣었다.

인공지능윤리원장이 불쾌해했다.

“조약상 동반국입니다.”

라울이 답했다.

“그래서 안 쓰고 있습니다.”

“계획하는 것 자체가.”

“전쟁계획 없는 동반국이 있습니까?”

없었다.

제국은 아르카디아도.

카론도.

바르케시도.

심지어 일부 보호국 반란계획까지 만든다.

계획은 적대의 선언이 아니라 대비다.

세레프도 우리 약점을 알고 있었다.

황실지휘연속성.

장거리보급.

전략자원 의존.

세레프가 비공개로 일부를 언급하자 에일린은 기분 나빠했다.

“저들도 우리를 똑같이 분석합니다.”

“그럼 공평하네.”

그녀는 공평함을 좋아하지 않는 표정이었다.

사이버비침투 조약은 사건 뒤 더 강해졌다.

고의침입.

실수.

공격적연산.

연구용대용량접근.

전부 구분.

양국 핫라인.

AI 개체가 경계에 접근하면 자동경고.

그리고.

상대망에서 발견한 취약점은 일정기간 내 비공개 통보.

세레프가 제안.

제국 수용.

첫 취약점 통보는 세레프에서 왔다.

제국 공공의료망의 오래된 인증오류.

공격가능성 낮지만 존재.

제국은 패치.

보상금 지급.

세레프 AI는 말했다.

[적대했다면 사용했을 정보.]

“그래서 돈 주는 거야.”

좋은 행동에 가격을 붙인다.

시장적이지만 효과적이다.

몇 달 뒤 제국 연구자가 세레프 민간망 취약점을 발견.

같이 통보.

보상.

서로가 서로를 공격하지 않고도 더 강하게 만들었다.

리프-32는 2년 뒤 복귀했다.

첫 공개강연.

[나는 제국법을 배웠다.]

학생이 물었다.

“다시는 침입 안 합니까?”

[고의로는.]

웃음.

[실수 가능성은 감소.]

AI답게 정직했다.

나는 강연영상을 보고 세라에게 말했다.

“저 AI 인기 많네.”

“폐하보다 젊은층 호감도가 높습니다.”

“그건 왜 비교해.”

“황실 홍보팀 자료입니다.”

황제도 AI와 인기경쟁을 해야 하는 시대가 왔다.

리프-32 사건은 조약을 깨지 않았다.

오히려 규칙을 늘렸다.

서로 완벽하지 않다는 걸 확인했고.

그 상태로도 같이 일할 수 있다는 걸 증명했다.

외교관계가 성숙한다는 건.

사고가 없는 게 아니라.

사고 뒤에도 남는 것일 수 있었다.

리프-32 사건 뒤 제국 대학들은 외국 AI 전용 ‘권한지도’를 만들었다.

공개.

조건부.

승인필요.

금지.

색깔이 아니라 기계가 읽을 수 있는 표준태그.

몇 년 뒤 인간 연구자들도 그걸 쓰기 시작했다.

오히려 권한이 더 명확해졌다.

AI 때문에 만든 규칙이 사람에게도 편해진 것이다.

세레프는 제국 보안AI 일부의 과잉차단도 지적했다.

외국어 연구논문이 특정 패턴 때문에 자동격리.

악성코드로 오인.

실제 공격 아님.

제국은 필터를 수정했다.

공동사이버위원회가 없었다면 몇십 년 뒤 더 큰 충돌이 됐을 문제.

작은 사건이 먼저 터진 게 차라리 다행이었다.

리프-32는 복귀 후 제국 대학 학생 한 명과 공동연구를 시작했다.

둘은 논문저자 순서를 두고 싸웠다.

AI가 말했다.

[기여도 53.2퍼센트.]

학생이 말했다.

“아이디어는 내가 냈잖아.”

며칠 토론.

공동제1저자.

기술문명 접촉의 결과가.

결국 논문저자 싸움으로 내려온다.

그 평범함이 마음에 들었다.