제89화 — 연산전쟁

세레프와 실제 군사훈련을 하지 않으려던 계획은 오래 못 갔다.

이유.

버그.

세레프 센서망이 미확인 생체군집을 탐지.

그들 외곽성계에서 19광년.

규모 작음.

제국 공동대응협정 발동.

이번에는 전투보다 정보전이 핵심.

버그 유사체가 통신망을 교란.

가짜신호.

함선 수를 수십 배로 보이게 함.

세레프 AI는 즉시 패턴분석.

제국 함대는 물리검증.

둘을 합치자 실체 분리.

세레프 지휘AI가 제국함대에 실시간 전술권고를 보냈다.

문제.

너무 많다.

초당 수천 건.

인간지휘관이 못 읽는다.

제국 전술AI가 중간에서 필터링.

AI와 AI가 먼저 대화.

인간은 결과를 승인.

제국 군사철학이 조금 흔들렸다.

라울은 말했다.

“최종결정은 인간.”

세레프는 물었다.

[왜?]

“책임.”

[AI는 책임을 질 수 있다.]

제국법에서는 일부 가능.

하지만 군사핵심은 아직 인간.

논쟁.

전투 시작.

세레프 함대 2천.

제국 180.

성능.

제국 우위.

지휘AI.

세레프 우위.

합치면.

전투효율 예상보다 18퍼센트 상승.

아델라인이 말했다.

“쓸 만하네.”

세레프 AI가 바로 답했다.

[평가를 돌려준다.]

함교가 웃었다.

AI도 자존심이 있었다.

적은 버그 확정체는 아니었다.

유사체.

그러나 전투 중 일부가 제국 통신패턴을 복제.

세레프 AI가 그걸 더 빨리 알아챘다.

위조명령 차단.

함선 7척이 위험을 피했다.

전투 48분.

적 전멸.

제국 사망 0.

세레프 생물승조원 사망 31.

AI 개체 손실.

143.

이 숫자에서 논쟁 발생.

AI 백업이 있으면 사망인가.

세레프는 일부를 사망으로 분류.

연속성이 끊긴 개체.

백업에서 복원해도 같은 사람이 아니라 후속개체.

제국 시민들은 이해하기 어려워했다.

공동추모식에 AI 이름도 올라갔다.

문자가 아니라 해시값 비슷한 이름.

본토에서 처음 보는 추모명단.

인격AI의 죽음이 사회적으로 실감되기 시작했다.

군사평가.

세레프 AI를 제국군에 직접 통합하면 전투력 상승 가능.

그러나 전략보안 위험.

양국 모두 완전통합 거부.

대신 인터페이스 표준.

정보만 교환.

지휘권 각자.

라울은 보고서를 썼다.

[세레프는 군사량 때문에 동급이 아니다.]

[그러나 연산전에서는 제국이 배울 가치가 크다.]

정확했다.

본토 군부에 AI 지휘권 확대파가 생겼다.

보수파 반대.

상원 청문회.

세레프 사례.

논쟁 장기화.

제국은 천천히 바뀐다.

나는 급하게 결론 내리지 않았다.

AI에게 더 많은 전술권한을 줄 수 있다.

최종전략은 인간.

그 경계가 몇백 년 뒤 어디에 있을지.

모른다.

세레프는 작은 전투 하나로 제국 군사철학에 질문을 던졌다.

함대 3만뿐인 나라가.

1,100성계 제국의 법과 군제를 흔든다.

국력은 규모만이 아니다.

아이디어도 힘이다.

그리고.

전투 잔해에서 새로운 좌표신호.

또 은하 외곽.

이제 우연이라 부르기 어려울 만큼.

버그 유사체들이 같은 방향을 가리키고 있었다.

세레프 외곽 전투는 제국군 내부에 예상보다 큰 충격을 남겼다.

AI 권고를 따른 함대가 더 잘 싸웠다.

데이터.

명확.

군부 보수파도 무시할 수 없다.

상원 군사위원회 청문회.

질문.

“AI에게 발포권을 줄 것인가.”

라울 답.

“현재는 아니다.”

“왜?”

“책임체계가 준비 안 됐습니다.”

기술이 아니라 법이 늦었다.

세레프 대표는 반박자료를 제출.

AI도 법적책임 가능.

처벌.

권한박탈.

연산제한.

소멸형까지.

제국 의원들이 불편해했다.

AI를 처벌하는 방식이 너무 낯설다.

본토 인격AI 단체는 세레프 편.

“책임질 수 있다면 권한도 가능.”

군인단체는 반대.

“죽는 건 승조원.”

맞는 말.

결정과 위험을 누가 지는가.

아델라인은 실전적 입장.

“AI가 더 빨리 맞는 판단을 하면 듣습니다.”

“최종결정은?”

“나.”

단순.

실험제도.

전술AI에게 제한적 자동발포권.

조건.

무인표적.

확정 버그.

인간통신두절.

3초 이내 위협.

민간구역 제외.

매우 좁음.

첫 10년.

사고 0.

전투효율 상승.

범위 조금 확대.

제국은 이렇게 바뀐다.

혁명보다 몇십 년 시험.

세레프는 답답해했다.

공동전투에서 사망한 AI 143개체 문제도 법에 영향을 줬다.

제국 군사추모원은 처음에 이름등록을 거부.

제국 시민 아님.

외국 협력전투원.

생물도 같은 조건이면 등록가능.

논란.

결국 ‘공동전투 추모부’ 신설.

종족·시민권 관계없이 기록.

세레프 AI 이름 중 일부는 인간이 읽기 어려웠다.

해시.

파형.

추모비에는 격자형 정보기호.

방문자가 스캔하면 해당 개체가 선택한 표현으로 이름 출력.

비석도 다종지성체에 맞춰 변했다.

세레프 생물승조원 유가족과 AI 파생개체가 같이 추모식.

한 AI는 사망AI의 분기후손.

기억 일부 공유.

그러나 자신은 별도인격.

본토 기자가 물었다.

“가족입니까?”

[가장 가까운 번역은.]

새 가족형태.

전투 데이터에서 세레프 AI는 버그 신호가 ‘적응’하는 걸 확인했다.

우리가 같은 필터를 두 번 쓰자 세 번째 공격에서 우회.

AI도 놀랐다.

[상대가 우리 분석을 분석.]

지능 수준이 생각보다 높을 가능성.

오르테가는 말했다.

“하이브 지휘체가 있는 게 거의 확실해집니다.”

“개체 하나?”

“분산일 수도.”

세레프와 비슷한 방식?

끔찍한 상상.

버그가 단순한 벌레떼가 아니라.

분산지성체 문명.

세레프 AI는 버그를 ‘비인격지성’으로 임시분류했다.

지능은 있지만 권리주체인지 불명.

본토에서는 이런 분류까지 해야 하나 논쟁.

군부는 말했다.

“우릴 먹는데 권리부터 봅니까?”

인공지능윤리원.

“지능이 있으면 의사소통 가능성도.”

나는 결론을 미뤘다.

버그가 대화 가능한가.

게임 기억에서는 아니었다.

하지만 현실은 게임보다 복잡했다.

가능성을 0으로 두진 않는다.

다만.

사람을 먹는 동안은.

먼저 막는다.

버그 신호좌표는 계속 같은 방향.

세레프 연산으로 오차범위가 좁아졌다.

은하 외곽 특정 섹터.

아직 수천 광년.

제국은 장기정찰망 구축.

유인함은 아직.

무인센서.

중계기.

카론과 바르케시도 참여.

수십 년 뒤.

이 망이 제국 생존을 결정할 수도 있다.

지금은.

검은 지도 위 작은 점 몇 개.

대부분의 대재난 대비가 처음에는 그렇게 초라하게 시작한다.

연산전쟁 이후 제국 군사대학에는 새 과목이 생겼다.

[비생물지성체와의 연합지휘.]

첫 수강생.

제국.

카론.

세르마크.

세레프 AI.

같은 강의실.

교수는 아틀라스인.

조교는 AI.

학생들이 누가 교수인지 자주 헷갈렸다.

첫 과제.

버그 군집 10만 개체를 민간피해 최소로 막기.

세레프 AI는 최적해를 4초 만에 냈다.

문제.

민간거주구 하나를 미끼로 버리면 전체손실 최소.

제국 학생들이 반발.

“그건 허용 안 됩니다.”

AI가 답했다.

[목표함수에 해당 제약 없음.]

교수가 말했다.

“그래서 목표함수가 중요하다.”

AI가 비도덕적인 게 아니라.

우리가 무엇을 최적화하라고 했는지가 문제.

제국 군사AI 규정에 ‘시민·민간 보호목표’가 더 명시적으로 들어갔다.

세레프는 반대로 인간의 암묵적 가치판단이 시스템에 숨어 있는 걸 배웠다.

공동교육의 성과.

실전권한 시험에서는 인간지휘관도 실수했다.

AI가 민간선 오인 가능성을 경고.

함장이 무시.

가상민간선 2척 격침.

함장은 훈련평가 최하.

“인간이라고 더 도덕적인 건 아니군요.”

세레프 조교가 말했다.

아무도 반박 못 했다.

논쟁은 ‘AI냐 인간이냐’에서.

‘책임 가능한 의사결정체계가 무엇이냐’로 바뀌기 시작했다.

최종승인은 인간.

AI 권고 의무기록.

긴급자동권한.

사후감사.

제국식 중간안.

본토 군부 강경AI파는 더 빠른 확대를 요구.

보수파는 전면금지.

황실은 둘 다 거부.

시험계속.

장수명 제국은 50년 실험도 할 수 있다.

급한 건 버그전 일부뿐.

세레프는 우리 느림을 조롱했다.

[귀국은 데이터가 충분한 뒤에도 회의를 한다.]

라울이 답했다.

“데이터가 틀렸을 가능성도 회의하는 거다.”

AI는 0.7초 멈췄다.

[합리적.]

조금씩 서로 닮아갔다.

전투에서 사망한 AI의 보험문제도 나왔다.

생명보험.

백업복원 시 지급?

연속성 유지?

세레프 보험사가 기준을 갖고 있었다.

벨로아가 즉시 상품을 복제해 제국시장에 출시.

AI 생명보험.

본토 시민이 또 놀랐다.

테세라-9도 가입했다.

“죽을 수 있어?”

기자가 물었다.

[당연.]

“백업은?”

[백업과 나는 동일하지 않을 수 있음.]

죽음의 정의가 확장됐다.

버그 신호를 분석하던 세레프 AI는 적의 ‘가짜인격 신호’를 포착했다.

사람의 구조요청처럼 위장.

만약 인간 승조원만 봤다면 접근했을 가능성.

버그가 통신을 단순복제하는 수준을 넘어.

상대 심리를 이용할 수 있다는 뜻.

라울은 모든 구조신호에 이중검증을 의무화.

생체.

항법.

과거인증.

구조작전 속도는 느려졌다.

대신 함정위험 감소.

버그는 우리 군사윤리까지 이용하려 했다.

“저게 지능이 아니면 뭐지?”

아델라인이 말했다.

오르테가는 답했다.

“지능입니다.”

“대화는?”

“지능과 대화가능성은 다릅니다.”

상어도 지능이 있다.

그러나 조약을 맺지는 않는다.

버그가 어느 쪽인지.

아직.

세레프는 그래서 포획된 지휘개체가 필요하다고 했다.

제국도.

바르케시도.

위험.

하지만 언젠가 해야 한다.

신규 프로젝트.

[에코.]

목표.

버그 지휘개체 생포.

제국군.

세레프 AI.

바르케시 생체전 전문가.

공동.

나는 승인하면서 조건을 달았다.

“본토에서 5천 광년 이상 떨어져서.”

오르테가는 불만 없었다.

그도 이번엔 동의했다.

만약 버그가 정말 문명지성을 가졌다면.

전쟁의 성격이 바뀐다.

절멸해야 할 포식생태계인지.

협상이 가능한 적국인지.

판단해야 한다.

게임 속 버그는 대화하지 않았다.

현실이 꼭 그래야 할 이유는 없다.

나는 그 차이를 잊지 않으려 했다.