제82화 — 생각하는 시민

세레프에서 가장 이해하기 어려운 건 AI 기술이 아니었다.

AI가 사람이라는 사실이었다.

적어도 그들 법에서는.

일부 AI는 재산을 소유한다.

투표한다.

계약한다.

결혼 비슷한 동반계약도 한다.

법인을 만든다.

심지어 아이를 ‘만든다.’

복제와 파생.

제국 인공지능윤리원은 첫날부터 머리가 아팠다.

제국에도 인격AI는 존재했다.

그러나 엄격한 기준.

독립성.

연속성.

자기목적.

법적 책임.

그리고 복제 제한.

세레프는 훨씬 넓었다.

한 AI가 자기 사본을 만들어 별도시민으로 등록할 수 있다.

조건.

기억분기점 명시.

재산분할.

책임승계.

우리 법으로는 악몽.

인공지능윤리원장이 물었다.

“동일인 두 명이 되는 겁니까?”

노드-칼릭스가 답했다.

[분기 전까지 동일.]

[분기 후 별도.]

“범죄책임은?”

[분기 전 행위는 공동책임.]

“재산은?”

[사전계약.]

“상속은?”

[복잡.]

처음으로 세레프도 짧게 답했다.

제국 법무원은 세레프 AI에게 임시법적 지위를 부여해야 했다.

외교사절.

AI지만 사절면책.

물리적 몸 없음.

서버를 압수하면 체포인가.

통신을 차단하면 구금인가.

새 질문.

본토에서는 논쟁이 폭발했다.

[AI도 시민인가.]

[세레프 AI는 외계인인가 기계인가.]

[황제에게 충성서약 가능한가.]

아직 시민권 얘기부터 할 단계도 아닌데.

사람들은 먼저 갔다.

세레프 AI 하나가 제국망 공개구역에 접속했다.

속도.

엄청났다.

공개데이터 수천 년치를 몇 시간 만에 읽음.

보안망이 자동으로 제한.

AI가 항의했다.

[공개정보 아닌가.]

정보원이 답했다.

“한 명이 너무 빨리 읽는 건 공격과 구분하기 어렵습니다.”

새 규정이 필요했다.

접근속도 제한.

인격AI라고 무제한 크롤링 허용은 아니다.

세레프는 그 제한을 ‘생물지성 중심적’이라고 비판했다.

제국은 받아들이지 않았다.

보안은 보안.

다만 합법적 대용량 연구접근 채널을 따로 만들었다.

차별을 없애는 게 아니라.

능력차이에 맞는 통로를 만든다.

세레프 사회에서도 생물인과 AI 갈등이 있었다.

완벽한 공생 아니다.

일자리.

정치대표비율.

AI 복제권.

생물인의 사생활.

감시.

수천 년 논쟁.

아델 세렌이 말했다.

“외부에서는 우리를 하나의 AI문명으로 보지만 내부는 전혀 단순하지 않습니다.”

익숙한 말.

로하르도.

바르케시도.

모두 밖에서 보면 한 줄이다.

세레프 군대는 특히 특이했다.

생물장교 거의 없음.

전투결정은 AI.

최종전략승인은 혼합의회.

제국군은 불편해했다.

“AI가 발포결정?”

세레프는 반문.

“왜 안 되는가.”

제국은 인간최종결정 원칙.

철학 충돌.

합동훈련을 바로 하지는 않았다.

서로 지휘원칙이 너무 다르다.

대신 시뮬레이션 교환.

세레프 전술AI는 제국 함대모델을 상대로 놀라운 성과.

전력열세 1:3에서도 일부 시나리오 승리.

라울이 관심.

“좋은 적입니다.”

문제.

실제 함선성능이 낮다.

AI가 아무리 좋아도 물리적 한계.

제국 최신함대 상대로는 결국 패배.

세레프가 말했다.

[우리는 그래서 전쟁을 원하지 않는다.]

현명했다.

제국 일부는 세레프 AI를 사오자고 했다.

오르테가가 화냈다.

“사람을 사겠다는 말입니다.”

기업은 정정.

“라이선스.”

세레프 AI 본인이 계약하면 가능.

일부 AI가 연구서비스 계약을 체결.

급여.

권리.

종료권.

제국 역사상 첫 외국 AI 노동계약.

본토 시민들은 처음엔 어색해했다.

“컴퓨터에 월급?”

세레프 측은 말했다.

“생물뇌에 월급 주면서 왜.”

반박하기 어렵다.

첫 세레프 AI 연구자가 제국 대학에 들어왔다.

물리적 몸은 드론 하나.

학생들이 몰려 구경.

AI가 말했다.

[사진은 허가 후.]

학생들이 사과.

인격AI도 사생활이 있다.

교육이 필요했다.

나는 보고서를 보며 생각했다.

제국은 다종족 사회에 적응 중이다.

이제 종족이라는 말 자체도 생물학을 넘어갈 수 있다.

외부우주는.

우리 법률의 단어부터 바꾸고 있었다.

세레프 AI 시민의 이름은 발음하기 어려운 경우가 많았다.

숫자.

파형.

기호.

본토 행정망은 문자이름을 요구했다.

세레프가 항의.

왜 인격체가 제국 데이터베이스 편의를 위해 이름을 바꿔야 하는가.

법무원이 인정했다.

식별체계 확장.

이름 필드가 아니라 다중식별자.

작은 시스템 수정.

하지만 철학적으로 컸다.

본토 은행도 문제.

고객 생년월일 필수.

AI는 ‘생성일’이 있다.

분기AI는 원본 생성일과 분기일 둘 다.

계좌 하나 여는 데 법률검토.

은행은 투덜댔다.

세레프 상인은 더 투덜댔다.

결국 새 고객확인 규정.

[비생물지성 생성·분기 기록.]

금융이 철학을 실무로 만든다.

세레프 AI 중 하나가 본토 부동산을 샀다.

물리적 집이 필요 없는데.

서버실과 정원.

왜 정원?

[원격드론으로 보고 싶다.]

인격은 효율만으로 행동하지 않았다.

AI도 취향이 있다.

본토 시민들은 그 사실을 더 신기해했다.

종교문제도 생겼다.

라사드 별황제회가 세레프 AI에게 물었다.

[영혼이 있는가.]

AI가 답했다.

[정의부터 제공하라.]

사제와 AI가 6시간 토론.

결론 없음.

영상 조회수 3천억.

나는 안 봤다.

세라가 요약해줬다.

“서로 만족했답니다.”

그게 더 신기했다.

제국 인공지능윤리원 내부에서도 분열이 생겼다.

세레프식 복제권을 제한적으로 허용할 것인가.

현재 제국 인격AI는 완전복제 매우 제한.

동일인격 법적혼란 때문.

세레프는 분기법으로 해결.

일부 학자 도입 주장.

보수파 반대.

나는 개입하지 않았다.

전문가 논쟁.

몇십 년 해도 된다.

모든 외부제도를 황제가 즉시 선택할 필요 없다.

세레프에서 제국 생물인 연구자가 반대문제를 겪었다.

AI가 개인일정을 너무 효율적으로 관리.

회의 자동배치.

식사추천.

수면최적화.

연구자는 며칠 뒤 말했다.

“숨막힙니다.”

세레프 AI는 이해 못 했다.

[효율이 증가했다.]

“내가 원하지 않았어.”

개인자율성과 최적화.

세레프 사회의 오래된 갈등.

제국 연구자도 바로 체감했다.

세레프에서는 프라이버시가 매우 강한 권리였다.

AI가 너무 많은 걸 알 수 있기 때문에.

데이터접근 로그가 시민에게 실시간 공개.

누가.

왜.

몇 초.

제국보다 더 엄격한 부분.

정보원은 놀랐다.

“감시국가일 줄 알았습니다.”

정반대.

감시 가능성이 높아서 규제도 강하다.

제국은 이 제도를 일부 가져왔다.

본토 시민이 자기 개인정보를 어느 기관이 열람했는지 더 쉽게 확인.

관료들이 불편.

시민은 좋아함.

세레프 기술보다 제도가 먼저 역수입.

세레프 AI는 황제 권력에 계속 질문했다.

[황제가 시민데이터를 원하면 거부 가능한가.]

법무원이 답했다.

“영장·국가안보절차가 필요합니다.”

[황제가 직접 명령하면.]

“비상권한은 가능하지만 기록과 사후심사.”

AI가 말했다.

[귀 황제권은 강하지만 임의적이지 않다.]

좋은 요약.

본토 시민들은 세레프 정치체계를 반대로 비판했다.

“AI가 너무 느리다.”

“누가 책임지는지 모르겠다.”

“다수결도 아닌데 민주주의인가.”

세레프는 자기 체제를 민주주의라고 부르지 않았다.

‘합의공동체.’

정치제도는 이름부터 다르다.

제국 정치학계는 세레프를 연구하며 자기 분류체계를 수정했다.

왕정.

공화정.

군정.

연방.

이걸로 끝이 아니다.

분산지성 공동체.

군체의회.

AI 합의체.

앞으로 더 나올 수 있다.

나는 보고서에 적었다.

[외부문명을 제국 정치개념에 억지로 맞추지 말 것.]

문명등급은 기술을 비교하는 도구.

정치제도까지 ‘진화단계’로 볼 필요 없다.

아틀라스인은 자기 정치가 오래 살아남았다는 자부심이 있다.

그래도 오래됐다는 게 우주 보편답은 아니다.

세레프는 다른 방식으로 수천 년 살아왔다.

그 사실 하나면.

배울 가치가 충분했다.

세레프 AI 시민 하나가 사망한 사건도 제국 법률가에게 충격을 줬다.

연산노드 파괴.

백업 존재.

그런데 본인은 백업복원을 거부하는 유언.

이유.

“연속성이 끊긴 뒤의 나는 내가 아니다.”

세레프 법원은 유언을 존중했다.

백업데이터 삭제.

제국 연구자는 이해하지 못했다.

“복구 가능한데 왜 죽음을 선택하지?”

세레프 생물인이 답했다.

“당신도 뇌사 후 복제몸에 기억을 넣으면 같은 사람이라 생각합니까?”

질문이 돌아왔다.

제국에도 유사논쟁이 있었다.

완전 정신복제 금지.

부분기억보조 허용.

복제인격은 제한.

세레프 사례가 본토 철학계와 법학계를 다시 불붙였다.

상원에서는 인격AI 권리헌장 개정안이 나왔다.

세레프식 복제권까지는 아님.

대신.

AI 사망정의.

분기인격 법적독립.

연산자원 차별금지.

자기삭제권.

수십 년 논쟁 예상.

나는 서두르지 않았다.

헌법에 가까운 문제.

본토 시민 중 일부는 AI 권리확대에 반발했다.

“기계가 우리와 같은 시민?”

인격AI 단체는 공개토론.

[우리는 이미 세금을 낸다.]

[계약을 맺는다.]

[책임도 진다.]

논쟁은 생각보다 치열했다.

외계문명 하나가 제국 내부 오래된 문제를 다시 열었다.

세레프 AI는 예술도 했다.

음악.

조각.

확률구조 기반 시.

본토 시민은 처음엔 ‘알고리즘 산출물’이라 무시.

몇 작품이 크게 유행.

태도가 조금 바뀌었다.

좋은 예술이 존재론 논쟁보다 사람 마음을 빨리 바꿀 때도 있다.

한 AI 작곡가가 황실행사 음악을 의뢰받았다.

제목.

[47초 이후.]

대단절을 주제로.

곡 중간에 정확히 47초 침묵.

공연장에서 아무 소리도 안 났다.

관객들이 울었다.

나는 그 곡을 기록원에 영구보존하게 했다.

AI가 만든 첫 황실기념곡.

라사드 사제들은 그 음악을 듣고 또 질문했다.

[영혼 없는 존재가 슬픔을 만들 수 있는가.]

세레프 AI는 답했다.

[당신이 슬픔을 느꼈다면 충분하지 않은가.]

논쟁은 다시 끝나지 않았다.

그래도 좋은 문장이었다.

제국은 세레프를 통해 AI를 ‘도구냐 사람인가’ 둘 중 하나로만 나누기 어려워졌다.

어떤 AI는 도구.

어떤 AI는 사람.

어떤 건 그 중간.

법은 더 복잡해졌다.

하지만 현실이 복잡하면.

법도 복잡해야 한다.

단순함을 위해 존재를 잘라낼 수는 없다.