계약·거래

학습 연산량이 10의 26승을 넘으면 모든 인공지능에 안전성 결과 제출 의무가 생기나요?

글쓴이 허진영 변호사 · 법무법인 윤성2026.10.18 갱신

시행령의 연산량 기준 하나만 보고 의무 대상을 확정하면 안 됩니다. 인공지능기본법상 안전성 확보 의무의 대상은 학습 연산량뿐 아니라 첨단성, 광범위하고 중대한 위험 등 시행령이 정한 요건을 함께 충족하는지 살펴야 합니다. 대규모 모델을 이용한다는 사정과 해당 의무의 직접 대상인지는 구별해야 합니다.

시행령의 연산량 기준 하나만 보고 의무 대상을 확정하면 안 됩니다. 인공지능기본법상 안전성 확보 의무의 대상은 학습 연산량뿐 아니라 첨단성, 광범위하고 중대한 위험 등 시행령이 정한 요건을 함께 충족하는지 살펴야 합니다. 대규모 모델을 이용한다는 사정과 해당 의무의 직접 대상인지는 구별해야 합니다.

이런 상담이 많습니다

A씨 회사는 해외 개발사의 대규모 언어모델을 연동해 2026. 9. 1.부터 계약서 요약 서비스를 제공하고 있습니다. 2026. 9. 28. 그 모델의 학습 연산량이 10의 26승을 넘는다는 보도가 나오자 거래처가 안전성 확보 조치의 이행 결과를 제출했는지 확인해 달라고 요청했습니다. 회사가 개발사에서 받은 자료는 월 이용료 1,500만원의 이용계약서와 일반 기술 설명서뿐이었습니다. 거래처는 납품 계약에 ‘안전성 의무 미대상 확정’ 문구를 넣자고 제안했습니다. A씨는 연산량 기준만 넘으면 회사도 결과 제출 의무를 지는지, 그런 확약을 해도 되는지 물으셨습니다. (상담 사례를 바탕으로 날짜와 금액을 바꿔 재구성한 예시입니다.)

연산량 외에 어떤 기준을 확인해야 하나요?

인공지능기본법 제32조는 일정 기준 이상의 인공지능 시스템에 생애주기 전반의 위험 식별·평가·완화와 안전사고 감시·대응 등을 요구합니다. 시행령 제24조는 학습 누적 연산량이 10의 26승 부동소수점 연산 이상일 것, 현재 가장 앞선 기술 수준일 것, 생명·안전·기본권에 광범위하고 중대한 위험을 초래할 우려가 있을 것 등의 요건을 함께 정합니다.

따라서 연산량이 기준에 도달했다는 소식만으로 모든 회사의 제출 의무를 단정해서는 안 됩니다. 반대로 연산량 수치를 공개하지 않았다는 이유로 검토가 면제되는 것도 아닙니다. 어느 시스템이 대상인지와 해당 사업자의 역할을 자료로 확인해야 합니다.

외부 모델을 이용하는 회사도 공급사의 수치를 알아야 하나요?

서비스의 규제 적용을 검토하려면 공급사의 모델 정보가 필요할 수 있습니다. 다만 모델을 직접 개발한 사업자와 이용사업자에게 어떤 의무가 적용되는지는 구체적인 구조에 따라 확인해야 합니다. API를 이용한다는 이유로 개발사의 모든 의무가 자동 이전된다고 적어서는 안 됩니다.

계약 단계에서 모델 버전, 기능 변경, 안전성 관련 자료와 사고 협조 범위를 받을 수 있게 정하는 것이 좋습니다. ‘대형 모델’이라는 마케팅 표현, 추정 이용료나 서버 비용만으로 법정 학습 연산량을 계산했다는 자료를 만들지 않아야 합니다.

안전성 보고는 고영향 인공지능 확인과 같은가요?

아닙니다. 고영향 여부는 사용 영역과 사람에 미치는 영향 등을 기준으로 검토합니다. 대규모·첨단 시스템의 안전성 확보 의무와 같은 제도가 아닙니다. 연산량 기준 이하인 시스템이라도 실제 사용 분야에 따라 고영향 책무나 생성형 고지·표시 의무가 문제 될 수 있습니다.

법 제32조는 해당 사업자의 안전성 확보 조치와 그 이행 결과 제출을 정합니다. 위험을 어느 단계에서 어떻게 식별하고 평가·완화했는지, 사고를 감시하고 대응하는 체계가 무엇인지 설명할 수 있어야 합니다. 세부 산정·제출 방식은 관련 고시 등 적용 자료를 함께 확인해야 하므로 회사가 임의의 수식을 공식 기준이라고 정해 두어서는 안 됩니다.

인공지능 대응 순서

시스템과 학습 범위, 누적 연산량 산정의 근거, 기술 수준과 예상 위험, 회사의 역할을 확인하는 자료를 보존하십시오. 아직 수치가 확정되지 않았다면 추정과 확정값을 나누고, 어떤 변경이 생기면 재검토할지 정해 두는 것이 좋습니다.

대상에 해당하는지 불명확한 상태에서 ‘미대상 확정’이라는 납품 보증을 넣는 것은 피해야 합니다. 대상 검토와 조치 이행, 제출 여부를 구분하고 실제 확인 범위에 맞춰 계약상 설명을 하는 편이 적절합니다. 필요한 경우 기술 담당자의 산정자료와 법령 적용을 함께 검토해야 합니다.

연산량 산정의 범위를 확인할 때에는 숫자가 어떤 모델과 학습 과정에 관한 것인지부터 특정해야 합니다. 서로 다른 버전이나 공개 모델의 추정값을 임의로 합산하거나 단순 비교하여 법정 수치라고 표시하면 판단 근거가 불명확해집니다. 구체적 산정 방법에 관한 위임 규정과 실제 기술자료를 대조하고 확인하지 못한 항목은 추정 상태로 남겨 두어야 합니다.

현재 가장 앞선 기술 수준인지와 중대한 위험이 우려되는지는 연산량과 다른 설명이 필요합니다. 회사가 상품 소개에서 최고 성능이라고 썼다는 이유만으로 법적 요건이 확정되는 것도 아니고, 홍보 문구를 낮췄다는 이유로 대상에서 빠지는 것도 아닙니다. 기술적 특성과 예상 사용, 위험의 범위에 관한 자료를 중심으로 검토해야 합니다. 위험 평가를 마케팅 부서의 명칭 선택으로 대신해서는 안 됩니다.

안전성 확보 조치의 범위는 개발 완료일 한 시점에 그치지 않는다는 점도 중요합니다. 법은 생애주기 전반의 위험 식별·평가·완화와 사고 감시·대응을 규정하므로 운영·업데이트에서 발견한 위험을 누가 처리하는지도 확인해야 합니다. 새로운 위험을 발견했는데 최초 시험에 통과했다는 이유만으로 후속 조치를 생략하는 것은 제도의 취지와 맞는 대응이라고 보기 어렵습니다.

결과 제출 자료를 만들 때에는 실제 조치와 향후 계획, 시험으로 확인한 내용과 아직 확인하지 않은 내용을 분리해야 합니다. 제출했다는 접수 사실과 조치의 적정성을 보증받았다는 의미도 다릅니다. 회사가 거래 상대방에게 설명할 때에는 어느 시스템에 관한 어떤 결과를 언제 제출했는지 정확히 특정하고, 다른 기능이나 변경 버전까지 같은 상태라고 확장하지 않는 것이 좋습니다.

이용회사와 개발회사가 자료를 주고받을 때는 법적 대상 판단을 위해 필요한 정보와 영업비밀의 취급을 함께 정해야 합니다. 상대방이 모든 자료를 제공한다고 가정하지 말고 실제 제공받은 범위를 확인하십시오. 자료 부족으로 대상 여부를 확정하지 못했다면 그 사유와 추가 확인 항목을 기록한 뒤 필요한 검토를 진행해야 합니다. 불확실성을 숨긴 미대상 확인서는 이후 계약 설명과 규제 대응 모두에서 혼선을 만들 수 있습니다.

고영향 인공지능 해당 여부를 확인받는 절차는 「채용·대출 인공지능이 고영향인지 애매하면 정부 확인을 받은 뒤 출시해야 하나요?」에서 자세히 설명했습니다.

이 상황에서 자주 묻는 것

• 10의 26승 기준은 세 요건 중 하나만 충족하면 되나요?
  아닙니다. 시행령 제24조는 누적 연산량 10의 26승 부동소수점연산 이상, 최첨단 기술 적용, 생명·안전·기본권에 광범위하고 중대한 영향을 미칠 우려라는 기준을 모두 충족하도록 정합니다.
• 매개변수 개수만 알면 연산량이 정해지나요?
  아닙니다. 매개변수 개수와 학습에 사용된 누적 연산량은 같은 지표가 아닙니다. 구체적인 산정 방식은 위임된 고시 등 적용 자료를 따르므로 실제 기술자료와 대조해 확인해야 합니다.
• 작은 모델이면 인공지능기본법 의무가 전혀 없나요?
  그렇지 않습니다. 연산량 기준 이하인 시스템이라도 실제 사용 분야에 따라 고영향 인공지능 책무나 생성형 인공지능의 고지·표시 의무가 문제 될 수 있으므로 각 요건을 따로 검토해야 합니다.
• 안전성 결과 제출이 정부의 품질 보증인가요?
  아닙니다. 결과를 제출했다는 접수 사실은 정부가 성능이나 조치의 적정성을 보증했다는 뜻이 아니며 권리침해에 대한 면책도 아닙니다. 어느 시스템의 어떤 결과를 언제 제출했는지 특정해 설명해야 합니다.
• 공개 모델의 수치를 기사에서 가져와도 되나요?
  그대로 쓰기는 어렵습니다. 기사 속 수치가 어느 모델 버전과 학습 과정에 관한 것인지, 산정 범위와 원자료가 무엇인지 확인하고, 확인되지 않은 값은 추정 상태로 구분해 두어야 합니다.
• 인공지능 안전성 의무의 적용 대상을 판단하려면 어떤 자료가 필요한가요?
  시스템·학습 범위, 연산량 산정자료, 기능과 위험 설명, 공급 관계를 준비하면 적용 요건을 검토할 수 있습니다.

법무법인 윤성 × Lexle

허진영 변호사법무법인 윤성 대표변호사대한변호사협회 등록 조세 전문변호사 · 세무사 등록

이 글과 관련해 지금 상황을 남겨 주세요. 다른 상황이어도 괜찮아요. 남겨 주시면 제가 먼저 읽어 볼게요!

• 채팅으로 끝까지전화 안 하셔도 돼요
• 사진 한 장이면 시작모르는 건 비워 두셔도 돼요
• 금액부터 알려 드려요보시고 맡길지 정하시면 돼요
• 10분 안에 답업무시간 기준 · 알림톡으로 알려요
• 변호사가 직접 읽어요맡을 수 있는 일인지 알려 드려요
• 결과는 문서로같은 채팅방에 문서로 와요

지금 상황을 적어 주세요

변호사에게 보내기

휴대폰 문자로 한 번만 확인할게요 · 금액은 먼저 알려 드려요

법무법인 윤성이 직접 운영해요 · 법률사무는 전부 소속 변호사가 해요

비슷한 상황

• 개인정보 처리방침에 빠진 항목이 있으면 과태료가 나오나요? 꼭 적을 항목은요?
• 인공지능으로 만든 그림도 저작권 등록이 되나요? 남의 그림으로 학습시키면 침해인가요?
• 인공지능이 자동으로 채용 탈락을 정했는데 지원자가 설명을 요구하면 회사는 어떻게 하나요?
• 고객 개인정보를 해외 클라우드나 해외 본사로 넘기려면 따로 동의를 받아야 하나요?

이 글은 일반적인 법률 안내입니다. 개별 사안은 사실관계와 자료에 따라 판단이 달라질 수 있습니다.허진영 대표변호사 · 대한변호사협회 등록 조세 전문변호사 · 세무사 등록광고책임변호사 허진영 · 법무법인 윤성© 법무법인 윤성 · 무단 복제·자동 수집 금지이 글에 의견 보내기