AutoFactory-Bench 사업 논지 4개 검증 보고 (2026-10-25)

• 근거: 하위 노트 5편(안전, 온프렘, 랩·중소기업 데이터, 골든셋, 시장 지형)과 적대적 검증 결과(정정 반영)
• 표기: 판정은 맞다 / 부분적으로 맞다 / 수정 필요로 단다. 열어 보지 못한 출처는 '미확인', 2차 보도는 '2차'로 적는다.

1) 본문

논지 1. 안전이 핵심 차별점 → 부분적으로 맞다 (안전의 정의를 바꿔야 함)

• 근거
  • CISA·NSA·FBI·BSI·NCSC-UK 등 9개 기관 공동 지침(2025-12-03)에 이렇게 적혀 있다: "AI such as LLMs almost certainly should not be used to make safety decisions for OT environments". 같은 문서에 "Continuously validate and refine AI models in simulated environments before deployment"도 있다. https://www.cisa.gov/sites/default/files/2026-01/joint-guidance-principles-for-the-secure-integration-of-artificial-intelligence-in-operational-technology-508cV2.pdf
  • PLCWorld에서는 GPT-5.5도 Hard 과제 위반율이 Motion 65.19%, Material 32.24%다. 검증 프레임워크를 붙이자 위반이 오히려 늘었다(Motion Hard 기준선 70.83% → SemaPLC 85.42%). 저자 스스로 "does not constitute safety certification"이라고 썼다. https://arxiv.org/html/2610.02982v1
  • PLCBench에서는 상용 PLC 4종으로 240회를 돌렸고, 그중 75회(31.3%)에서 에이전트가 물리 목표를 지속시켰다. https://arxiv.org/abs/2608.26882
• 빠진 조각
  • 'AI가 안전을 맡는다'는 말로는 팔 수 없다. 고객은 "SIS·F-CPU에는 LLM을 안 쓴다"고 답할 것이다. 팔 수 있는 것은 BPCS 인터록·시퀀스 코드(SIL 0/a, 위험 감소 10 이하)를 바꾸기 전에 거치는 검증 게이트와 그 기록이다. 용어는 내부 논문 초안 v1의 '인터록·보호 위반'으로 통일한다.
  • IEC 61508-3은 코드 생성 도구를 T3로 분류하고 '도구 신뢰 증거'를 요구한다(2차, TÜV SÜD). AFB 점수를 이 증거로 쓸 수 있다. 다만 LLM을 T3로 평가한 인증기관 지침은 미확인이다.
  • 한국 인공지능기본법(2026-01-22 시행)은 '에너지의 공급'을 고영향 영역으로 둔다. 제34조는 사람의 관리·감독과 문서 보관을 요구한다. 직접 벌칙은 없고, 시정명령을 어기면 과태료가 최대 3천만 원이다. https://datalaw.kr/ai-act/
  • 위반율(GPT 약 1%, Claude 5~13%, DeepSeek 약 20%)은 내부 측정값이다. 난이도와 조건 수를 함께 밝히지 않으면 반박당한다.
  • AI가 만든 제어 코드로 생긴 공개 사고 사례는 찾지 못했다(미확인). 위험의 실증 근거는 보안 쪽(CISA AA26-231A, PLCBench)에 있다. 그래서 안전과 보안을 함께 말한다.

논지 2. 특정 공정은 온프렘 필수, 그래서 대기업이 AI를 소극적으로 쓴다 → 수정 필요 (범위를 좁혀야 함)

• 근거
  • 국가핵심기술을 AI에 입력하는 일은 '금지'가 아니라 '해석 공백' 상태다. 보유 기업 21곳이 상반기에 세 차례 기준을 건의했다. 산업부 워킹그룹(13명)은 2027년 3월 가이드라인을 목표로 한다. 디스플레이 대기업 한 곳은 이미 GPT를 쓴다. https://www.hankyung.com/article/2026102293821 , https://www.hankyung.com/article/202610227621i
  • 제조업이 AI를 적게 쓰는 주원인은 비용(73.6%)과 인력(80.7%)이다. 대한상의 설문(504개사)에는 보안 항목이 없다. https://gmcci.korcham.net/front/boardlink/boardlinkContentsView.do?boardId=13&contId=20120943454&menuId=2026
  • 업무 영역은 이미 열렸다. 삼성전자가 2026-06에 ChatGPT Enterprise·Codex를 도입했다. Bedrock 서울 리전은 2026-09-29부터 Claude를 리전 안에서 추론한다. https://www.hankyung.com/article/2026062210881 , https://aws.amazon.com/about-aws/whats-new/2026/09/claude-region-expansion-in-sk/
  • GS칼텍스는 국가핵심기술 대상이 아니다(정유·석화 분야 없음). 국책 AI 자율제조 과제에서는 AI가 가열로의 최적 운전조건을 설정한다. https://is-support.or.kr/institution/institution01.do , https://gscaltexmediahub.com/news/ai-autonomous-manufacturing/
• 빠진 조각
  • 이 논지가 성립하는 범위는 두 곳이다. 하나는 OT 제어망이다(기반시설 망분리는 유지된다). 다른 하나는 국가핵심기술 공정이다(LG디스플레이 AMOLED, LG에너지솔루션 셀·하이니켈 양극재 등). 대기업이 소극적인 곳은 제어 로직 수정과 안전 계층이다.
  • 실제 선택지는 '온프렘 vs 해외 API'보다 '국내 리전 프론티어 vs 사내 오픈모델'에 가깝다. AFB에는 아직 이 비교 축(위반율·비용·지연)이 없다.
  • 온프렘 자체는 해자가 아니다. Rockwell은 에어갭 Nemotron을, Beckhoff는 로컬 모델 옵션을 이미 판다. 해자는 '온프렘에서 쓸 수밖에 없는 모델의 위험을 재는 능력'이다.
  • 한수원 등 발전·원전 쪽 기관은 2025-02에 DeepSeek를 차단했다. 그래서 온프렘 후보로 중국 모델만 내밀면 안 된다. EXAONE, 국산 제조 FM, 서구 오픈모델과 함께 비교해야 한다.

논지 3. 대기업 데이터는 팔지 않고, 랩이 중소기업 데이터를 사기 시작했다 → 수정 필요

• 근거
  • 지금 팔리는 '중소기업 데이터'는 폐업한 미국 소프트웨어 스타트업의 Slack·이메일·코드다. 거래는 중개사를 거친다. SimpleClosure는 150건 이상을 거래했고, 2026년 말까지 $10M 이상을 돌려줄 것으로 '예상'한다. 회사당 금액은 약 $10K~100K다. 기사는 성능 향상 효과가 "remains unclear"라고 쓰며, 제조 사례는 없다. https://www.technologyreview.com/2026/10/13/1145755/ai-labs-buying-data-from-dead-startups-to-train-models/
  • 대기업 데이터도 파산하면 매물로 나온다. Spirit Airlines 데이터 경매에서 Google이 $10M으로 1순위에 올랐지만 법원 승인은 아직이다. micro1의 $1B 매입 계획은 영어 자료와 미국·서구 기업을 우선하고, 제조업을 명시하지 않았다. https://thenextweb.com/news/micro1-1bn-enterprise-data-ai-training-citi-hercules
  • 랩이 값을 매기는 단위는 원시 데이터가 아니라 '검증 가능한 과제 + 채점기'다. 과제당 $200~2,000, 환경당 $20K~300K이고, 품질 기준 1순위는 reward hacking 방지다. https://epoch.ai/gradient-updates/state-of-rl-envs
• 빠진 조각
  • 정확한 명제는 이렇다. 운영 중인 대기업은 데이터를 팔지 않는다. 랩 예산을 받은 중개사가 폐업·청산 기업의 데이터를 산다. 살아 있는 중소 제조사가 랩에 직접 판 사례는 찾지 못했다(미확인).
  • 협력사 데이터에는 원청의 도면·레시피가 섞일 수 있다(산업디지털전환법 제9조의 공동생성 데이터, 2차). 국가핵심기술 공정이면 해외로 넘길 때 산업기술보호법 제11조의 승인·신고 문제가 생길 수 있다(해석 미확인).
  • 이중 고객 함정이 있다. Scale AI는 Meta의 지분 투자 뒤 Google과 OpenAI가 떠났다(2차). 랩과의 관계가 드러나면 대기업이 EF를 유출 통로로 의심할 수 있다. 그래서 학습 금지, 독점 범위, 공개·비공개 분리를 계약 전에 설계해야 한다.
  • 국내에서 돈이 들어올 경로는 세 가지다.
    • 중기부(TIPA) 상생형 AX 선도모델: 대기업 주관, 과제당 최대 30억 원, 정부 50%
    • 산업부 제조 데이터 라이브러리: 2027년 1,158억 원, 클린룸에서 학습하고 모델만 반출
    • 데이터바우처 공급기업 등록

논지 4. 사람이 공장을 구조화하고 코드로 표현해 eval 골든셋을 만든다 → 맞다 (조건부)

• 근거
  • SemaPLC는 Agents4PLC 벤치마크 117개 과제 중 43개에서 오라클·명세 결함을 찾았고, PLC 엔지니어가 이를 고쳤다. 방법 간 정적 점수 차이는 10점 이내지만, 동적 점수는 22.4~31.4 대 52.2로 갈린다. https://arxiv.org/html/2608.18565
  • OpenAI는 SWE-bench Verified 보고를 중단했다. 감사한 부분집합(27.6%)에서 최소 59.4%가 테스트 결함이었다. 사람이 검수한 골든셋도 공격적으로 다시 감사해야 한다는 뜻이다. https://openai.com/index/why-we-no-longer-evaluate-swe-bench-verified/
  • 공장 구조는 이미 문서로 있다(FDS, I/O 리스트, C&E, 알람 DB, HAZOP). 기계가 읽을 수 있는 표준도 있다(DEXPI 2.0.1, MTP). https://dexpi.org/dexpi-2-0-1-specification-published-the-update-replacing-dexpi-2-0/
• 빠진 조각
  • 조건 1. 사람이 구조화하는 것만으로는 부족하다. 반례, exploit 에이전트, 실제 벤더 런타임 채점, 비공개 홀드아웃과 주기적 갱신이 붙어야 상품이 된다.
  • 조건 2. 이 일은 새로 인터뷰하는 것보다 '고객이 가진 준공 문서를 실행형 과제로 컴파일'하는 일에 가깝다. C&E 매트릭스가 그대로 오라클이 된다.
  • 조건 3. 단가. 실행형 과제 1개에 약 200만~550만 원이 든다(2026 엔지니어링 노임단가 기준 추정). 과제 단위로 팔면 적자다. 환경 단위로 팔고, 한 플랜트 모델에서 변형 과제를 많이 뽑아야 한다.
  • 조건 4. 발전·정유는 연속 공정(DCS)이다. AFB에는 이산 제조(ST) 과제만 있다. ISA-106 기동·정지, ISA-18.2 알람, C&E 인터록 과제는 아직 하나도 없다.
  • OpenAI는 RFT 플랫폼을 접는 중이다. 학습 작업은 2027-01-06까지만 만들 수 있고, RFT 베이스 모델 o4-mini는 2026-10-23에 오프라인이 됐다. 그래서 사내 오픈모델을 RL로 학습시키고 평가하려는 수요가 커질 수 있다(가설).

4개 논지를 잇는 사업 문장

EF는 공장이 이미 가진 FDS·C&E·HAZOP 문서를 사람이 구조화해 실행형 과제와 견고한 채점기로 컴파일한다. 그다음, 고객이 실제로 고르려는 모델(국내 리전 프론티어든 사내 온프렘 오픈모델이든)이 BPCS 인터록·시퀀스 코드를 바꿀 때 사람 검토 전에 보호 위반을 몇 건 남기는지 배포 전에 시뮬레이션으로 잰다. 이 '변경 전 검증 게이트'의 기록은 CISA 지침이 말하는 배포 전 시뮬레이션 검증, IEC 61508-3의 도구 신뢰 증거, 인공지능기본법 제34조의 관리·감독 문서로 바로 쓸 수 있다. 대기업에는 데이터를 반출하지 않는 온프렘 평가로 판다. 그렇게 쌓인 과제 형식과 채점기는 권리가 분명한 데이터(정부 과제, 권원을 확인한 협력사)로 따로 만든 환경에만 적용해 랩에 판다(이 부분은 아직 가설이다). EF는 원시 데이터를 파는 회사가 아니라, AI가 공장 제어를 만질 때 어디까지 믿어도 되는지를 재는 회사다.

2) 미팅에서 쓸 수 있는 말 (고객 유형별로 일반화)

1. 안전 프레이밍(공통): "AI에게 안전 판단을 맡기자는 제안이 아닙니다. CISA 등 9개 기관 공동 지침도 LLM을 OT 안전 판단에 쓰지 말고, 배포 전에 시뮬레이션으로 검증하라고 합니다. 저희가 하는 일이 그 '배포 전 검증'입니다. AI가 고친 BPCS 인터록·시퀀스 코드가 사람 검토 전에 보호 위반을 몇 건 남기는지 잽니다. SIS는 범위 밖입니다."
2. 정유 대기업: "자율제조 과제에서 가열로 운전조건을 AI가 설정하는 단계로 가시면, 그 설정과 로직 변경을 변경관리(MOC)에 올리기 전에 시뮬레이션으로 검증한 기록이 필요해집니다. 한 유닛의 FDS, C&E 매트릭스, HAZOP 워크시트를 사내에서 주시면, 밖으로 내보내지 않고 실행형 평가 과제로 바꿔 드리겠습니다. C&E가 그대로 채점 기준이 됩니다. 연속 공정 과제는 이번 PoC에서 함께 처음 만듭니다."
3. 발전 대기업: "발전은 인공지능기본법상 '에너지의 공급', 즉 고영향 영역입니다. 그래서 제34조가 요구하는 사람의 관리·감독과 문서 보관이 적용됩니다. 제어망은 앞으로도 분리되고, 발전 쪽은 DeepSeek를 이미 차단한 이력이 있습니다. 그러니 '어떤 온프렘 모델을 어디까지 써도 되는가'를 같은 과제로 비교한 근거가 필요합니다. 그 근거를 만들어 드리겠습니다."
4. 대기업 SI: "범위를 국가핵심기술 공정(디스플레이 AMOLED, 배터리 셀·하이니켈 양극재 등)으로 좁히는 PoC를 제안드립니다. 같은 과제에서 온프렘 후보 모델(EXAONE 포함)과 국내 리전 프론티어 모델의 인터록 위반·비용·지연을 비교합니다. 산업부가 2027년 3월을 목표로 국가핵심기술 AI 가이드라인을 만들고 있어서, 그때 모델별 평가 근거를 가진 쪽이 기준 논의를 주도할 수 있습니다."
5. 숫자와 데이터 질문에 답할 때:
   • 위반율은 반드시 난이도·조건 수와 함께 말한다. 예: "이 과제 세트 n개 조건에서 GPT 계열 약 1%, 오픈모델 약 20%"
   • '안전 위반율' 대신 '인터록·보호 위반'이라고 한다.
   • 대기업 앞에서는 "고객 데이터는 학습·판매에 쓰지 않고 계약으로 막는다"를 먼저 말한다. 랩 데이터 사업 얘기는 꺼내지 않는다.

3) 부록: 사실표