질문: 무엇이 본질이기 때문에, 나는 어떤 사업을 해야 하는가.
방법: 위에서 아래로 "왜?"를 물어 더 내려갈 수 없는 가설까지 간다. 한 번에 한 갈래만 판다. 각 단계에서 구봉이 자기 말로 설명할 수 있어야 다음으로 간다.
가설 트리
근본 가설 (이게 틀리면 위가 다 무너진다)
- G1. 모델은 '채점할 수 있는 피드백'이 있는 곳에서 가장 빨리 는다. (RL의 본질에 대한 가설)
- 내려갈 질문: LLM의 RL은 SFT와 근본적으로 무엇이 다른가? 그 차이는 계속 커지는가, 줄어드는가?
- G2. 물리 세계는 그 피드백을 얻기가 근본적으로 비싸다. 안전만의 문제가 아니라 ① 되돌릴 수 없음 ② 부분 관측(센서 밖은 안 보임) ③ 느리고 드문 피드백 ④ 데이터가 사적이고 흩어짐 ⑤ 실시간 제약 때문이다. 안전 위반은 ①의 결과다.
- 내려갈 질문: 이 다섯 중 무엇이 진짜 병목인가? 로보틱스·공정제어는 이걸 수십 년 어떻게 다뤄 왔나?
- G3. 그 피드백을 만드는 능력은 범용화되지 않는다. 현장 지식 + 접근권이 필요해서 랩이 스스로 만들기 어렵다.
- 내려갈 질문: 랩·Siemens·SI가 직접 만들면 왜 안 되는가? 언제 범용화되는가?
파생 가설 (근본이 참일 때만 의미)
- D1. 그래서 제조 현장의 피드백(환경·채점기·안전 경계)을 만드는 쪽에 가치가 쌓인다.
- D2. 피드백 루프를 온전히 소유하려면 결국 현장을 소유해야 한다(4단계, 실험 E9~E11).
곁가지 (근본·파생이 정해지면 저절로 정해지는 실행 선택)
랩 직판 vs 벤더 / 해커톤·교육 / 공동논문 / 사이트 / 대기업 PoC / 법인 이름 / 컴퓨팅
진행 기록
- ☐ G1-1: RL과 SFT의 차이 (기초·비유), 구봉 이해 확인
- ☐ G1-2: LLM에서 RL이 실제로 무엇을 바꿨나 (검증 가능한 보상, 2024~2026)
- ☐ G1-3: RL이 계속 커진다는 가정의 반증 조건
- ☐ G2-1: 제조 AI가 기존 AI와 다른 점 다섯 가지 중 진짜 병목
- ☐ G2-2: 로보틱스·공정제어의 선례(안전 RL, sim2real, 데이터센터 냉각, 정유 폐루프 최적화, 접은 사례)
- ☐ G3-1: 범용화 반례 찾기
G5 (2026-10-26 추가). 모델 공급 리스크: 내 산업에서 남의 모델은 막힐 수 있다
- 근거(OBSERVED): Meta Llama 2~4 사용 정책은 "critical infrastructure, transportation technologies, heavy machinery의 운영"을 금지 용도로 명시한다. 오픈 가중치여도 라이선스가 막는다. https://www.llama.com/llama4/use-policy/
- 근거(OBSERVED): OpenAI가 RFT를 접고 o4-mini를 10/23 내렸다 → 버전·기능이 공급자 사정으로 사라진다. https://developers.openai.com/api/docs/guides/reinforcement-fine-tuning
- 근거(OBSERVED): 국가핵심기술 공정은 해외 AI 입력 기준이 없어(2027년 3월 가이드라인 목표) 기업이 외부 API를 막는다. https://www.hankyung.com/article/2026102293821
- 가설: 고위험 산업 제어 용도는 앞으로 공급자 정책·규제로 더 좁아진다.
- 소유의 뜻: abliterated(거부 제거) 모델 그 자체가 아니라 "거부·안전 정책을 공급자가 아니라 내가(공장 규칙으로) 정한다". 거부를 지우면 쓸모 있는 안전장치도 같이 지워지므로, 공장 안전 채점기로 다시 정렬해야 한다(E13과 같은 실험 축).
- 라이선스 조건: 허용 라이선스(Apache-2.0·MIT 계열) 오픈 모델만 기반으로 쓴다. Llama 계열은 제외.
- 실험 E14: AFB 과제 로그에서 프론티어·오픈 모델의 거부·과잉거부 비율을 잰다(정당한 정비 요청, 인터록 우회 요청 등 경계 과제 10개 추가). 비용 거의 0, 11/14.
바닥까지 내려간 사다리 (2026-10-26)
구봉의 생각(루프·편향 모델·현장 데이터·독점 데이터 해자·공장 소유·모델 소유)을 "이게 참이려면 아래 무엇이 참이어야 하나"로 끝까지 내렸다.
| 층 | 명제 | 상태 |
|---|---|---|
| 0 | 학습은 신호를 향한 최적화다. 사전학습=인터넷 흉내, SFT=전문가 흉내, RL=채점기 점수 올리기. 신호에 없는 것은 배울 수 없다 | 확실(정의) |
| 1 | 범용 신호(인터넷·코드·수학)로 만든 능력은 누구나 API로 산다 → 차별화가 안 된다 | 거의 확실 |
| 2 | 특정 현장의 성과는 범용 신호에 없는 "그때 그곳의 정보"에 달려 있다 (Hayek 1945, 지역 지식) | 바닥 질문 Ⅰ |
| 3 | 그 정보를 모델에 넣는 최선의 형식은 가중치(RL·편향 모델)인가, 맥락(문서·검색)인가 (Sutton 'Bitter Lesson' vs Applied Compute) | 바닥 질문 Ⅱ |
| 4 | 물리 현장은 그 정보가 기록되지 않았고, 실험이 비싸고 되돌릴 수 없다 → 수집 장치와 시험장이 병목 | 부분 확인(스마트공장 실시간 제어 2%) |
| 5 | 그 정보를 계속 만들어 내는 흐름을 누가 소유하나 (고객·우리·랩·SI) | 바닥 질문 Ⅲ |
| 6 | AI에게 더 큰 단위를 맡기는 것은 검증된 안전의 함수다 → eval이 권한의 열쇠 | 가설 |
| 7 | 사업: 파이프를 소유하고, 소유 공장에서는 데이터까지 소유 | 위가 참일 때만 |
AFB에서 이미 보이는 단서(바닥 Ⅰ 관련): Hard 과제는 필요한 현장 정보(I/O 표·장치 시간·안전 규칙)를 명세에 다 줬는데도 실패가 많다. 시뮬레이터를 준 시도에서는 실패를 보고 고쳐서 통과했다. → 실패의 원인이 "정보가 없어서"가 아니라 "피드백이 없어서"일 수 있다. 정보 병목과 피드백 병목을 나눠 재야 한다(E2가 피드백 쪽을 잰다).