하네스 엔지니어링이 뭘까
Harness 뜻
하네스(Harness)의 뜻은 마구, 안정장치, 즉 말의 움직임을 제어하는 도구를 의미한다.
Harness Engineering 또한 이와 같이, 사용자가 사용하는 AI Agent를 시스템적으로 통제하고, 안전하고 예측 가능하게 AI Agent를 사용하기위해 사용되는 기술이다.
기업 입장에서는 점점 AI의 비중을 늘려가며, 사업에 영향을 끼치고 있는데, AI의 불확실성이 기업의 리스크가 됨 → Harness Engineering을 통해 리스크를 줄이고자 하는 방향에서 요즘 급부상중
사실 이름만큼이나 특별한 기술인 것은 아니다. 그냥 시스템을 설계하여 AI Agent가 길을 잃지 않도록 강제하는 AI Agent 활용 방법론이라고 볼 수 있다.\
왜 AI Agent에는 Harness Engineering이 필요할까
기존 AI Agent의 단점을 살펴보면 다음과 같다
- Raw Models have no memory between sessions 각 세션은 해당 context에 고유한 메모리를 가지고 세션마다 메모리를 따로 가지고 있지는 않다.
- Agents make confident mistakes 언어 모델은 ‘모른다’ 고 하지 않고, 가끔 틀린 답을 준다(은밀하게..) 이러한 부분들이 verification loop 없이 조용히 전파된다
- Tool Access without boundaries is dangerous 통제되지 않은 AI agent는 의도치 않게 파일을 삭제할수도 있고, 데이터베이스를 덮어쓸수도 있다. Guardrails이 없으면 자율성이 문제가 된다.
- Scale multiplies error 하나의 AI Agent가 실수하는 것은 감당할만한데, 10개 혹은 그 이상의 AI Agent가 직렬적으로 실행되면, 하나에서 에러가나는 것이 지속적으로 전파되고, 이는 디버깅을 불가능하게 만든다.
공통점을 찾아보면, AI Agent에는 통제가 필요하고, 디버깅이 가능하도록 추적가능한 구조가 요구된다.
따라서 세션간 메모리를 추가하고, Feedback Loop, Guardrail 등 사용자의 의도와 벗어나지 않는 작업을 지향하는 설계가 필요하다
하네스 엔지니어링
사용자마다 추구하는 방향은 다르지만 주 목적은 ‘의도에 벗어나지 않는 작업을 해주는 AI Agent’라는 점에서 이를 설계하는 것을 Harness Engineering이라고 할 수 있다.
Context Engineering: 정보 공급의 파이프라인, 즉 관련 응답을 얻기위한 데이터 수집 방법 Architectural Contrants: 자율성을 그대로 두지 않고, 제한을 두는 방법 (Scaffold, Guardrail 등이 여기에 속함) Entropy Management: AI이 불확실성(무질서도)를 통제하여 예측 가능한 결과물을 도출출
