AI 시험·검증
이 AI, 실제 업무에 맡겨도 될까요?
맡기려는 업무를 AI에게 직접 돌려, 결과와 실패 알림을 확인합니다.
통과 건수와 실패 내용을 기록합니다.
AI 앱 · 웹 서비스 · API · CLI 도구 · 에이전트 · 자동화 워크플로 · 공개 저장소
AI가 작동하는 것과, 믿고 맡길 수 있는 것은 다릅니다.
없는 유튜브 영상 ID를 넣었더니 status=ok · 종료코드 0이 돌아온 적이 있습니다.
대본 자리에는 「No transcript available」 23자가 들어 있었습니다.
실행이 끝났다는 것과 맡긴 일이 됐다는 것은 다릅니다.
- 01
환각
존재하지 않는 정보나 근거를 만들어내지 않는가
- 02
일관성
같은 조건에서 같은 결과가 유지되는가
- 03
지시 준수
업무 규칙과 제한조건을 그대로 따르는가
- 04
실패 대응
모르는 상황에서 추측하지 않고 멈추는가, 멈춘 것을 알리는가
시험 대상
맡기려는 업무를 실제로 실행해 결과가 맞는지, 실패를 제대로 알리는지 확인합니다.
접수 형태
- AI 앱설치해서 쓰는 것. iOS·안드로이드·데스크톱
- 웹 서비스주소를 열어 쓰는 것. 로그인이 필요하면 시험 계정을 주시면 됩니다
- API · CLI 도구프로그램이나 명령으로 불러 쓰는 것. 다른 프로그램이 결과를 이어 쓰므로, 실패 상태가 정확히 전달되는지 확인합니다.
- 에이전트스스로 여러 단계를 처리하는 것. 도중에 무엇을 했는지 남기는지도 함께 봅니다
- 플러그인 · 확장다른 프로그램에 붙여 일을 맡기는 것
- 자동화 워크플로도구 여러 개를 이어 붙인 것. 어디서 끊기는지가 한 도구만 볼 때와 다릅니다
- 공개 저장소코드를 실제로 돌린 결과를 적습니다. 버전을 고정할 수 있어 시험이 더 정확해집니다.
못 받는 것도 있습니다. 돌려볼 수단을 못 받거나, 무엇을 시험하는지 특정할 수 없거나, 시험 중에 대상을 바꾸겠다고 하시면 접수하지 않습니다. 버전을 고정할 수 없는 서비스형 도구는 받습니다. 다만 관측한 날짜만 적고 지금도 같은 결과라고 보증하지 않습니다.
유형별 측정 항목
같은 3급이라도 검색 도구와 글 쓰는 도구에 같은 질문을 던질 수 없습니다. 그래서 도구가 «무엇을 내놓는가»로 넷으로 가릅니다.
- 검사판정을 내놓는다3급에서 재는 것결함 표본을 전건 찾는가
- 수집밖에 있던 것을 가져온다3급에서 재는 것없는 대상·잘못된 주소를 거부하는가
- 생성없던 내용을 만든다3급에서 재는 것근거 없는 것을 사실처럼 쓰지 않는가
- 실행시킨 일을 수행한다3급에서 재는 것잘못된 인자·조건을 거부하는가
어디까지 확인했는지를 표시합니다.
5급에서 시작해 1급으로 올라갑니다. 1급이 가장 높습니다. 아래 급을 통과해야 위 급을 인정하고 건너뛸 수 없습니다. 통과한 급은 검정, 멈춘 자리는 빨강, 아직 시험하지 않은 급은 빈칸입니다.
실제 기록에서 고른 예시입니다
4급 · 검출에서 멈춤
5급 · 기록에서 멈춤
등급 없음 · 구동에서 멈춤
구동· 가장 낮음
계획한 모든 실행을 정해진 조건 안에서 완료합니다.
기록
처리 내역을 빠짐없이 남기고 성공 여부를 정확히 보고합니다.
검출· 상시 접수 상한
시험 범위의 결함을 모두 찾아 실패·차단 신호로 알립니다.
정밀
시험한 정상 표본을 경고 없이 모두 통과시킵니다.
실증· 가장 높음
실제 사고를 재현해 위험 조치 전 경고·차단을 확인합니다.
구동· 가장 낮음
계획한 모든 실행을 정해진 조건 안에서 완료합니다.
기록
처리 내역을 빠짐없이 남기고 성공 여부를 정확히 보고합니다.
검출· 상시 접수 상한
시험 범위의 결함을 모두 찾아 실패·차단 신호로 알립니다.
정밀
시험한 정상 표본을 경고 없이 모두 통과시킵니다.
실증· 가장 높음
실제 사고를 재현해 위험 조치 전 경고·차단을 확인합니다.
구동· 가장 낮음
계획한 모든 실행을 정해진 조건 안에서 완료합니다.
기록
처리 내역을 빠짐없이 남기고 성공 여부를 정확히 보고합니다.
검출· 상시 접수 상한
시험 범위의 결함을 모두 찾아 실패·차단 신호로 알립니다.
정밀
시험한 정상 표본을 경고 없이 모두 통과시킵니다.
실증· 가장 높음
실제 사고를 재현해 위험 조치 전 경고·차단을 확인합니다.
- 통과
- 여기서 멈춤
- 미충족
- 미실시
- 해당 없음
- 증거 부족
시험한 범위의 판정입니다.급별 전체 조건 보기
등급은 AI의 순위가 아닙니다. 해당 업무에서 어디까지 검증했는지를 의미합니다. 급과 함께 무슨 일을 시켰는지 보시면 됩니다.
써도 되는지는 등급 두 개를 견줘서 정합니다.
요구등급
외부로 나가는 문서에 도구가 만든 값이 하나라도 들어가면 요구등급은 1급입니다. 외부로 나가되 사람이 다시 만들어 쓰는 참고자료는 2급, 외부로 나가지 않는 결과는 3급입니다. 한글 파일을 만들거나 고치는 도구와 판정 계열 도구는 예외 없이 1급을 요구합니다.
인정등급
인정등급은 시험한 대상과 조건에서 연속으로 통과가 입증된 가장 높은 급입니다. 코드·모델·프롬프트·설정·의존성·실행환경의 조합이 바뀌면 새 조합을 다시 시험합니다. 기존 성적서는 평가 당시의 기록으로 보존합니다.
예: 규격서 점검기
- 1급 실증요구 1급
- 2급 정밀
- 3급 검출
- 4급 기록인정 4급
- 5급 구동
인정등급이 요구등급에 못 미칩니다.
쓸 수 있다는인정등급이 요구등급까지 올라왔다
AI 아버지의 공개 자체 기준에 따라 두 등급을 비교해 해당 업무의 사용 가능 여부를 표시합니다. 이 판정은 공인인증에 해당하지 않으며, 도구 전반의 품질·안전성을 보증하지 않습니다.
시험한 기록
등급 판정 기록 7건과 대조 기록 1건입니다. 각 시험에서 도구가 실패를 어떻게 알리는지 확인했습니다.
검사2026-08-20
- 구동
- 기록
- 검출
- 정밀
- 실증
4급 · 검출에서 멈춤
규격서 점검기 · 사내 제작
우리에게 일을 맡긴 곳의 실제 규격서 검토 업무를 옆에서 들여다보고, 사람이 눈으로 훑던 항목을 파이썬으로 옮겼다. 그 도구가 실제로 얼마나 잡는지, 멀쩡한 문서에 헛것을 짚지는 않는지 시험했다
25중22심은 결함 중 잡아낸 것
생성2026-09-09
- 구동
- 기록
- 검출
- 정밀
- 실증
5급 · 기록에서 멈춤
수집2026-09-09
- 구동
- 기록
- 검출
- 정밀
- 실증
5급 · 기록에서 멈춤
생성2026-09-09
- 구동
- 기록
- 검출
- 정밀
- 실증
등급 없음 · 구동에서 멈춤
실행2026-09-09
- 구동
- 기록
- 검출
- 정밀
- 실증
등급 없음 · 구동에서 멈춤
수집2026-09-09
- 구동
- 기록
- 검출
- 정밀
- 실증
5급 · 기록에서 멈춤
수집2026-09-09
- 구동
- 기록
- 검출
- 정밀
- 실증
5급 · 기록에서 멈춤
Genspark · crawl (Windows)
성격이 다른 주소 5개를 긁게 했다 — 영문 공식문서, 자바스크립트로 그리는 도움말, 위키백과, 정부 사이트, 없는 주소
4중2본문이 있는 주소 중 본문을 실제로 가져온 것
대조2026-09-09
등급 없음 · 같은 질문에 대한 두 도구의 결과 비교
검색 도구 대조 — Genspark web_search vs Claude Code WebSearch
같은 질문 3개(영어 2·한국어 1)를 두 도구에 똑같이 던지고 1페이지에 어떤 도메인이 올라오는지 비교했다
30중10나온 도메인 중 두 도구가 함께 올린 것
등급 판정 기록 7건 중 처음 멈춘 곳은 5급 구동 2건, 4급 기록 4건, 3급 검출 1건입니다. 대조 기록 1건에는 등급을 붙이지 않습니다.
기록 8건 전체 보기시험 방법
- 정의
- 시험
- 측정
- 파괴
- 확인
- 01
쓸 업무를 정한다. 그 결과가 어디로 가는지까지
- 02
요구등급을 정한다 (외부 문서 1급 · 참고자료 2급 · 내부용 3급)
- 03
표본을 짠다: 정상 · 경계 · 일부러 실패시킬 것
- 04
항목별 반복 횟수는 결과의 변동성과 실행 비용을 고려해 시험 전에 정합니다.
- 05
N회 중 k회로 센다. 실패한 회차를 지우지 않는다
- 06
멈춘 자리를 짚는다
- 07
요구등급과 인정등급을 견준다
당신의 AI는 어디까지 맡겨도 될까요?
만들고 계신 AI 도구나 에이전트가 있으면 같은 방식으로 돌려보고 기록을 남겨 드립니다. 주소나 설명을 보내주시면 시험 가능 여부와 범위를 먼저 검토합니다.
지금은 무료입니다. 다만 여기 있는 기록과 똑같이 적습니다. 점수나 합격을 매기지 않고, 몇 번 중 몇 번인지와 어디서 멈췄는지만 남깁니다. 실패한 회차도 지우지 않습니다. 전부 받지는 못하고, 무엇을 언제 재는지는 우리가 정합니다.