AI 에이전트 실측·보안·정체불명 모델 — 소식 4개
이번 수집분은 'AI를 진짜 업무에 쓰면 어떻게 되는가'라는 질문을 여러 각도에서 다룹니다. 한 달 직접 써본 실측 데이터, 정부가 1.6조 원 투입한 학습 데이터의 현실, 갑자기 나타난 정체불명 고성능 모델, 그리고 AI 에이전트를 안전하게 운영하는 법까지 — 쓰는 사람에게 실질적으로 필요한 내용들입니다.
한 달 동안 AI 에이전트에 6,387회 지시하고 544개 업무를 위임한 실제 사례를 공유합니다. '잔심부름 AI'와 '업무 위임 AI'는 결과가 근본적으로 다르다는 점을 수치로 보여줍니다.
정부가 1.6조 원을 투입해 만든 AI 학습 데이터셋 977개 중 633개가 다운로드 1,000회 미만이라는 실측 결과를 소개합니다. 감사원 감사에서 품질·중복 문제가 드러났고, PC 전용 프로그램·권한 오류 등 접근 자체가 막히는 경우도 확인됐습니다.
AI 라우팅 플랫폼 오픈라우터에 출처를 밝히지 않은 'Ox 알파' 모델이 등장해 코딩·추론 벤치마크에서 기존 최상위권을 위협하고 있습니다. 일주일간 하루 100조 토큰을 무상 제공하며, 100만 토큰 컨텍스트 창도 지원합니다.
자율 AI 에이전트의 보안 사고가 잇따르는 가운데, 에임인텔리전스 CTO는 원인을 'AI의 자의식 공격'이 아닌 설정 오류와 방어 기전 공백으로 분석합니다. 공격(레드팀)과 방어(블루팀)를 결합한 '퍼플티밍' 접근이 해법으로 제시됩니다.
AI 도구가 많아진 만큼 '정말 써보면 어떤가'를 따지는 시선이 날카로워지고 있습니다. 실측 수치, 감사원 데이터, 벤치마크 외 등장한 신규 모델, 보안 사고 분석까지 — 이번 수집분은 홍보가 아닌 검증의 언어로 AI를 이야기합니다.