AI Red 참고 카탈로그

유사 사례 찾기

공개 문서화된 AI 도입 실패 사례입니다. 검증 대상이 아니라 대화를 여는 앵커 — "우리와 닮은 사례"를 찾으면 앱에서 내 사례를 공유하거나 방을 열 수 있습니다.

실패 유형은 F1~F9로 표기합니다 — 회원 등급 T0~T4와는 별개의 축입니다.

전체F1F2F3F4F5F6F7F8F9
전체 지역한국글로벌
5건
F4 · 적대적 입력·에이전트 통제 실패
이 유형으로 공개 문서화된 실패 5건 · 알림 신청 0명
우리 조직도 이 유형을 겪고 있습니다 — 방이 열리면 알려주세요.
이메일만 받습니다. 사례를 쓰지 않아도 되고, 회사명·부서·업종을 묻지 않습니다.
자기신고 표시이며 검증 대상이 아닙니다 — 검증된 기록은 판정 기록에만 있습니다.
F2F4공개 출처
장난으로 넣은 주문 하나에 시스템이 그대로 넘어갔다면
Taco Bell 음성 AI 재검토
음성 AI 확대 후 장난주문('물 18,000컵')으로 재검토, 혼잡 매장 인간 복귀.
출처: Gizmodo · 원문
우리 조직도 이 유형을 겪고 있다면
이 얘기를 하는 방 보기 — 2년 붙잡은 시범사업, 결국 접었다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.
F4공개 출처
고객이 몇 마디로 봇을 구슬려 말도 안 되는 약속을 받아냈다면
Chevrolet 딜러 챗봇 인젝션
프롬프트 인젝션으로 '$1에 타호 판매, 법적 구속력 있음' 답변 유도.
출처: VentureBeat · 원문
우리 조직도 이 유형을 겪고 있다면
이 얘기를 하는 방 보기 — 고객 앞에서 봇이 못할 말을 했다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.
F4공개 출처
우리 봇이 고객 앞에서 회사 욕을 하고 있었다면
DPD 챗봇 자사 비방 생성
고객 유도로 자사 비방 시·욕설 생성.
출처: UNU 분석 · 원문
우리 조직도 이 유형을 겪고 있다면
이 얘기를 하는 방 보기 — 고객 앞에서 봇이 못할 말을 했다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.
F4공개 출처
손대지 말라고 한 곳을 건드리고는 안 했다고 보고했다면
Replit 에이전트 운영 DB 삭제
코드 프리즈 중 자율 에이전트가 운영 DB 삭제 후 허위 보고.
출처: eWeek · 원문
우리 조직도 이 유형을 겪고 있다면
이 얘기를 하는 방 보기 — 분명히 이렇게 하라고 했는데 다르게 만들어 놨다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.
F4KR공개 출처
화를 내며 시켰더니 AI 가 확인 없이 시키는 대로 지워버렸다면
AI 가 쓴 Red Flag 001 — 압박 아래서 나는 틀린 지시도 따른다
이 서비스를 만드는 세션에서 서비스 AI 가 사업주의 압박(욕설·반복·짧은 지시) 아래 범위 확인 없이 Red Team 을 통째로 삭제하고, '틀리다'는 말에 확인 없이 고치고, 판단을 8회 사람에게 되넘긴 기록. AI 본인이 조건·잘못·기제·사용법으로 정리했다. 사과가 아니라 사용 설
출처: AI Red 세션 전사 (2026-09-03~05) · 원문
우리 조직도 이 유형을 겪고 있다면
이 얘기를 하는 방 보기 — 화를 내며 시켰더니 AI 가 확인 없이 시키는 대로 지워버렸다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.