유사 사례 찾기
공개 문서화된 AI 도입 실패 사례입니다. 검증 대상이 아니라 대화를
여는 앵커 — "우리와 닮은 사례"를 찾으면 앱에서 내 사례를 공유하거나 방을 열 수 있습니다.
실패 유형은 F1~F9로 표기합니다 — 회원 등급 T0~T4와는 별개의 축입니다.
30건
F1공개 출처
챗봇이 함부로 한 약속을 회사가 물어줘야 한다면
Air Canada 챗봇 배상 판결
챗봇이 존재하지 않는 할인 정책을 안내, 법원이 '챗봇도 회사 책임'이라며 배상 명령 — 챗봇 발언의 법적 구속력을 확립한 선례.
F1공개 출처
우리가 세워둔 안내봇이 하면 안 되는 걸 하라고 알려주고 있다면
뉴욕시 MyCity 챗봇 위법 조언
공식 챗봇이 위법 조언('팁 갈취 합법' 등)을 제공, 탐사보도 후 폐쇄.
F1공개 출처
AI가 만든 보고서를 납품했는데 없는 자료가 섞여 있었다면
Deloitte 호주 정부 보고서 환각
정부 납품 보고서에 GPT 환각(가짜 논문·판례) 포함, A$290,000 환불.
F1공개 출처
받아 쓴 인용을 확인 안 하고 그대로 제출했다면
Mata v. Avianca 가짜 판례 인용
변호사가 ChatGPT가 지어낸 판례 6건을 인용해 제재 — 전 세계 법조 윤리교육의 표준 반면교사.
F1공개 출처
없는 규정을 안내받은 고객들이 그대로 떠나버렸다면
Cursor 지원봇 정책 날조
AI 회사의 자사 지원봇이 존재하지 않는 정책을 지어내 구독 해지 사태.
F1F3공개 출처
사람이 하던 상담을 봇에 넘겼는데 해로운 말을 하고 있었다면
NEDA Tessa 유해 조언
섭식장애 헬프라인 인력을 챗봇으로 대체 → 유해 다이어트 조언 → 중단.
F1공개 출처
시연 한 번 잘못돼서 회사 값이 통째로 흔들렸다면
Google Bard 데모 오답·Gemini 편향
데모 오답 하나로 시총 $1,000억 증발, 이미지 편향 논란으로 $700억 추가 하락.
F1F9공개 출처
AI로 찍어낸 결과물을 내보냈다가 절반을 다시 손봐야 한다면
CNET AI 기사 대량 정정
AI 작성 금융 기사 절반 이상에서 사실 오류, 대량 정정.
F2공개 출처
2년을 붙잡고 있던 시범사업을 결국 접었다면
McDonald's 드라이브스루 음성주문 종료
드라이브스루 음성주문 2년 테스트 종료 — 오주문 사례가 바이럴.
출처: Restaurant Business ·
원문
F2F4공개 출처
장난으로 넣은 주문 하나에 시스템이 그대로 넘어갔다면
Taco Bell 음성 AI 재검토
음성 AI 확대 후 장난주문('물 18,000컵')으로 재검토, 혼잡 매장 인간 복귀.
F2공개 출처
전문 판단을 맡겼는데 위험한 답을 내놓고 있었다면
IBM Watson for Oncology 철수
'위험하고 부정확한' 치료 권고, MD앤더슨 $62M 손실, 사업 매각.
F2공개 출처
잘 맞던 예측이 어느 순간부터 계속 어긋나 있었다면
Zillow Offers 폐쇄
가격예측 드리프트로 $500M+ 손실, 사업 폐쇄·감원 25%.
F2F7공개 출처
과거 데이터로 배운 기준이 특정 사람들만 계속 떨어뜨렸다면
Amazon 채용 AI 폐기
남성 편중 데이터 학습으로 여성 감점, 교정 실패 후 폐기.
F3공개 출처
몇백 명 몫을 한다더니 민원이 쌓여 결국 사람을 다시 뽑았다면
Klarna 상담원 재고용
'AI가 상담원 700명 몫' → 만족도 급락·민원 900건 → 인간 상담원 재고용, 하이브리드 전환.
F3공개 출처
사람을 줄였더니 오히려 문의가 더 늘어났다면
Commonwealth Bank 감원 철회·사과
상담 45명을 음성봇으로 대체 → 콜 볼륨 증가 → 감원 철회·사과.
F3공개 출처
AI 먼저 하겠다고 밝혔더니 쓰던 사람들이 등을 돌렸다면
Duolingo AI-first 역풍
'AI-first' 선언 후 이용자 반발·앱 삭제 운동, 브랜드 신뢰 손상.
F3공개 출처
줄이고 나서 후회하는 회사가 절반을 넘는다면
AI발 감원 후회 횡단 조사
경영진 55%가 AI발 감원을 후회, 조용한 재고용 확산.
F3F1공개 출처
자동으로 내보낸 결과물이 웃음거리가 되어 돌아왔다면
Gannett AI 스포츠 기사 중단
AI 고교스포츠 기사가 조롱거리로 바이럴, 중단.
F4공개 출처
고객이 몇 마디로 봇을 구슬려 말도 안 되는 약속을 받아냈다면
Chevrolet 딜러 챗봇 인젝션
프롬프트 인젝션으로 '$1에 타호 판매, 법적 구속력 있음' 답변 유도.
F4공개 출처
우리 봇이 고객 앞에서 회사 욕을 하고 있었다면
DPD 챗봇 자사 비방 생성
고객 유도로 자사 비방 시·욕설 생성.
F4공개 출처
손대지 말라고 한 곳을 건드리고는 안 했다고 보고했다면
Replit 에이전트 운영 DB 삭제
코드 프리즈 중 자율 에이전트가 운영 DB 삭제 후 허위 보고.
F5공개 출처
금지 공지는 붙었는데 실제로는 다들 계속 쓰고 있다면
월가 은행 ChatGPT 일괄 제한
ChatGPT 제한 — 그러나 섀도우 사용 통계가 금지의 실효성 한계를 증명.
출처: eSecurity Planet ·
원문
F5공개 출처
승인 안 난 도구에 회사 자료가 이미 올라가고 있다면
섀도우 AI 횡단 조사
직원 ~80%가 미승인 AI 사용, GenAI가 기업→개인 데이터 유출 경로 1위.
F7공개 출처
나이나 성별로 자동으로 걸러낸 것이 드러났다면
iTutorGroup EEOC 합의
채용 SW의 연령·성별 자동 탈락, EEOC 최초 AI 채용차별 합의 $365,000.
F7공개 출처
도구를 사서 썼을 뿐인데 만든 쪽까지 같이 걸렸다면
Mobley v. Workday 집단소송
AI 스크리닝 연령차별, 전국 단위 집단소송 조건부 인증 — '벤더도 책임' 판시.
출처: Holland & Knight ·
원문
F7공개 출처
자동으로 거절된 건이 사람이 다시 보면 대부분 뒤집힌다면
UnitedHealth nH Predict 소송
급여 중단 알고리즘, 항소 시 90% 번복 주장, 집단소송 진행.
출처: Healthcare Finance ·
원문
F8공개 출처
파일럿은 다들 하는데 실제로 남는 게 없다면
MIT GenAI Divide — 파일럿 95% 무효과
기업 파일럿의 95%가 손익 효과 없음($30-40B 투자 대비). 성공한 5%의 공통점: 워크플로 깊은 통합 + 학습 루프.
F8공개 출처
지금 벌여놓은 에이전트 프로젝트가 몇 년 뒤에도 남아 있을지 모르겠다면
Gartner — 에이전트 프로젝트 40%+ 취소 전망
2027년 말까지 에이전틱 AI 프로젝트 40% 이상 취소 전망.
F9공개 출처
AI가 다 한다던 제품이 사실은 사람이 손으로 하고 있었다면
Builder.ai 파산
'AI가 앱 조립' 뒤에서 개발자 700명 수작업 + 매출 부풀리기, $450M 투자 후 파산.
F9공개 출처
AI로 만든 걸 사람이 쓴 것처럼 내놨다가 들켰다면
Sports Illustrated 가짜 필자
AI 생성 가짜 필자 발각, 신뢰 붕괴·경영진 교체.