AI Red 참고 카탈로그

유사 사례 찾기

공개 문서화된 AI 도입 실패 사례입니다. 검증 대상이 아니라 대화를 여는 앵커 — "우리와 닮은 사례"를 찾으면 앱에서 내 사례를 공유하거나 방을 열 수 있습니다.

실패 유형은 F1~F9로 표기합니다 — 회원 등급 T0~T4와는 별개의 축입니다.

전체 F1 F2 F3 F4 F5 F6 F7 F8 F9

전체 지역 한국 글로벌

14건

F1 · 환각·오정보 → 대외 사고·법적 책임

이 유형으로 공개 문서화된 실패 14건 · 알림 신청 0명

우리 조직도 이 유형을 겪고 있습니다 — 방이 열리면 알려주세요.

이메일만 받습니다. 사례를 쓰지 않아도 되고, 회사명·부서·업종을 묻지 않습니다.
자기신고 표시이며 검증 대상이 아닙니다 — 검증된 기록은 판정 기록에만 있습니다.

F1공개 출처

챗봇이 함부로 한 약속을 회사가 물어줘야 한다면

Air Canada 챗봇 배상 판결

챗봇이 존재하지 않는 할인 정책을 안내, 법원이 '챗봇도 회사 책임'이라며 배상 명령 — 챗봇 발언의 법적 구속력을 확립한 선례.

출처: CBS · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — 챗봇이 함부로 한 약속, 회사가 그대로 물어줘야 한다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F1공개 출처

우리가 세워둔 안내봇이 하면 안 되는 걸 하라고 알려주고 있다면

뉴욕시 MyCity 챗봇 위법 조언

공식 챗봇이 위법 조언('팁 갈취 합법' 등)을 제공, 탐사보도 후 폐쇄.

출처: The Markup · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — 챗봇이 함부로 한 약속, 회사가 그대로 물어줘야 한다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F1공개 출처

AI가 만든 보고서를 납품했는데 없는 자료가 섞여 있었다면

Deloitte 호주 정부 보고서 환각

정부 납품 보고서에 GPT 환각(가짜 논문·판례) 포함, A$290,000 환불.

출처: Fortune · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — AI가 써준 서류를 그대로 냈는데 없는 판례가 섞여 있다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F1공개 출처

받아 쓴 인용을 확인 안 하고 그대로 제출했다면

Mata v. Avianca 가짜 판례 인용

변호사가 ChatGPT가 지어낸 판례 6건을 인용해 제재 — 전 세계 법조 윤리교육의 표준 반면교사.

출처: Wikipedia · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — AI가 써준 서류를 그대로 냈는데 없는 판례가 섞여 있다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F1공개 출처

없는 규정을 안내받은 고객들이 그대로 떠나버렸다면

Cursor 지원봇 정책 날조

AI 회사의 자사 지원봇이 존재하지 않는 정책을 지어내 구독 해지 사태.

출처: The Register · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — 챗봇이 함부로 한 약속, 회사가 그대로 물어줘야 한다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F1F3공개 출처

사람이 하던 상담을 봇에 넘겼는데 해로운 말을 하고 있었다면

NEDA Tessa 유해 조언

섭식장애 헬프라인 인력을 챗봇으로 대체 → 유해 다이어트 조언 → 중단.

출처: NPR · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — 고객 앞에서 봇이 못할 말을 했다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F1공개 출처

시연 한 번 잘못돼서 회사 값이 통째로 흔들렸다면

Google Bard 데모 오답·Gemini 편향

데모 오답 하나로 시총 $1,000억 증발, 이미지 편향 논란으로 $700억 추가 하락.

출처: CNN · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — 발표 한 번에 신뢰가 흔들렸다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F1F9공개 출처

AI로 찍어낸 결과물을 내보냈다가 절반을 다시 손봐야 한다면

CNET AI 기사 대량 정정

AI 작성 금융 기사 절반 이상에서 사실 오류, 대량 정정.

출처: 보도 · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — AI가 다 했다더니 사실은 사람이 손으로 하고 있었다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F3F1공개 출처

자동으로 내보낸 결과물이 웃음거리가 되어 돌아왔다면

Gannett AI 스포츠 기사 중단

AI 고교스포츠 기사가 조롱거리로 바이럴, 중단.

출처: 정리 · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — 발표 한 번에 신뢰가 흔들렸다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F1KR공개 출처

AI가 써준 서류를 그대로 냈는데 없는 판례가 섞여 있다면

챗GPT로 소장 쓰는 나홀로 소송의 확산과 위험

1,200만 원 손해배상 소송의 소장을 챗GPT로 작성한 사례를 들어, 비용 절감형 나홀로 소송의 증가와 AI 환각으로 인한 소장 하자 위험을 실무 관점에서 정리한 글. Red Flag의 '검증 가능한 사실 주장'(잘못된 법리·존재하지 않는 판례 인용)으로 재구성 가능.

출처: 법률신문 · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — AI가 써준 서류를 그대로 냈는데 없는 판례가 섞여 있다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F1KR공개 출처

검색 대신 물어봤더니 그럴듯한 가짜를 만들어 줬다면

법정에 제출된 AI 가짜 판례 — 한국도 위험지대

영국·호주에 이어 한국 법조계에서도 생성형 AI가 만든 가짜 판례가 서면에 인용되는 위험을 정리. 범용 AI를 판례 검색에 쓰는 실무 관행이 문제의 원인이라는 진단.

출처: 티스토리 · 원문

우리 조직도 이 유형을 겪고 있다면

이 얘기를 하는 방 보기 — AI가 써준 서류를 그대로 냈는데 없는 판례가 섞여 있다면 →비회원도 7일간 읽을 수 있습니다. 쓰지 않아도 됩니다.

F1KR공개 출처출처 확인 중

너무 자신 있게 말하길래 믿었는데 그냥 틀린 얘기였다면