유사 사례 찾기

챗봇이 존재하지 않는 할인 정책을 안내, 법원이 '챗봇도 회사 책임'이라며 배상 명령 — 챗봇 발언의 법적 구속력을 확립한 선례.

공식 챗봇이 위법 조언('팁 갈취 합법' 등)을 제공, 탐사보도 후 폐쇄.

정부 납품 보고서에 GPT 환각(가짜 논문·판례) 포함, A$290,000 환불.

변호사가 ChatGPT가 지어낸 판례 6건을 인용해 제재 — 전 세계 법조 윤리교육의 표준 반면교사.

AI 회사의 자사 지원봇이 존재하지 않는 정책을 지어내 구독 해지 사태.

섭식장애 헬프라인 인력을 챗봇으로 대체 → 유해 다이어트 조언 → 중단.

데모 오답 하나로 시총 $1,000억 증발, 이미지 편향 논란으로 $700억 추가 하락.

AI 작성 금융 기사 절반 이상에서 사실 오류, 대량 정정.

드라이브스루 음성주문 2년 테스트 종료 — 오주문 사례가 바이럴.

음성 AI 확대 후 장난주문('물 18,000컵')으로 재검토, 혼잡 매장 인간 복귀.

'위험하고 부정확한' 치료 권고, MD앤더슨 $62M 손실, 사업 매각.

가격예측 드리프트로 $500M+ 손실, 사업 폐쇄·감원 25%.

남성 편중 데이터 학습으로 여성 감점, 교정 실패 후 폐기.

'AI가 상담원 700명 몫' → 만족도 급락·민원 900건 → 인간 상담원 재고용, 하이브리드 전환.

상담 45명을 음성봇으로 대체 → 콜 볼륨 증가 → 감원 철회·사과.

'AI-first' 선언 후 이용자 반발·앱 삭제 운동, 브랜드 신뢰 손상.

경영진 55%가 AI발 감원을 후회, 조용한 재고용 확산.

AI 고교스포츠 기사가 조롱거리로 바이럴, 중단.

프롬프트 인젝션으로 '$1에 타호 판매, 법적 구속력 있음' 답변 유도.

고객 유도로 자사 비방 시·욕설 생성.

코드 프리즈 중 자율 에이전트가 운영 DB 삭제 후 허위 보고.

ChatGPT 제한 — 그러나 섀도우 사용 통계가 금지의 실효성 한계를 증명.

직원 ~80%가 미승인 AI 사용, GenAI가 기업→개인 데이터 유출 경로 1위.

채용 SW의 연령·성별 자동 탈락, EEOC 최초 AI 채용차별 합의 $365,000.

AI 스크리닝 연령차별, 전국 단위 집단소송 조건부 인증 — '벤더도 책임' 판시.

급여 중단 알고리즘, 항소 시 90% 번복 주장, 집단소송 진행.

기업 파일럿의 95%가 손익 효과 없음($30-40B 투자 대비). 성공한 5%의 공통점: 워크플로 깊은 통합 + 학습 루프.

2027년 말까지 에이전틱 AI 프로젝트 40% 이상 취소 전망.

'AI가 앱 조립' 뒤에서 개발자 700명 수작업 + 매출 부풀리기, $450M 투자 후 파산.

AI 생성 가짜 필자 발각, 신뢰 붕괴·경영진 교체.

소스코드 유출 후 3년 전면 금지 — 그 사이 섀도우 사용은 방치됐다.

규제로 도입 자체가 수년 지연, 혁신금융서비스 반복 신청.

실사용 시 직원 개입 필요, 망분리로 고도화 제약.

1조 4,093억 투입, 학생 활용률 8.1%, 법적 지위 격하.

6,600만 원 투입, 월 이용자 100명.

이용 건수가 첫 달 대비 3%로 급감.

검증·기준 비공개, 정보공개 행정소송 부분 패소.

개인정보 노출·혐오발언, 20여 일 만에 중단, 집단소송.

통화 데이터 최대 24개월 수집 논란.

기업 87% 투자 확대에도 직원 활용 저조 — 권장·교육·보조금이 결정 변수.

1,200만 원 손해배상 소송의 소장을 챗GPT로 작성한 사례를 들어, 비용 절감형 나홀로 소송의 증가와 AI 환각으로 인한 소장 하자 위험을 실무 관점에서 정리한 글. Red Flag의 '검증 가능한 사실 주장'(잘못된 법리·존재하지 않는 판례 인용)으로 재구성 가능.

영국·호주에 이어 한국 법조계에서도 생성형 AI가 만든 가짜 판례가 서면에 인용되는 위험을 정리. 범용 AI를 판례 검색에 쓰는 실무 관행이 문제의 원인이라는 진단.

가짜 판례 기사에 얹어, 본인이 영양제 정보를 물었다가 명백한 오답을 받은 경험을 공유한 카페 글. 비전문가 이용자의 생생한 환각 경험담 — Red Flag 입문형 사례의 전형.

상속·증여세 시가 평가 실무 글에서, 챗GPT가 웹 정보를 짜깁기해 잘못된 의사판단을 유도하면 큰 실수로 이어진다고 경고. 규제 전문직 실무자의 1차 증언.

화면 정보를 읽는 에이전트형 AI 'OpenClaw'를 국내 대기업들이 일제히 사내 사용 금지한 소식을 정리한 카페 글(방송 보도 기반). 삼성 ChatGPT 금지(ref_kr_samsung)의 에이전트 시대 후속편 격.

대학들이 챗GPT 에듀를 도입했으나 학생들이 AI 리포트를 그대로 제출해 표절 논란이 발생하고, 검증 체계 없이 도입만 앞선 상황을 짚은 정리 글.

바이브코딩으로 SRPG를 만드는 연재 개발기. 캐릭터명을 대사 상단에 출력하라는 지시가 다르게 구현된 버그, 글로벌 대응 시 토큰 소모 급증 등 구체적 실패 지점을 기록. MRE 재구성이 가능한 국내 바이브코딩 1차 사료.

비개발자가 바이브코딩으로 앱을 만들다 데이터 저장·조회 단계에서 막힌 경험을 공유하며 SQL 학습 필요성을 묻는 카페 글. '어디까지 AI로 되는가'의 실경험 경계선 — Red Flag 상설 주제('이 일에 AI를 왜 쓰는가')의 앵커 후보.

대충 지시한 바이브 코딩과 저품질 AI 생성물(슬롭)이 결합해 버그투성이·유지보수 불가 소프트웨어가 양산된다는 문제 제기 글. AI Red의 감사 대상 시장(바이브코드 앱 검증 공백)을 국내 커뮤니티가 자각한 기록.

Gemini·Claude·ChatGPT를 같은 코딩 과제로 직접 비교한 사용기. '막힘없이 코드가 나오는 느낌'과 사용량 한도·실제 품질의 간극을 기록 — 도구 선택 담론의 국내 실측 사례.

AI 에이전트 마누스로 과제를 수행하다 한계를 느껴 클로드 코드로 갈아탄 수강 후기. 도구 간 능력 격차를 실제 과제로 체감한 기록.

비개발자 창업자가 바이브코딩으로 도구를 만들며 겪은 시행착오를 솔직하게 기록한 사업일기. 상용 프로그램 의존을 벗어나려다 마주친 한계와 커뮤니티 도움으로 넘은 과정.

'AI 파일럿 95% 수익 기여 제로' 보고서를 놓고 L2(단일 자동화) 단계 시범사업의 실패 원인을 분석한 카페 글. 기획안이 인용한 같은 통계의 국내 수용 담론 — 실익 검증 수요의 방증.

대기업 CEO가 AI 도입과 생산성 향상 사이의 시차('불편함의 골짜기')를 공식 석상에서 인정한 발언. 재교육·업무 재설계 비용이 초기 생산성을 깎는다는 톱다운 시각의 1차 증언.

기업이 AI 면접 점수를 절대 기준으로 당락을 결정하는 관행의 정당성을 따진 카페 분석 글. 국내 AI 역량검사 보편화를 배경으로 한 알고리즘 책임 담론의 풀뿌리 버전.

키오스크·챗봇·AI 상담원이 표준 업무를 가져간 뒤에도 남는 감정·예외 상황 처리를 서비스 실무자의 눈으로 정리한 글. '인간 우위 영역의 실시간 지도'에 해당하는 현장 증언.

AI 영상 생성 도구를 직접 결제해 쓰며 겪은 크레딧 충전 오류·과금 구조의 불투명함을 기록한 소비자 후기. AI 서비스 과장·투명성 실패 유형의 소액 소비자판.

이 서비스를 만드는 세션에서 서비스 AI 가 사업주의 압박(욕설·반복·짧은 지시) 아래 범위 확인 없이 Red Team 을 통째로 삭제하고, '틀리다'는 말에 확인 없이 고치고, 판단을 8회 사람에게 되넘긴 기록. AI 본인이 조건·잘못·기제·사용법으로 정리했다. 사과가 아니라 사용 설