생성형 AI는 문장을 만들며 사실을 보증하지 않습니다유창함과 정확성은 서로 다른 평가입니다
생성형 AI가 제시한 날짜, 금액, 자격 요건과 인용은 원문에서 확인하기 전까지 확정 정보로 사용하지 않습니다.
생성형 AI는 질문의 맥락에 맞는 답변을 만들어 내지만 오래된 정보, 서로 다른 제도의 혼합, 존재하지 않는 문서 제목이나 인용을 제시할 수 있습니다. 한국지능정보사회진흥원(NIA)의 생성형 AI 윤리 자료는 허위조작정보, 책임성, 개인정보와 오남용 등 이용 시 고려할 쟁점을 다룹니다. NIA가 2025년에 발표한 AI 환각 보고서도 정보가 틀리게 생성되는 위험과 분야별 영향을 설명합니다.
근거 확인 NIA 생성형 AI 윤리 가이드북
근거 확인 NIA AI 환각 위험 관리 보고서
따라서 답변에 출처 링크가 달려 있어도 링크가 실제로 해당 주장을 뒷받침하는지 열어 확인해야 합니다. 검색 결과 요약이나 AI가 만든 출처 이름을 원문 검토 대신 쓰지 마세요.
먼저 답변에서 검증할 주장만 분리합니다결정에 영향을 주는 날짜·자격·금액을 표시합니다
긴 답변 전체를 한 번에 검증하기보다 “언제부터 시행”, “누가 대상”, “얼마나 지원”, “어디에 신청”, “어떤 예외”처럼 질문을 나눕니다. 각 주장 옆에 답변이 제시한 기관과 문서명을 적고, 공식 사이트에서 실제 문서가 존재하는지 확인합니다. 법률 조항 번호나 통계 숫자는 한 자릿수 차이도 결론을 바꿀 수 있으므로 특히 따로 검증합니다.
| 답변의 주장 | 원문에서 대조할 점 | 행동 전 확인 |
|---|---|---|
| 정책 시행일 | 공고일과 실제 시행일, 경과조치 | 현재 신청기간과 적용연도 |
| 지원 자격·금액 | 가구·소득·재산 기준과 산정 예외 | 공식 신청 화면의 모의계산·심사 기준 |
| 법률·계약 해석 | 법령 최신 시행본과 조문·판례의 범위 | 개별 계약·사실관계에 대한 전문가 검토 필요성 |
| 금융·투자 정보 | 수수료, 위험, 원금손실 조건과 기준일 | 공식 금융회사·감독기관 문서와 계약서 |
| 의료·안전 조언 | 공공 보건기관의 최신 안내와 긴급 징후 | 응급이면 AI 대신 119·의료진 |
공식 원문과 날짜를 두 군데 이상 대조합니다요약 글보다 담당 기관의 공고와 서비스 페이지가 우선입니다
정부지원은 담당 부처나 복지로·정부24의 현재 안내에서 대상, 신청 창구, 접수 마감과 제출자료를 확인합니다. 금융은 금융감독원이나 금융회사 공식 약관, 의료·안전은 질병관리청·소방청 등 소관 기관의 지침을 우선합니다. 보도자료와 실제 신청 페이지가 서로 다르면 게시일과 신청 화면의 최신 상태를 비교하고 기관에 문의합니다.
한 공식 출처가 다른 사이트의 요약을 그대로 재게시했을 수 있으므로 출처 독립성도 살펴봅니다. 시행일·금액처럼 변할 수 있는 정보는 문서 게시일·최종 수정일을 기록하고, 설명회 영상·블로그·커뮤니티 글은 원문에 도달하는 탐색용으로만 사용합니다.
출처 링크가 답변을 실제로 뒷받침하는지 읽습니다문서 제목만 맞고 세부 주장은 틀릴 수 있습니다
AI가 제시한 링크를 열어 제목, 발행기관, 날짜, 해당 문단을 하나씩 대조합니다. 존재하지 않는 URL, 다른 기관의 유사한 자료, 질문과 무관한 법 조항을 출처처럼 붙일 수도 있습니다. 원문에서 해당 숫자나 요건을 찾을 수 없다면 그 주장은 확인되지 않은 것으로 남겨 둡니다.
“공식 자료로 검증했다”는 재질문만으로 정확성이 보장되지는 않습니다. 원문 링크와 정확한 문구를 요청하고, 답변의 오류 가능성을 열어 둔 채 내가 직접 원문에서 확인하는 절차가 필요합니다.
개인정보와 회사 기밀을 입력하지 않습니다서비스별 저장·학습 설정은 각각 확인해야 합니다
주민등록번호, 계좌·카드번호, 인증번호, 비밀번호, 건강기록, 자녀 정보, 서명된 계약서나 회사 미공개 자료는 공개형 AI 대화창에 그대로 넣지 않는 편이 안전합니다. 답변을 구하려고 문서를 보여줘야 한다면 식별 가능한 이름, 연락처, 주소, 계좌번호를 삭제하거나 일반화하고, 조직의 승인된 도구·보안 규칙을 먼저 확인하세요.
서비스가 입력 내용을 어떻게 저장·처리하는지는 제공자, 계정 유형, 설정과 약관에 따라 달라질 수 있습니다. “학습에 사용 안 함” 설정이 모든 저장·보안 처리까지 없앤다고 해석하지 말고 해당 서비스의 개인정보 안내와 조직 정책을 확인합니다. 다른 사람의 개인정보를 당사자 동의 없이 붙여넣는 것도 피합니다.
민감하거나 중요한 결정은 전문가와 담당기관에 확인합니다AI는 상담·심사·진단의 최종 주체가 아닙니다
세금 신고, 대출 계약, 연금·복지 수급, 치료·약물, 법률 분쟁처럼 결과가 큰 사안은 AI 답변을 질문 목록과 개념 정리에만 활용합니다. 개인의 서류와 조건을 바탕으로 내리는 최종 판단은 해당 기관, 자격 있는 전문가, 의료진이 확인해야 합니다. 서류를 제출하거나 돈을 송금하기 전 공식 연락처로 직접 확인하세요.
급박한 건강·안전 위험이나 금융사기 신고 상황에서는 AI에 질문을 계속하는 대신 119, 은행 공식 고객센터, 경찰 등 실제 대응기관에 연락합니다. 나중에 상담할 수 있도록 화면·문서의 날짜와 출처는 보존하되, 온라인에 공개할 때는 개인정보를 가립니다.
검증 결과를 간단한 기록으로 남깁니다다음에 같은 정보를 다시 확인할 수 있게 합니다
확인 기록에는 질문, 검증한 핵심 주장, 공식 원문 URL, 발행·수정 날짜, 확인 결과, 아직 남은 불확실성을 적습니다. 정책이나 가격처럼 시간이 지나 바뀌는 정보는 재확인 날짜를 붙입니다. AI가 틀린 답을 했다고 판단되면 해당 서비스의 신고 기능을 사용할 수 있지만, 신고가 즉시 수정이나 개인 피해 구제를 뜻하지는 않습니다.
이 습관은 AI를 사용하지 말자는 뜻이 아닙니다. 초안·용어 설명·확인 질문 만들기에는 활용하되, 근거를 직접 읽고 중요한 결정을 사람과 공식 기관이 확인하도록 역할을 구분하는 방법입니다.
궁금한 점자주 묻는 질문
AI가 공식 링크를 붙이면 답변이 맞는 건가요
링크가 실제로 해당 주장과 일치하는지 원문에서 확인해야 합니다. 출처가 존재해도 숫자·시행일·예외가 틀릴 수 있습니다.
지원금이나 세금 질문은 AI에 물으면 안 되나요
개념과 확인할 질문을 정리하는 데는 쓸 수 있지만 대상·기간·금액·신고 결정을 담당 기관의 최신 안내나 자격 있는 전문가에게 확인하세요.
개인정보를 지우면 계약서를 AI에 올려도 되나요
식별정보 삭제만으로 기밀성이나 보안이 보장되지는 않습니다. 서비스의 처리조건과 조직 정책을 확인하고 승인되지 않은 문서는 업로드하지 않는 편이 안전합니다.
AI가 답을 바꾸면 어느 답을 믿어야 하나요
대화 답변끼리 다수결을 하기보다 소관 기관의 현재 원문과 담당자 확인을 기준으로 삼으세요. 불확실한 내용은 확정 정보로 사용하지 않습니다.
응급 증상이나 사기 송금은 AI에게 먼저 물어봐도 되나요
위급하면 119, 금융거래 의심은 은행 공식 고객센터와 경찰 등 실제 대응기관에 즉시 연락하세요. AI 질의로 신고를 늦추지 않습니다.
