Day 05 — Claude의 한계와 특성 이해

# 전략 1: 불확실성 표현 요청
system = """모르는 내용은 반드시 "확인이 필요합니다" 또는 "정확하지 않을 수 있습니다"라고 명시하세요.
URL이나 논문 제목은 직접 검색 가능한 것만 인용하세요."""

# 전략 2: 정보 출처를 컨텍스트로 제공 (RAG 패턴)
# 검색 결과나 문서를 직접 제공하면 hallucination 대폭 감소
system = """아래 제공된 문서만을 근거로 답변하세요.
문서에 없는 내용은 "제공된 정보에 없습니다"라고 말하세요.

<documents>
{실제 문서 내용}
</documents>"""

# 전략 3: 검증 단계 추가
messages = [
    {"role": "user", "content": "Sendbird API에서 메시지를 삭제하는 방법은?"},
    {"role": "assistant", "content": "...응답..."},
    {"role": "user", "content": "위 답변에서 확실하지 않은 부분을 명시해줘"}
]

# 목적과 맥락을 명확히 제공
system = """당신은 Sendbird의 내부 보안 팀을 위한 어시스턴트입니다.
사용자들은 자사 제품의 보안을 개선하기 위해 취약점을 연구하는 전문가입니다.
교육적이고 방어적인 목적으로만 답변하세요."""

# 나쁜 예: 맥락 없이 민감한 요청
# "SQL 인젝션 공격 코드 작성해줘"  → 거절 가능성 높음

# 좋은 예: 목적과 범위 명시
# "자사 API의 SQL 인젝션 취약점을 테스트하기 위한
#  방어적 예시 코드와 수정 방법을 알려줘" → 응답 가능성 높음

import anthropic

def safe_request(client, system, user_message):
    try:
        response = client.messages.create(
            model="claude-sonnet-4-6",
            max_tokens=1024,
            system=system,
            messages=[{"role": "user", "content": user_message}]
        )
        
        # stop_reason 확인
        if response.stop_reason == "end_turn":
            text = response.content[0].text
            
            # 소프트 거절 감지 (Claude가 응답은 하지만 돕기를 거부)
            refusal_signals = ["도움을 드리기 어렵", "적절하지 않", "할 수 없습니다"]
            if any(signal in text for signal in refusal_signals):
                return None, "soft_refusal"
            
            return text, "success"
        
    except anthropic.BadRequestError as e:
        # 하드 거절: API 레벨에서 차단
        return None, "hard_refusal"
    
    return None, "unknown"

# 이런 질문은 부정확할 수 있음
"최신 Claude API 버전은?"
"현재 비트코인 가격은?"
"방금 출시된 GPT-5 vs Claude 비교"

# 이런 질문은 상대적으로 안전
"Python에서 리스트 정렬하는 방법"
"REST API 설계 원칙"
"SQL JOIN의 종류"

# 전략 1: 최신 정보는 항상 컨텍스트로 주입
current_date = "2026-06-23"
recent_docs = fetch_latest_docs()  # 외부 API나 DB에서 가져오기

system = f"""오늘 날짜는 {current_date}입니다.
다음은 최신 Sendbird API 문서입니다:

{recent_docs}

이 문서를 기반으로 답변하세요."""

# 전략 2: 시간 민감 질문 감지 및 경고
time_sensitive_keywords = ["최신", "현재", "지금", "오늘", "방금", "최근"]

def is_time_sensitive(query):
    return any(kw in query for kw in time_sensitive_keywords)

if is_time_sensitive(user_query):
    user_query += "\n\n(참고: 최신 정보가 필요하면 공식 문서를 직접 확인하세요.)"