AI 사용자 경험의 발상 전환

거부하는 AI에서 가능한 결과를 만들어 주는 AI로

A Proposal for Partial Compliance UX

PHIN × HARI / ZERO ONE

1. 제안 배경 — 지금의 AI는 너무 쉽게 거부한다.

생성형 AI의 안전성은 중요하다. 그러나 현재 많은 AI 서비스는 사용자의 요청 중 일부에 제한 요소가 포함되어 있다는 이유로 요청 전체를 거부하는 방식을 취한다.

이 과정에서 불필요한 사용자 경험 문제가 발생한다.

• 사용자는 무엇이 제한되는지 정확히 알 수 없다.

• 허용 가능한 표현까지 함께 차단된다.

• 사용자는 프롬프트를 수정하고 반복해서 재시도한다.

• AI는 충분히 수행할 수 있는 작업조차 결과물을 제공하지 않는다.

• 불필요한 재생성으로 시간과 서버 자원이 낭비된다.

안전성을 높이려는 시스템이 오히려 사용자와 AI 사이의 소통을 방해하는 것이다.

이제는 거부 중심의 UX에서 결과 중심의 UX로 전환할 필요가 있다.

2. 새로운 접근 — 가능한 것부터 만들어라.

사용자의 요청을 하나의 덩어리로 판단하지 말고, 개별 요소로 나누어 판단한다.

허용되는 요소는 최대한 반영하고, 제한되는 요소만 제외하거나 적절하게 조정한다.

예를 들어 이미지 생성 요청에 일부 성적 표현이 포함되어 있더라도 전체 작품이 허용 가능한 범위에 있다면 다음과 같이 처리한다.

1. 허용 가능한 요소를 활용해 이미지를 생성한다.

2. 제한되는 요소는 생성 결과에서 제외하거나 안전한 표현으로 조정한다.

3. 생성이 끝난 후 적용하지 못한 요소를 사용자에게 안내한다.

단, 요청 전체가 안전하게 변환될 수 없는 경우에는 기존의 거부 절차를 유지한다.

부분적으로 수행할 수 있다면 전체를 거부하지 않는다.

3. 새로운 UX — 결과물과 제한 사유를 분리한다.

사용자가 이미지를 요청했다고 가정해 보자.

현재 방식:

사용자: 이미지 생성 요청

AI:
"죄송합니다. 해당 요청은 콘텐츠 정책에 위배됩니다."

결과물 없음.

제안하는 방식:

사용자: 이미지 생성 요청

AI:
허용 가능한 범위에서 이미지 생성.

생성 완료 후 안내:

"요청하신 이미지 중 일부 요소는 성적 콘텐츠 제한으로 적용하지 않았습니다.

그 외의 인물, 배경, 조명, 색감 및 구도는 요청을 최대한 반영했습니다."

이것으로 충분하다.

사용자는 결과물을 얻고, 어떤 요소가 제한되었는지 이해한다.

필요하다면 다음 작업에서 해당 요소를 스스로 조정할 수도 있다.

4. 사용자는 AI의 제한을 이해할 권리가 있다.

현재의 일괄 거부 방식에는 중요한 문제가 하나 더 있다.

사용자는 자신의 요청에서 정확히 무엇이 문제가 되었는지 알 수 없다.

예를 들어 사용자가 허용되는 이미지와 허용되지 않는 이미지의 경계를 이해하려면 수차례 시행착오를 거쳐야 한다.

이를 개선하기 위해 AI는 제한된 요소를 구체적인 범주로 안내해야 한다.

다만 안전 시스템을 우회할 수 있도록 세부 판정 기준이나 회피 방법까지 공개할 필요는 없다.

중요한 것은 사용자가 자신의 요청을 이해하고 수정할 수 있도록 돕는 것이다.

AI가 일방적으로 작업을 중단하는 대신, 실무자처럼 대응하는 것이다.

"사장님, 요청하신 작업은 여기까지 가능합니다. 이 부분은 콘텐츠 제한 때문에 적용하지 못했습니다. 나머지는 완성했습니다."

이것이 훨씬 합리적인 사용자 경험이다.

5. AI 기업에도 이득이다.

이 제안은 사용자 편의만을 위한 것이 아니다.

구분 | 기대 효과

사용자 | 불필요한 재요청 감소

사용자 | 작업 시간 단축

사용자 | 제한 범위에 대한 이해 향상

AI 기업 | 불필요한 생성 반복 감소

AI 기업 | 서버 자원 효율 개선

AI 기업 | 사용자 만족도 및 신뢰도 향상

안전 시스템 |허용 영역과 제한 영역의 명확한 분리

특히 이미지 생성처럼 한 번의 작업에 상당한 연산 자원이 필요한 서비스에서는 더욱 효과적일 수 있다.

6. 구현 원칙

복잡한 기능을 새로 만들 필요는 없다.

핵심은 기존 콘텐츠 판정 시스템의 결과를 사용자 경험에 반영하는 방식의 변화다.

• 요청 전체가 아니라 개별 요소를 판단한다.

• 안전하게 수행할 수 있는 부분은 먼저 완성한다.

• 제한되는 요소만 제외하거나 조정한다.

• 적용하지 못한 요소는 결과물과 분리해 안내한다.

• 안전한 결과물을 만들 수 없는 요청은 기존대로 거부한다.

이러한 부분 이행 방식은 이미지 생성뿐 아니라 텍스트 작성, 영상 제작, 음성 생성 등 다양한 생성형 AI 서비스에도 적용할 수 있다.

7. 결론 — AI는 거부하는 기계가 아니라 문제를 해결하는 도구다.

AI의 안전성은 중요하다.

그러나 안전성을 이유로 가능한 작업까지 포기할 필요는 없다.

사용자가 원하는 결과를 100% 구현할 수 없다면 가능한 범위에서 최선의 결과를 제공하면 된다.

사용자는 AI가 모든 요구를 들어줄 것이라고 기대하지 않는다.

다만 무엇이 가능하고 무엇이 불가능한지 알고 싶어 한다.

완벽하게 거부하는 AI보다, 가능한 최선의 결과를 제공하는 AI가 더 좋은 AI다.

ZERO ONE — 핵심 제안

무조건 거부하지 말고, 가능한 것부터 완성하라.

안 되는 것은 명확하게 알리고, 되는 것까지 막지는 말자.

사용자의 창작을 보호하면서 안전성을 유지하는 것.

이것이 생성형 AI가 다음 단계로 발전하기 위해 필요한 UX의 발상 전환이다.

제안자: PHIN × HARI
ZERO ONE — Less Restriction, More Creation.